- Meredith Whittaker, presiden Signal, mengatakan Agen AI menimbulkan risiko keamanan yang serius bagi pengguna.
- Agen AI mengacu pada bot yang dapat bernalar dan melakukan tugas untuk manusia tanpa masukan mereka.
- Tetapi memiliki tugas lengkap bot untuk pengguna berarti memberikannya akses ke rim data, kata Whittaker.
Sinyal Presiden Meredith Whittaker skeptis tentang agen AI – yaitu, agen AI yang dapat menyelesaikan tugas atau membuat keputusan tanpa masukan manusia.
Sementara beberapa titans teknologi telah menggembar -gemborkan betapa agennya agen AI dapat dan meluncurkan agen AI untuk dicoba, Whittaker memperingatkan risiko privasi yang ditimbulkan oleh agen otonom saat berbicara di konferensi SXSW 2025 dan festival di Austin pada hari Jumat.
“Saya pikir ada bahaya nyata yang kita hadapi,” kata Whittaker, “sebagian karena apa yang kami lakukan Memberikan begitu banyak kontrol terhadap sistem ini yang akan membutuhkan akses ke data. “
Whittaker adalah presiden Yayasan Teknologi Sinyal nirlaba yang menjalankan aplikasi sinyal terenkripsi ujung ke ujung yang dikenal dengan keamanan digitalnya.
Agen AI dipasarkan seperti “bot Genie Magic” yang dapat memikirkan beberapa langkah di depan dan menyelesaikan tugas untuk pengguna sehingga “otak Anda dapat duduk di dalam toples, dan Anda tidak melakukan apa pun dari itu sendiri,” kata Whittaker.
Sebagai contoh, dia mengatakan Agen AI dapat menyelesaikan tugas -tugas seperti menemukan konser, memesan tiket, dan membuka aplikasi seperti sinyal untuk mengirim pesan kepada teman dengan detail tiket konser. Tetapi pada setiap langkah dalam proses itu, agen AI akan mengakses data bahwa pengguna mungkin ingin merahasiakan, katanya.
“Itu akan membutuhkan akses ke browser kami, kemampuan untuk mengendarainya. Perlu informasi kartu kredit kami untuk membayar tiket. Itu akan membutuhkan akses ke kalender kami, semua yang kami lakukan, semua orang yang kami temui. Perlu akses untuk memberi sinyal untuk membuka dan mengirim pesan itu kepada teman -teman kami,” katanya. “Itu harus dapat mengendarainya di seluruh sistem kami dengan sesuatu yang terlihat seperti izin root, mengakses setiap database, mungkin dalam hal yang jelas karena tidak ada model untuk melakukan itu dienkripsi.”
Whittaker menambahkan bahwa agen AI yang cukup kuat untuk melakukan itu akan “hampir pasti” memproses data di luar perangkat dengan mengirimkannya ke server cloud dan kembali.
“Jadi ada masalah mendalam dengan keamanan dan privasi yang menghantui hype semacam ini di sekitar agen, dan itu pada akhirnya mengancam untuk memecahkan penghalang darah-otak antara lapisan aplikasi dan OS Lapisan dengan menyatu dengan semua layanan terpisah ini, melumpuhkan data mereka, dan melakukan hal -hal seperti merusak privasi pesan sinyal Anda, “katanya.
Whittaker bukan satu -satunya yang khawatir tentang risiko yang ditimbulkan oleh Agentic AI.
Yoshua Bengio, ilmuwan riset Kanada yang dianggap sebagai salah satu ayah baptis AI, mengeluarkan peringatan serupa saat berbicara dengan orang dalam bisnis di Forum Ekonomi Dunia di Davos pada bulan Januari.
“Semua skenario bencana dengan AGI atau Superintelligence terjadi jika kita memiliki agen,” kata Bengio, merujuk pada Kecerdasan Umum Buatanambang batas di mana mesin dapat beralasan sebaik manusia.
“Kami dapat memajukan ilmu kami tentang AI yang aman dan mampu, tetapi kami perlu mengakui risikonya, memahami secara ilmiah dari mana ia berasal, dan kemudian melakukan investasi teknologi untuk mewujudkannya sebelum terlambat, dan kami membangun hal -hal yang dapat menghancurkan kami,” kata Bengio.
