‘Godfather of Ai’ mengatakan manusia tidak akan berdaya jika AI merebut kendali
Seorang ilmuwan yang karyanya membantu mengubah bidang kecerdasan buatan mengatakan dia “agak senang” menjadi 77 – karena dia mungkin tidak hidup cukup lama untuk menyaksikan konsekuensi teknologi yang berpotensi berbahaya.
Geoffrey Hinton, yang sering disebut sebagai “ayah baptis AI,” diperingatkan dalam wawancara berita CBS yang ditayangkan pada hari Sabtu bahwa AI maju lebih cepat daripada yang pernah diprediksi oleh para ahli – dan bahwa begitu melampaui kecerdasan manusia, kemanusiaan mungkin tidak dapat mencegahnya mengambil kendali.
“Hal -hal yang lebih cerdas dari yang Anda dapat memanipulasi Anda,” kata Hinton, yang dianugerahi Hadiah Nobel 2024 dalam fisika untuk terobosannya dalam pembelajaran mesin.
Dia membandingkan manusia yang memajukan AI untuk memelihara harimau. “Itu hanya anak harimau yang lucu,” katanya. “Sekarang, kecuali kamu bisa sangat yakin bahwa itu tidak akan ingin membunuhmu saat sudah dewasa, kamu harus khawatir.”
Hinton memperkirakan “semacam peluang 10 hingga 20%” bahwa sistem AI pada akhirnya dapat mengambil kendali, meskipun ia menekankan bahwa tidak mungkin untuk memprediksi dengan tepat.
Salah satu alasan untuk kekhawatirannya adalah munculnya agen AI, yang tidak hanya menjawab pertanyaan tetapi dapat melakukan tugas secara mandiri. “Banyak hal, jika ada, lebih menakutkan dari sebelumnya,” kata Hinton.
Garis waktu untuk AI Superintelligent juga lebih pendek dari yang diharapkan, kata Hinton. Setahun yang lalu, ia percaya itu akan menjadi lima hingga 20 tahun sebelum kedatangan AI yang dapat melampaui kecerdasan manusia di setiap domain. Sekarang, dia berkata, “Ada kemungkinan besar itu akan ada di sini dalam 10 tahun atau kurang.”
Hinton juga memperingatkan bahwa persaingan global antara perusahaan teknologi dan negara -negara menjadikannya “sangat, sangat tidak mungkin” bahwa umat manusia akan menghindari membangun pengawasan. “Mereka semua setelah hal mengkilap berikutnya,” katanya. “Masalahnya adalah apakah kita dapat mendesainnya sedemikian rupa sehingga tidak pernah ingin mengambil kendali.”
Hinton juga menyatakan kekecewaan dengan perusahaan teknologi yang pernah dikagumi. Dia mengatakan dia “sangat kecewa” bahwa Google – di mana dia bekerja selama lebih dari satu dekade – membalikkan sikapnya terhadap aplikasi militer AI. “Saya tidak akan senang bekerja untuk mereka hari ini,” tambahnya.
Hinton mengundurkan diri dari Google pada tahun 2023. Dia mengatakan dia pergi sehingga dia bisa berbicara dengan bebas tentang bahaya pengembangan AI. Dia sekarang seorang profesor emeritus di University of Toronto.
Hinton tidak segera menanggapi permintaan Business Insider untuk memberikan komentar.
