‘Godfather of Ai’ mengatakan para peneliti yang baik menjadi peneliti yang baik
Untuk memukul ide -ide yang pada akhirnya bisa berkembang menjadi terobosan, “Godfather of Ai,” Geoffrey Hinton, mengatakan Anda harus “pelawan.”
“Anda harus memiliki keyakinan yang mendalam bahwa semua orang bisa melakukan kesalahan, dan Anda bisa mencari cara melakukannya dengan benar,” kata Hinton dalam keadaan baru -baru ini Wawancara dengan CBS. “Dan kebanyakan orang tidak percaya itu tentang diri mereka sendiri.”
Hinton dianugerahi Hadiah Nobel 2024 dalam fisika untuk karyanya dalam pembelajaran mesin dan sebelumnya telah memperingatkan kemungkinan risiko eksistensial AI.
Ketika ditanya tentang nasihat yang akan dia berikan kepada generasi peneliti AI yang akan datang, Hinton menyarankan untuk mencari inefisiensi. Meskipun ide -ide dalam nada ini sering menyebabkan jalan buntu, jika mereka berjalan, katanya, ada kemungkinan Anda memukul sesuatu yang besar.
“Anda harus mencari sesuatu di mana Anda mengetahui bahwa semua orang melakukan kesalahan dan Anda pikir ada cara berbeda untuk melakukannya,” kata Hinton. “Dan kamu harus mengejar itu sampai kamu mengerti mengapa kamu salah. Tapi sesekali, begitulah cara kamu mendapatkan ide -ide baru yang bagus.”
“Kepercayaan diri intelektual” dapat melekat atau diperoleh-dalam kasus Hinton, ia mengatakan itu adalah bagian dari sifat, sebagian pengasuhan.
“Ayahku seperti itu,” katanya. “Jadi itu adalah panutan untuk menjadi pelawan.”
Hinton mengatakan dia menghabiskan waktu bertahun -tahun untuk memikirkan cara -cara bahwa sistem yang ada dapat ditantang – dan bahwa dia salah lebih sering daripada dia melakukannya dengan benar.
“Saya menghabiskan beberapa dekade memiliki banyak dan banyak ide tentang bagaimana melakukan sesuatu secara berbeda,” katanya. “Hampir semuanya salah, tetapi kadang -kadang, mereka benar.”
Hinton tidak segera menanggapi permintaan komentar dari Business Insider sebelum publikasi.
Bahkan sekarang, Hinton masih memandang dirinya sebagai beroperasi di luar norma. Dia mengatakan bahwa sikap itu penting – jika Anda tidak terikat pada metode yang ada dalam melakukan sesuatu, Anda akan merasa lebih mudah untuk menantangnya.
“Itu mengharuskan Anda untuk menganggap diri Anda sebagai orang luar,” katanya. “Aku selalu menganggap diriku sebagai orang luar. Aku agak tidak senang dengan situasi sekarang di mana aku seorang orang dalam. Aku lebih suka menjadi orang luar.”
Hinton, yang mengatakan kepada CBS bahwa dia menggunakan Openai’s GPT-4 dan mempercayainya lebih dari yang seharusnya, sebelumnya telah memperingatkan potensi bahaya AI.
Dalam email 2023 ke Business Insider, Hinton mengatakan manusia harus “sangat prihatin” tentang tingkat kemajuan dalam pengembangan AI.
Hinton pada saat itu memperkirakan bahwa itu bisa antara lima dan 20 tahun sebelum AI menjadi ancaman nyata, dan bahkan lebih lama bagi teknologi untuk menjadi ancaman bagi kemanusiaan – jika pernah terjadi.
“Masih mungkin bahwa ancaman itu tidak akan terwujud,” katanya sebelumnya kepada BI.
