Ketika datang untuk memenangkan perlombaan AI, “Godfather of Ai” berpikir ada keuntungan karena tidak ada ruginya.
Pada sebuah episode podcast “Diary of a CEO” yang ditayangkan 16 Juni, Geoffrey Hinton meletakkan apa yang dilihatnya sebagai perbedaan utama antara bagaimana Openai dan Google, mantan majikannya, berurusan dengan keselamatan AI.
“Ketika mereka memiliki chatbots besar ini, mereka tidak melepaskannya, mungkin karena mereka khawatir tentang reputasi mereka,” kata Hinton tentang Google. “Mereka memiliki reputasi yang sangat baik, dan mereka tidak ingin merusaknya.”
Google merilis Bard, AI Chatbot -nya, pada bulan Maret 2023, sebelum kemudian memasukkannya ke dalam rangkaian model bahasa besar yang lebih besar yang disebut Gemini. Perusahaan ini sedang mengejar ketinggalan, karena OpenAI merilis ChatGPT pada akhir 2022.
Hinton, yang mendapatkan julukannya untuk pekerjaan perintisnya di jaringan saraf, menetapkan alasan utama bahwa Openai dapat bergerak lebih cepat pada episode podcast: “Openai tidak memiliki reputasi, sehingga mereka mampu mengambil taruhan.”
Berbicara pada pertemuan semua tangan tak lama setelah chatgpt keluar, kepala Google saat itu dari AI mengatakan perusahaan tidak berencana untuk segera merilis chatbot karena “risiko reputasi,” menambahkan bahwa itu perlu membuat pilihan “lebih konservatif daripada startup kecil,” CNBC melaporkan pada saat itu.
Bos AI perusahaan, CEO Google Deepmind Demis Hassabis, mengatakan pada bulan Februari tahun ini bahwa AI menimbulkan risiko jangka panjang yang potensial, dan bahwa sistem agen bisa “di luar kendali.” Dia menganjurkan memiliki badan pemerintahan yang mengatur proyek AI.
Gemini telah membuat beberapa kesalahan profil tinggi sejak diluncurkan, dan menunjukkan bias dalam respons tertulis dan fitur yang menghasilkan gambar. CEO Google Sundar Pichai membahas kontroversi dalam memo kepada staf tahun lalu, mengatakan perusahaan itu “salah” dan berjanji untuk melakukan perubahan.
“Ayah baptis” melihat pengambilan keputusan chatbot awal Google dari dalam-ia menghabiskan lebih dari satu dekade di perusahaan sebelum berhenti untuk berbicara lebih bebas tentang apa yang ia gambarkan sebagai bahaya AI. Namun, pada episode podcast hari Senin, Hinton mengatakan dia tidak menghadapi tekanan internal untuk tetap diam.
“Google mendorong saya untuk tinggal dan bekerja pada keselamatan AI, dan mengatakan saya bisa melakukan apa pun yang saya sukai pada keselamatan AI,” katanya. “Kamu semacam menyensor sendiri. Jika kamu bekerja untuk perusahaan besar, kamu tidak merasa benar mengatakan hal -hal yang akan merusak perusahaan besar.”
Secara keseluruhan, Hinton mengatakan dia pikir Google “benar -benar berperilaku sangat bertanggung jawab.”
Hinton tidak bisa yakin tentang Openai, meskipun dia belum pernah bekerja di perusahaan. Ketika ditanya apakah CEO perusahaan, Sam Altman, memiliki “kompas moral yang baik” di awal episode, katanya, “Kita akan lihat.” Dia menambahkan bahwa dia tidak mengenal Altman secara pribadi, jadi dia tidak ingin berkomentar lebih lanjut.
Openai telah menghadapi kritik dalam beberapa bulan terakhir karena mendekati keselamatan secara berbeda dari di masa lalu. Dalam yang baru Blog Posting, perusahaan mengatakan hanya akan mengubah persyaratan keselamatannya setelah memastikan itu tidak akan “secara bermakna meningkatkan risiko keseluruhan kerusakan parah.” Area fokusnya untuk keselamatan sekarang termasuk keamanan siber, ancaman kimia, dan kekuatan AI untuk meningkat secara mandiri.
Altman membela pendekatan Openai terhadap keselamatan di Wawancara di TED2025 Pada bulan April, mengatakan bahwa kerangka kesiapsiagaan perusahaan menguraikan “di mana kami pikir momen bahaya yang paling penting adalah.” Altman juga mengakui dalam wawancara bahwa Openai telah melonggarkan beberapa pembatasan pada perilaku modelnya berdasarkan umpan balik pengguna tentang sensor.
Kompetisi sebelumnya antara Openai dan Google untuk merilis chatbots awal sangat ganas, dan perlombaan bakat AI hanya memanas. Dokumen yang ditinjau oleh Business Insider mengungkapkan bahwa Google mengandalkan chatgpt pada tahun 2023 – selama upayanya untuk mengejar chatgpt.
Perwakilan untuk Google dan Openai tidak menanggapi permintaan BI untuk memberikan komentar.
Sumber
https://www.businessinsider.com/godfather-of-ai-geoffrey-hinton-openai-google-difference-safety-2025-6
