Mantan pekerja Openai meminta AGS negara bagian untuk memblokir konversi nirlaba

0 0 3 minutes read

Mantan karyawan Openai meminta petugas penegak hukum terkemuka di California dan Delaware untuk menghentikan perusahaan dari pergeseran kontrol teknologi kecerdasan buatannya dari badan amal nirlaba ke bisnis nirlaba.
Mereka khawatir tentang apa yang terjadi jika pembuat chatgpt memenuhi ambisinya untuk membangun AI yang mengungguli manusia, tetapi tidak lagi bertanggung jawab atas misi publiknya untuk melindungi teknologi itu dari menyebabkan kerugian yang menyedihkan.
“Pada akhirnya, saya khawatir tentang siapa yang memiliki dan mengendalikan teknologi ini setelah dibuat,” kata Page Hedley, mantan penasihat kebijakan dan etika di Openai, dalam sebuah wawancara dengan Associated Press.
Didukung oleh tiga pemenang Hadiah Nobel dan pendukung dan ahli lainnya, Hedley dan sembilan mantan pekerja Openai lainnya mengirim surat minggu ini kepada dua jaksa agung negara bagian.
Koalisi ini meminta Jaksa Agung California Rob Bonta dan Jaksa Agung Delaware Kathy Jennings, keduanya Demokrat, untuk menggunakan wewenang mereka untuk melindungi tujuan amal Openai dan memblokir restrukturisasi yang direncanakan. Openai didirikan di Delaware dan beroperasi di luar San Francisco.
Openai mengatakan sebagai tanggapan bahwa “setiap perubahan pada struktur kami yang ada akan melayani untuk memastikan publik yang lebih luas dapat memperoleh manfaat dari AI.” Dikatakan nirlabanya akan menjadi perusahaan manfaat publik, mirip dengan laboratorium AI lainnya seperti antropik dan miliarder teknologi Elon Musk Xai, kecuali bahwa Openai masih akan mempertahankan lengan nirlaba.
“Struktur ini akan terus memastikan bahwa karena nirlaba berhasil dan tumbuh, demikian juga nirlaba, memungkinkan kami untuk mencapai misi,” kata perusahaan dalam sebuah pernyataan.
Surat itu adalah petisi kedua untuk pejabat negara bulan ini. Yang terakhir datang dari sekelompok pemimpin tenaga kerja dan organisasi nirlaba yang berfokus pada melindungi miliaran dolar aset amal Openai.
Jennings mengatakan musim gugur yang lalu dia akan “meninjau transaksi semacam itu untuk memastikan bahwa kepentingan publik dilindungi secara memadai.” Kantor Bonta mencari lebih banyak informasi dari OpenAI akhir tahun lalu tetapi mengatakan tidak dapat berkomentar, bahkan untuk mengkonfirmasi atau menyangkal apakah sedang menyelidiki.
Pendiri Openai, termasuk CEO saat ini Sam Altman dan Musk, awalnya memulainya sebagai laboratorium penelitian nirlaba dalam misi untuk membangun dengan aman apa yang dikenal sebagai kecerdasan umum buatan, atau AGI, untuk keuntungan umat manusia. Hampir satu dekade kemudian, Openai telah melaporkan nilai pasarnya sebagai $ 300 miliar dan menghitung 400 juta pengguna mingguan ChatGPT, produk andalannya.
Openai sudah memiliki anak perusahaan nirlaba tetapi menghadapi sejumlah tantangan dalam mengkonversi struktur tata kelola intinya. Salah satunya adalah gugatan dari Musk, yang menuduh perusahaan dan Altman mengkhianati prinsip -prinsip pendirian yang menyebabkan CEO Tesla berinvestasi dalam amal tersebut.
Sementara beberapa penandatangan surat minggu ini mendukung gugatan Musk, Hedley mengatakan yang lain “dapat dimengerti sinis” karena Musk juga menjalankan perusahaan AI saingannya sendiri.
Para penandatangan termasuk dua ekonom pemenang Nobel, Oliver Hart dan Joseph Stiglitz, serta perintis AI dan ilmuwan komputer Geoffrey Hinton, yang memenangkan Hadiah Nobel Fisika tahun lalu, dan Stuart Russell.
“Saya suka misi Openai untuk ‘memastikan bahwa intelijen umum buatan menguntungkan semua umat manusia,’ dan saya ingin mereka melaksanakan misi itu alih -alih memperkaya investor mereka,” kata Hinton dalam sebuah pernyataan Rabu. “Saya senang ada upaya untuk mengadakan Openai pada misinya yang tidak melibatkan Elon Musk.”
Konflik atas tujuan Openai telah lama mendidih di San Francisco Institute, berkontribusi pada Musk yang berhenti pada tahun 2018, pemicu berumur pendek Altman pada tahun 2023 dan keberangkatan profil tinggi lainnya.
Hedley, seorang pengacara berdasarkan pelatihan, bekerja untuk OpenAI pada 2017 dan 2018, saat nirlaba masih menavigasi cara terbaik untuk menguasai teknologi yang ingin dibangunnya. Baru -baru ini pada tahun 2023, Altman mengatakan AI canggih menjanjikan tetapi juga memperingatkan risiko luar biasa, dari kecelakaan drastis hingga gangguan masyarakat.
Namun, dalam beberapa tahun terakhir, Hedley mengatakan dia menyaksikan dengan kekhawatiran sebagai Openai, didukung oleh keberhasilan chatgpt, semakin memotong sudut pada pengujian keselamatan dan mengalir keluar produk baru untuk maju dari pesaing bisnis.
“Biaya keputusan tersebut akan terus naik karena teknologi menjadi lebih kuat,” katanya. “Saya pikir dalam struktur baru yang diinginkan Openai, insentif untuk terburu -buru membuat keputusan itu akan naik dan tidak akan ada lagi siapa pun yang benar -benar dapat memberi tahu mereka untuk tidak, memberi tahu mereka bahwa ini tidak baik.”
Insinyur Perangkat Lunak Anish Tondwalkar, mantan anggota tim teknis Openai sampai tahun lalu, mengatakan jaminan penting dalam piagam nirlaba Openai adalah “klausul pemberhentian-dan-assis” yang mengarahkan Openai untuk mundur dan membantu jika organisasi lain mendekati pencapaian AI yang lebih baik dari human-human.
“Jika Openai diizinkan menjadi nirlaba, perlindungan ini, dan tugas Openai kepada publik dapat menghilang dalam semalam,” kata Tondwalkar dalam sebuah pernyataan Rabu.
Mantan pekerja lain yang menandatangani surat itu membuatnya lebih terus terang.
“Openai suatu hari nanti dapat membangun teknologi yang bisa membuat kita semua terbunuh,” kata Nisan Stiennon, seorang insinyur AI yang bekerja di OpenAi dari 2018 hingga 2020. “Adalah kredit Openai bahwa itu dikendalikan oleh organisasi nirlaba dengan kewajiban untuk kemanusiaan. Tugas ini menghalangi melepaskan kendali itu.”