Ini mungkin tampak seperti adopsi AI telah lepas landas dengan cepat, tetapi ada beberapa penahanan yang terkenal.
Emily Bender, seorang profesor linguistik UW, dan Alex Hanna, direktur penelitian dari AI Research Institute dan mantan ahli etika Google AI, ingin pembaca mengambil dari buku baru mereka, “AI Con: Cara Memerangi Hype Big Tech dan menciptakan masa depan yang kami inginkan” yang tidak diinginkan AI.
Kolaborator lama, cohosts dari podcast Mystery AI Hype Theatre 3000 podcast dan kritikus AI vokal, Bender dan Hanna, ingin mengeluarkan hiperbola dari percakapan di sekitar AI, dan mengingatkan bahwa, terus terang, kecerdasan bukan buatan.
Kadang -kadang mereka yang lucu dan tidak sopan menempelkan AI menjadi “matematika matematika”, “mesin ekstrusi teks”, atau secara klasik, “burung beo stokastik” bertujuan untuk membuat kita melihat teknologi otomatisasi apa adanya dan memisahkan mereka dari hype.
T&J ini telah diedit untuk kejelasan dan panjangnya.
Bagi banyak orang, konsep bahaya AI bisa sulit dibayangkan. Apa cara yang baik untuk mendandani pemahaman orang bahwa ada juga konsekuensi negatif yang terkait dengan AI?
Bender: Saya pikir selalu membantu untuk menjaga orang -orang dalam bingkai. Narasi bahwa ini (otomatisasi) adalah kecerdasan buatan dirancang untuk menyembunyikan orang.
Orang -orang yang terlibat adalah segalanya dari para programmer yang membuat keputusan algoritmik, kepada orang -orang yang pekerjaan kreatifnya disesuaikan, bahkan dicuri, sebagai dasar untuk hal -hal. Bahkan orang -orang yang melakukan data berfungsi, sehingga moderasi konten, sehingga sistem mengeluarkan apa yang dilihat pengguna, tidak memiliki hal -hal yang mengerikan.
Hanna: Istilah AI ini bukan hal yang luar biasa. Ada semacam gloss pada berbagai jenis otomatisasi, dan pemikiran bahwa ada alat yang hanya menulis email, di atas panggung bahwa istilah ini sedang dimanfaatkan. Ini adalah sistem yang digunakan dalam hal -hal seluas penahanan, menyewa keputusan, untuk mengeluarkan media sintetis.
Sama seperti mode cepat atau produksi cokelat, sejumlah besar orang terlibat dalam mempertahankan rantai pasokan ini.
Email yang dihasilkan AI, atau teks, untuk hal yang sulit ini saya tidak ingin menulis, tahu bahwa ada seluruh ekosistem di sekitarnya yang mempengaruhi orang, tenaga kerja, lingkungan, dan dengan samaran lain.
Buku ini menyoroti banyak cara AI ekstraktif dan dapat membuat kehidupan manusia lebih buruk. Menurut Anda mengapa begitu banyak yang menyanyikan Injil AI dan merangkul alat seperti itu?
Bender: Sangat menarik bahwa Anda menggunakan frasa menyanyikan Injil.
Ada banyak orang yang telah menarik hubungan antara, terutama pembicaraan tentang kecerdasan umum buatan dan eskatologi Kristen, yang merupakan gagasan bahwa ada sesuatu yang dapat kita bangun yang bisa menyelamatkan kita.
Itu bisa menyelamatkan kita dari segala hal mulai dari ketakutan tugas -tugas kasar hingga masalah besar yang kita hadapi, seperti krisis iklim, hingga hanya pengalaman tidak memiliki jawaban yang tersedia. Tentu saja, tidak ada yang benar -benar dimainkan. Kami tidak hidup di dunia di mana setiap pertanyaan memiliki jawaban.
Gagasan bahwa jika kita hanya melempar cukup komputasi dan data padanya, dan ada ekstraktivisme, kita akan dibebaskan dari itu, dan berada dalam situasi di mana ada jawaban untuk setiap pertanyaan di ujung jari kita.
Hanna: Ada keinginan untuk menghitung untuk turun tangan dan benar -benar membuat kita kagum, dan sekarang kita memiliki AI untuk semuanya, mulai dari layanan sosial hingga perawatan kesehatan hingga membuat seni. Bagian dari itu adalah keinginan untuk memiliki jenis makhluk komputasi yang lebih “obyektif”.
Akhir -akhir ini, ada banyak yang terbuat dari ‘krisis modal sosial’, ‘krisis maskulinitas, krisis’ masukkan benda favorit Anda di sini ‘itu adalah fenomena sosial.
Ini kembali ke buku Robert Putman “Bowling Alone” dan beberapa hasil aneh dalam Survei Sosial Umum 2006, yang mengatakan orang memiliki lebih sedikit teman dekat daripada sebelumnya.
Ada tesis umum bahwa orang lebih kesepian, dan itu mungkin benar, tetapi AI disajikan sebagai obat mujarab untuk penyakit sosial itu.
Ketika ada lebih banyak hal yang perlu kita fokuskan, itu jauh lebih sulit, seperti membangun kembali infrastruktur sosial, membangun kembali ruang ketiga, memperkuat sekolah kita, membangun kembali infrastruktur perkotaan, tetapi jika kita memiliki teknologi yang tampaknya melakukan semua hal itu, maka orang benar -benar bersemangat tentang hal itu.
Bahasa juga merupakan fokus besar dari buku ini, dan Anda mengkodifikasikan kamp -kamp Doomer, Boomer, dan Booster. Bisakah Anda mengatakan lebih banyak tentang grup ini? Bagaimana dengan pembaca yang tidak akan mengenali diri mereka dalam kelompok ini?
Bender: Hal booster versus doomer benar -benar menyempit.
Ini adalah wacana di mana itu seharusnya menjadi kemiringan satu dimensi, di mana di satu ujung Anda memiliki penyair yang mengatakan, ‘AI adalah sesuatu dan itu akan membunuh kita semua!’ Dan di ujung yang lain, AI Boosters mengatakan, ‘AI adalah sesuatu dan itu akan menyelesaikan semua masalah kita!’ Dan cara mereka berbicara sering terdengar seperti itu adalah berbagai pilihan.
Jadi Anda berada di satu ujung atau yang lain, atau di suatu tempat di tengah, dan titik yang kami buat adalah bahwa sebenarnya, tidak, itu adalah ruang kemungkinan yang sangat kecil. Ini adalah dua sisi dari koin yang sama, keduanya didasarkan pada ‘AI adalah sesuatu seperti super kuat’ dan itu omong kosong yang tidak ada.
Sebagian besar ruang kemungkinan, termasuk ruang yang kita huni, ada di luar itu.
Hanna: Kami berharap buku ini juga memberi orang pada skala booster dan doomer itu, jalan keluar dari pemikiran itu.
Ini bisa menjadi mekanisme untuk membantu orang mengubah pikiran mereka dan mempertimbangkan perspektif yang mungkin tidak mereka pertimbangkan. Karena kita berada dalam situasi di mana hype AI begitu – ini adalah istilah yang saya pelajari dari Emily – “tebal di tanah”, sehingga sulit untuk benar -benar melihat hal -hal seperti apa adanya.
Anda menawarkan banyak langkah yang dapat dilakukan orang untuk menolak penggunaan AI yang meresap. Apa yang dilakukan seseorang ketika tempat kerja Anda, atau layanan online yang Anda gunakan, memiliki fungsionalitas AI yang dipanggang dalam proses sehari -hari?
Bender: Dalam semua kasus ketika Anda berbicara tentang penolakan, baik individu maupun kolektif, sangat membantu untuk kembali ke nilai -nilai dan mengapa kami melakukan apa yang kami lakukan.
Orang dapat mengajukan serangkaian pertanyaan tentang teknologi apa pun. Penting untuk diingat bahwa Anda memiliki agensi untuk mengajukan pertanyaan -pertanyaan itu.
Narasi yang tak terhindarkan pada dasarnya adalah upaya untuk mencuri agensi itu dan berkata, “Semuanya kuat, atau akan segera, jadi ikuti saja, dan Anda tidak berada dalam posisi untuk tetap mengerti.” Bahkan, kita semua berada dalam posisi untuk memahami apa itu dan nilai apa yang terlibat di dalamnya.
Maka Anda dapat mengatakan, ‘Oke, Anda mengusulkan untuk menggunakan beberapa otomatisasi di sini, bagaimana itu sesuai dengan tujuan dan nilai -nilai kita, dan bagaimana kita tahu seberapa cocoknya? Dimana evaluasinya? ‘ Terlalu banyak dari ini adalah ‘Oh, percayalah pada kita.’ “.
Ada beberapa contoh di mana orang -orang dengan pemahaman AI yang sangat akrab dan teknis, meskipun motif, masih berlebihan dan salah paham tentang apa itu AI dan apa yang dapat dilakukannya. Bagaimana seharusnya orang awam dengan pemahaman yang lebih santai memikirkan dan berbicara tentang AI?
Bender: Langkah pertama selalu memisahkan AI; itu bukan satu hal.
Jadi apa yang secara khusus diotomatisasi? Kemudian, bersikaplah sangat skeptis terhadap klaim apa pun karena orang -orang yang menjual ini dengan sepenuh hati merangkul suara magis kecerdasan buatan dan sangat sering menjadi sangat cerdik tentang apa yang sebenarnya dilakukan sistem, apa data pelatihan, dan bagaimana mereka bekerja.
Hanna: Ada kecenderungan, dan sebagian ekonomis, sebagian hanya karena beberapa orang begitu dalam saus sehingga mereka tidak benar -benar akan melihat hutan untuk pepohonan.
Peneliti AI sudah siap untuk melihat hal -hal itu melalui cahaya tertentu. Mereka memikirkannya melalui terobosan rekayasa, cara yang lebih efisien untuk mempelajari parameter, atau melakukan tugas XYZ di dalam bidang itu, tetapi mereka tidak benar -benar orang yang fokus pada bidang khusus seperti menyusui, misalnya.
Orang -orang harus bangga dan dapat menggunakan keahlian mereka di bidang mereka untuk memerangi hype AI. Salah satu contoh yang bagus dari ini adalah Perawat Nasional Unitedyang menulis penjelasan tentang AI dan terpilah antara AI dan pengawasan biometrik, mendengarkan pasif, dan sensor di kantor dokter, dan apa yang dilakukan pada praktik keperawatan. Jadi, tidak membeli hype dan bersandar pada keahlian sendiri adalah metode yang sangat kuat di sini.
Di lingkaran Anda masing -masing, apa reaksi terhadap buku sejauh ini?
Bender: Orang -orang bersemangat. Di mana saya duduk di linguistik, yang benar -benar merupakan sudut pandang penting dalam memahami mengapa mesin ekstrusi teks sintetis khususnya sangat menarik. Ahli bahasa yang saya ajak bicara senang melihat bidang kami memiliki peran ini saat ini.
Hanna: Saya memiliki reaksi yang bagus. Banyak teman saya adalah pengembang perangkat lunak, atau mereka berada di bidang terkait karena saya pergi ke sarjana dalam ilmu komputer, dan banyak teman saya yang tumbuh dewasa adalah kutu buku teknologi, dan hampir ke T, semuanya anti-Ai.
Mereka berkata, ‘Saya tidak ingin kopilot,’ ‘Saya tidak ingin hal ini menulis kode saya,’ ‘Saya benar -benar muak dengan hype di sekitar ini,’ dan saya pikir itu adalah bagian yang paling mengejutkan dan mungkin yang paling menarik dari ini.
Orang -orang yang melakukan pekerjaan teknis, di mana mereka dijanjikan peningkatan kecepatan atau produktivitas, adalah beberapa orang yang paling menentang pengenalan alat -alat ini dalam pekerjaan mereka.
