Pembaca tahu setidaknya dua hal tentang kecerdasan buatan (AI). Yang pertama adalah bahwa AI Frenzy telah mendorong pasar saham lebih tinggi selama tiga tahun terakhir bahkan dengan penarikan sesekali di sepanjang jalan. Yang kedua adalah bahwa AI adalah teknologi revolusioner yang akan mengubah dunia dan berpotensi menghilangkan banyak pekerjaan, termasuk pekerjaan yang membutuhkan pelatihan dan keterampilan teknis.
Kedua titik itu benar dengan banyak peringatan. AI telah mendorong pasar saham untuk mencatat tertinggi, tetapi pasar memiliki tampilan dan nuansa super gelembung. Kecelakaan itu bisa terjadi kapan saja dan menurunkan pasar hingga 50% atau lebih.
Itu bukan alasan untuk mempersingkat indeks stok utama hari ini. Gelembung bisa bertahan lebih lama dari yang diharapkan siapa pun. Jika Anda kekurangan indeks, Anda bisa kehilangan banyak uang karena salah. Tetapi disarankan untuk meringankan alokasi ekuitas dan meningkatkan alokasi Anda menjadi uang tunai untuk menghindari kerusakan terburuk ketika kecelakaan itu terjadi.
Pada titik kedua, AI akan membuat beberapa pekerjaan usang atau mudah diganti. Tentu saja, seperti halnya teknologi baru, itu akan menciptakan pekerjaan baru yang membutuhkan keterampilan yang berbeda. Guru tidak akan menjadi usang. Mereka akan beralih dari mengajarkan dasar -dasar matematika dan membaca, yang AI lakukan dengan cukup baik, untuk mengajarkan pemikiran dan penalaran kritis, yang komputer melakukan dengan buruk atau tidak sama sekali. Perubahan akan meresap, tetapi masih akan berubah dan bukan kekacauan.
Keterbatasan
Kecerdasan buatan adalah kekuatan yang kuat, tetapi ada jauh lebih sedikit di sana daripada memenuhi mata. AI mungkin menghadapi kendala material dalam hal daya pemrosesan, set pelatihan dan pembangkit listrik. Chip semikonduktor terus semakin cepat dan baru sedang dalam perjalanan. Tetapi chip ini mengkonsumsi energi dalam jumlah besar, terutama ketika dipasang dalam array besar di pusat data AI baru. Advokat beralih ke pembangkit listrik tenaga nuklir, termasuk reaktor modular kecil untuk memasok kebutuhan energi AI. Permintaan ini non-linear, yang berarti bahwa sumber energi yang lebih besar secara eksponensial diperlukan untuk membuat kemajuan kecil dalam pemrosesan output. AI dengan cepat mendekati batas praktis pada kemampuannya untuk mencapai kinerja yang lebih besar.
Permintaan energi yang hampir tak pernah puas ini berarti bahwa ras AI benar -benar merupakan perlombaan energi. Ini bisa menjadikan AS dan Rusia dua pemain dominan (terdengar akrab?) Karena Cina bergantung pada Rusia untuk energi dan Eropa tergantung pada AS dan Rusia. Sanksi terhadap ekspor energi Rusia sebenarnya dapat membantu Rusia dalam ras AI karena gas alam dapat disimpan dan digunakan di Rusia untuk mendukung penambangan AI dan cryptocurrency. Ini adalah hukum konsekuensi yang tidak diinginkan yang diterapkan pada orang-orang Eropa berpandangan pendek dan orang Cina yang miskin sumber daya.
Editor Anda berkeliling komputer Hipergator AI yang terletak di University of Florida di Gainesville, Florida. Hipergator adalah komputer non-pemerintah tercepat ketiga di dunia. Ini berjalan pada semikonduktor NVIDIA dengan murah hati disumbangkan oleh alumni yang merupakan salah satu pendiri NVIDIA. Saya menggunakan hipergator sehubungan dengan pekerjaan saya untuk Florida Institute of National Security, yang menggunakan AI untuk mengeksplorasi skenario pertarungan perang kinetik dan keuangan. Saya telah membangun jaringan saraf yang luas yang akan berjalan di hipergator.
AI tidak memiliki akal sehat
Keterbatasan lain pada AI, yang tidak diketahui, adalah hukum konservasi informasi dalam pencarian. Undang -undang ini didukung oleh bukti matematika yang ketat. Apa yang dikatakannya adalah bahwa AI tidak dapat menemukan informasi baru. Ini dapat menemukan hal -hal lebih cepat dan dapat membuat koneksi yang mungkin ditemukan manusia hampir mustahil. Itu berharga. Tapi AI tidak dapat menemukan sesuatu yang baru. Itu hanya dapat mencari dan menemukan informasi yang sudah ada untuk diambil. Pengetahuan baru berasal dari manusia dalam bentuk kreativitas, seni, penulisan dan karya asli. Komputer tidak dapat melakukan tugas yang benar -benar kreatif. Itu seharusnya memberi manusia kenyamanan bahwa mereka tidak akan pernah usang.
Masalah lebih lanjut dalam AI adalah pengenceran dan degradasi set pelatihan karena lebih banyak konten pelatihan terdiri dari output AI dari pemrosesan sebelumnya. AI rentan terhadap kesalahan, halusinasi (lebih baik disebut konfabulasi) dan kesimpulan yang sebenarnya tidak memiliki dasar. Itu cukup buruk. Tetapi ketika output itu memasuki set pelatihan (pada dasarnya setiap halaman di internet), kualitas set pelatihan terdegradasi, dan output masa depan menurun secara sinkron. Tidak ada solusi yang baik untuk ini kecuali kurasi yang cermat. Jika Anda harus menjadi ahli materi pelajaran untuk membuat set pelatihan dan kemudian mengevaluasi output, ini sangat mengurangi peran nilai tambah AI.
Komputer juga tidak memiliki empati, simpati, dan akal sehat. Mereka memproses tetapi mereka tidak benar -benar berpikir seperti manusia. Faktanya, AI tidak berpikir sama sekali; itu hanya matematika. Dalam satu percobaan baru-baru ini, komputer AI dimasukkan ke dalam kompetisi dengan sekelompok anak berusia 3 hingga 7 tahun. Tantangannya adalah menarik lingkaran dengan alat yang ada. Alat -alat itu adalah penguasa, teko dan objek ketiga yang tidak relevan seperti kompor. Komputer beralasan bahwa seorang penguasa adalah instrumen penyusunan seperti kompas dan mencoba menggambar lingkaran dengan seorang penguasa. Itu gagal. Anak -anak melihat bahwa bagian bawah teko adalah lingkaran dan hanya melacak teko untuk menggambar lingkaran yang sempurna. Sistem AI menggunakan logika asosiatif. Anak -anak menggunakan akal sehat. Anak -anak menang. Hasil itu tidak akan bervariasi dalam kontes mendatang karena akal sehat (logika secara teknis abduktif) tidak dapat diprogram.
Perusahaan AI terbang tinggi dengan cepat menemukan bahwa sistem mereka dapat diunggulkan oleh sistem yang lebih baru yang hanya menggunakan output AI tiket besar sebagai set pelatihan dasar. Ini adalah jalan pintas ke kinerja tinggi di sebagian kecil dari biaya. Perusahaan AI pendirian seperti Microsoft dan Google menyebut pencurian IP ini, tetapi tidak lebih buruk dari raksasa yang menggunakan IP yang ada (termasuk buku saya, omong -omong) tanpa membayar royalti. Ini mungkin merupakan bentuk pembajakan, tetapi mudah dilakukan dan hampir tidak mungkin untuk dihentikan. Ini tidak berarti akhir dari AI. Ini berarti akhir dari proyeksi laba setinggi langit untuk AI. Pengembalian ratusan miliar dolar yang dihabiskan oleh raksasa AI mungkin sedikit.
Sam Altman: Innovator atau Salesman?
Sosok paling terkenal di dunia AI adalah Sam Altman. Dia adalah kepala Openai, yang meluncurkan aplikasi Chatgpt beberapa tahun yang lalu. AI dimulai pada 1950 -an, tampaknya menabrak dinding dari perspektif pembangunan pada 1980 -an (periode yang dikenal sebagai AI Winter), sebagian besar tidak aktif pada 1990 -an dan awal 2000 -an, kemudian tiba -tiba menjadi hidup lagi dalam sepuluh tahun terakhir. ChatGPT adalah aplikasi yang paling banyak diunduh dalam sejarah selama beberapa bulan pertama dan memiliki ratusan juta pengguna saat ini.
Altman didorong oleh dewan Openai tahun lalu karena perusahaan itu dimaksudkan sebagai entitas nirlaba yang mengembangkan AI untuk kebaikan umat manusia. Altman ingin mengubahnya menjadi entitas nirlaba sebagai awal dari IPO multi-ratus miliar dolar. Ketika para insinyur top mengancam akan berhenti dan mengikuti Altman ke usaha baru, dewan dengan cepat membalikkan arah dan membawa Altman kembali ke perusahaan, meskipun struktur hukum yang tepat masih dalam diskusi.
Sementara itu, Altman telah menagih kecepatan penuh dengan klaimnya tentang Superintelligence (juga dikenal sebagai Canggih Kecerdasan Umum (AGI) dengan kata kunci menjadi “umum,” yang berarti sistem dapat berpikir seperti manusia, hanya lebih baik). Salah satu cara untuk memahami pengawasan adalah metafora bahwa manusia akan ke komputer seperti kera bagi manusia. Kami akan dianggap cerdas, tetapi tidak lebih pintar dari tuan mesin kami. Altman mengatakan bahwa “dalam beberapa hal chatgpt sudah lebih kuat daripada manusia mana pun yang pernah hidup.” Dia juga mengatakan dia mengharapkan mesin AI “melakukan pekerjaan kognitif nyata” pada tahun 2025 dan akan menciptakan “wawasan baru” pada tahun 2026.
Ini semua omong kosong karena beberapa alasan. Yang pertama disebutkan di atas adalah bahwa set pelatihan (materi yang dipelajari oleh model bahasa besar) menjadi tercemar dengan output dari model AI sebelumnya sehingga mesin menjadi bodoh tidak lebih pintar. Yang kedua adalah hukum konservasi informasi dalam pencarian yang juga saya jelaskan di atas. Undang -undang ini (didukung oleh matematika terapan) mengatakan bahwa komputer mungkin dapat menemukan informasi lebih cepat daripada manusia, tetapi mereka tidak dapat menemukan informasi yang belum ada. Dengan kata lain, mesin tidak benar -benar berpikir dan tidak terlalu kreatif. Mereka hanya menghubungkan titik -titik lebih cepat dari kita.
Sebuah makalah baru dari Apple menyimpulkan, “Melalui eksperimen yang luas di berbagai teka-teki, kami menunjukkan bahwa LRMS perbatasan (model penalaran besar) menghadapi keruntuhan akurasi yang lengkap di luar kompleksitas tertentu. Selain itu, mereka menunjukkan batas penskalaan kontra-intuitif: upaya penalaran mereka meningkat dengan kompleksitas masalah hingga suatu titik, kemudian dikurangi meskipun memiliki anggaran yang adil.” Ini dan bukti lainnya menunjukkan AI mencapai batas logika yang tidak dapat diatasi oleh kekuatan komputasi brute force.
Akhirnya, tidak ada pengembang yang dapat mengkode logika abduktif; Akal atau naluri usus yang sangat umum. Itulah salah satu alat penalaran paling kuat yang dimiliki manusia. Singkatnya, Superintelligence tidak akan pernah tiba. Semakin banyak, Altman terlihat seperti salesman Silicon Valley yang lain melempar hal besar berikutnya dengan tidak banyak di belakangnya.
