Dia adalah apa yang mereka buat.
Dalam seminggu sejak Epic Games, pembuat “Fortnite,” memperkenalkan Darth Vader yang bertenaga AI ke permainan, ia telah melambangkan semua yang menarik dan berisiko tentang kemajuan cepat dalam kecerdasan buatan.
Karakter ini bergantung pada percakapan AI dan suara berlisensi mendiang James Earl Jones, yang memerankan Darth Vader dalam trilogi “Star Wars” asli. Pemain dapat berinteraksi dengan Darth Vader, yang merespons dalam bahasa alami.
Ini telah memperkenalkan elemen imersif baru yang menurut para pemain mereka cintai. Ini juga telah keluar dari rel, mengutuk pemain, dan telah menarik oposisi dari serikat pekerja yang bekerja untuk melindungi bakat manusia.
Risikonya
Presiden Epic Games Adam Sussman mengatakan dalam sebuah pernyataan setelah rilis Darth Vader bahwa kolaborasi ini adalah “cara baru dan mendalam bagi pemain untuk berinteraksi dengan karakter ‘Star Wars’ yang legendaris.”
Namun, dalam beberapa hari, pemain menemukan cara untuk memanipulasi AI untuk menghindari pengaturan kontennya. Karakter bersumpah, misalnya, dalam satu klip viral dari streamer kedutan.
Kemudahan yang dengannya Darth Vader “Fortnite” membelokkan di luar parameter yang ditetapkan oleh pengembangnya adalah contoh kecil dari kekhawatiran yang lebih besar yang dimiliki banyak orang tentang AI ketika teknologi meluncur ke arah lebih banyak otonomi dan kecerdasan tingkat manusia.
Ancaman yang ditimbulkan oleh AI otonom bagi kemanusiaan telah lama menjadi perhatian bagi mereka yang berada di garis depan mengembangkan teknologi (dan penggemar fiksi ilmiah). Keselamatan dan manfaatnya bagi kemanusiaan adalah inti dari misi Openai, misalnya. Tetapi ketika tekanan dari investor naik untuk membenarkan taruhan keuangan mereka yang sangat besar, beberapa insinyur dan eksekutif telah menimbulkan kekhawatiran bahwa perusahaan AI memprioritaskan pelepasan produk baru daripada memastikan keamanan mereka.
Beberapa pejabat tinggi telah meninggalkan Openai pada tahun lalu, mengutip kekhawatiran tentang komitmen perusahaan terhadap keselamatan. Bulan lalu, Openai mengumumkan akan mempertimbangkan untuk melonggarkan standar keselamatannya jika “pengembang AI perbatasan lain merilis sistem berisiko tinggi tanpa perlindungan yang sebanding.”
CEO antropik Dario Amodei baru -baru ini mengatakan bahwa sementara manfaat AI besar, risikonya juga.
“Jika Anda melihat kebijakan penskalaan kami yang bertanggung jawab, itu tidak lain adalah AI, otonomi, dan CBRN – kimia, biologis, radiologis, nuklir,” kata Amodei kepada podcast “Hard Fork” New York Times. “Ini tentang penyalahgunaan hardcore dalam otonomi AI yang bisa menjadi ancaman bagi kehidupan jutaan orang. Itulah yang sebagian besar dikhawatirkan antropik.”
Banyak pekerja juga khawatir bahwa kecerdasan buatan adalah ancaman eksistensial, dan penggunaan versi AI dari suara Jones telah memicu ketakutan itu.
Disney, yang sekarang memiliki waralaba “Star Wars” dan memiliki saham yang signifikan dalam Epic Games, mulai mengembangkan suara AI dari suara Jones pada tahun 2022, dengan izin dari tanah Jones. Perusahaan mengatakan dalam sebuah pernyataan bahwa itu “berkonsultasi erat” dengan keluarga Jones pada rilis Darth Vader “Fortnite”.
Namun, keputusan itu menarik perhatian Sag-Aftra, serikat pekerja yang mewakili aktor dan penghibur lainnya. Ini telah mengajukan keluhan kepada Dewan Hubungan Perburuhan Nasional bahwa Epic Games tidak menawar atau bernegosiasi dengan serikat pekerja sebelum menggunakan suara Jones.
“Kami merayakan hak anggota kami dan perkebunan mereka untuk mengontrol penggunaan replika digital mereka dan menyambut penggunaan teknologi baru untuk memungkinkan generasi baru untuk berbagi dalam kenikmatan warisan tersebut dan peran terkenal,” kata serikat pekerja dalam sebuah pernyataan. “Namun, kita harus melindungi hak kita untuk menawar syarat dan ketentuan di sekitar penggunaan suara yang menggantikan pekerjaan anggota kita, termasuk mereka yang sebelumnya melakukan pekerjaan yang cocok dengan ritme dan nada ikon Darth Vader dalam permainan video.”
Sag-Aftra, bersama dengan Writers Guild of America, mogok pada tahun 2023 selama 148 hari sebagian untuk memaksa studio untuk menegosiasikan persyaratan seputar penggunaan AI di media.
Potensi
Terlepas dari risiko ini, ada sedikit kemajuan AI yang menghentikan. Dan para pemain sejauh ini telah memberikan Darth Vader bertenaga AI dalam ulasan positif “Fortnite”.
Nicholas Amyoony, YouTuber “Fortnite” dengan lebih dari 8 juta pelanggan, mengatakan dalam sebuah video bahwa ia telah “tidak pernah melihat banyak orang” di satu tempat di permainan sebelumnya.
Amyoony mengatakan Epic Games tampaknya memberi Darth Vader banyak informasi tentang pemain dalam game. Bahkan tahu tentang “kulit” yang dapat dibeli.
“Darth Vader memiliki informasi itu dan tahu banyak tentang saya,” katanya.
Meskipun karakternya memiliki beberapa cegukan, bot adalah contoh awal dari apa yang mungkin. AI generatif membuka dunia baru pengalaman mendalam bagi gamer, di mana karakter berbicara kembali dengan pemain dalam bahasa alami.
Beberapa waralaba populermenyukai “Call of Duty,” bereksperimen dengan menggunakan AI untuk mengembangkan game mereka. Studio lain sedang mengerjakan teknologi yang bisa Ukur emosi pemain dan sampaikan emosi itu kepada karakter non-pemain, yang kemudian menggunakan AI untuk merespons.
“Dari menghasilkan dialog real-time yang merespons emosi pemain, hingga mengubah lingkungan game secara dinamis atau menciptakan aset khusus, perpaduan komputasi afektif kami dan AI generatif menghidupkan game dengan cara yang tidak pernah ada sebelumnya,” Ovomind, sebuah perusahaan Genai yang bekerja untuk mengembangkan AI untuk video game, mengatakan dalam sebuah posting blog.
Adapun Disney dan Epic Games, Darth Vader yang bertenaga AI di “Fortnite” hanyalah awal dari apa yang kemungkinan akan menjadi kemajuan game yang signifikan, semua hasil dari kecerdasan buatan.
“Disney, Lucasfilm, dan Epic Games merasa terhormat untuk membawa suaranya ke Fortnite untuk dialami jutaan pemain – menampilkan bagaimana kami secara bertanggung jawab merangkul teknologi yang muncul untuk memperluas bercerita sambil menjaga orang -orang di jantung proses kreatif,” kata Sean Shoptaw, wakil presiden eksekutif Disney Disney Games dan hiburan digital, kata sebuah laporan.
