Pesan Paus Leo untuk Eksekutif AI

Pada Konferensi Roma tahunan kedua tentang Kecerdasan Buatan pada hari Jumat, Paus Leo berbicara tentang ke mana arah AI.

Acara ini dihadiri oleh pejabat Vatikan, akademisi Amerika, dan eksekutif Silicon Valley dari Google, Openai, Antropik, Meta, dan banyak lagi. Paus baru mendesak refleksi serius pada “dimensi etis AI yang secara inheren, serta tata kelola yang bertanggung jawab.”

Paus Leo diakui “Potensi luar biasa” AI tetapi mengatakan ada “pertanyaan yang meresahkan tentang kemungkinan dampak pada keterbukaan umat manusia terhadap kebenaran dan keindahan, pada kemampuan khas kita untuk memahami dan memproses realitas.”

Administrasi Trump menggembar -gemborkan undang -undangtertanam dalam “RUU besar, indah” yang diharapkan oleh Senat sebelum istirahat musim panas, yang akan melarang negara bagian dari mengatur AI selama satu dekade. Telah ada oposisi bipartisan terhadap tindakan itu, termasuk Dari pendukung Sticung Trump seperti Marjorie Taylor-Greene.

Bahkan CEO antropik Dario Amodei berpikir RUU itu “terlalu tumpul instrumen.” Di New York Times op-ed, Amodei menulis“Saya percaya bahwa sistem ini dapat mengubah dunia, secara fundamental, dalam dua tahun; dalam 10 tahun, semua taruhan dimatikan. Tanpa rencana yang jelas untuk tanggapan federal, moratorium akan memberi kita yang terburuk dari kedua dunia – tidak ada kemampuan bagi negara untuk bertindak, dan tidak ada kebijakan nasional sebagai backstop.”

Paus Leo mengatakan manfaat dan risiko AI harus dievaluasi menggunakan “kriteria etika yang unggul,” menambahkan bahwa itu “menantang kita semua untuk lebih mencerminkan sifat dan keunikan sejati dari martabat manusia bersama kita.” Dia menambahkan bahwa “akses ke data – betapapun luasnya – tidak boleh bingung dengan kecerdasan.”

Vatikan telah memantau pengembangan AI sejak setidaknya tahun 2020, mengeluarkan “Panggil Etika AI“Bertujuan untuk” menciptakan masa depan di mana inovasi digital dan kemajuan teknologi memberi umat manusia sentralitasnya. ” IBM dan Microsoft berpartisipasi dalam makalah ini.

Pada tahun 2023, Paus Francis diperingatkan Tentang “kediktatoran teknologi” kecuali AI tunduk pada perjanjian internasional yang mengikat, dan sangat peduli dengan penggunaan militer. Awal tahun ini, AS mengumumkan “ThunderForge,” program AI skala untuk mengintegrasikan AI ke dalam perencanaan dan operasi militer. Minggu terakhir ini, Openai mendapatkan kontrak pertahanan $ 200 juta, dan eksekutif teknologi disumpah sebagai perwira Cadangan Angkatan Darat, menasihati penggunaan AI.

Paus Leo XIV menamakan dirinya a penerus kepada Paus yang mendukung hak -hak buruh selama Revolusi Industri. Dalam pidato publik pertamanya setelah menjadi paus pada bulan Mei, Leo dikatakan Itu karena kemajuan AI, masyarakat berada di tengah -tengah revolusi industri baru, dengan “tantangan baru untuk pembelaan martabat manusia, keadilan dan tenaga kerja.”