Hakim lebih sering menangkap kutipan hukum palsu, dan semakin banyak kesalahan pengacara yang terlalu mengandalkan AI, data baru menunjukkan.
Damien Charlotin, seorang analis dan konsultan data hukum, menciptakan a Database Publik Dari 120 kasus di mana pengadilan menemukan bahwa kutipan berhalusinasi AI, membuat kasus palsu, atau mengutip otoritas hukum nyata yang tidak ada. Kasus -kasus lain di mana Halucinate AI mungkin tidak menarik perhatian hakim, sehingga angka itu adalah lantai, bukan langit -langit.
Sementara sebagian besar kesalahan dilakukan oleh orang -orang yang berjuang untuk mewakili diri mereka di pengadilan, data menunjukkan bahwa pengacara dan profesional lain yang bekerja dengan mereka, seperti paralegal, semakin bersalah. Pada tahun 2023, tujuh dari 10 kasus di mana halusinasi ditangkap dilakukan oleh apa yang disebut perampokan pro, dan tiga adalah kesalahan pengacara; Bulan lalu, para profesional hukum ditemukan bersalah dalam setidaknya 13 dari 23 kasus di mana kesalahan AI ditemukan.
“Kasus -kasus pengacara atau perantara yang secara keliru mengutip kasus berhalusinasi kini telah menjadi kiasan yang agak umum,” tulis Charlotin di situs webnya.
Basis data mencakup 10 keputusan dari tahun 2023, 37 dari tahun 2024, dan 73 dari lima bulan pertama tahun 2025, kebanyakan dari mereka dari AS. Negara -negara lain di mana hakim telah menangkap kesalahan AI termasuk Inggris, Afrika Selatan, Israel, Australia, dan Spanyol. Pengadilan di seluruh dunia juga merasa nyaman menghukum AI penyalahgunaan dengan denda moneter, memberlakukan sanksi $ 10.000 atau lebih dalam lima kasus, empat di antaranya tahun ini.
Dalam banyak kasus, orang-orang yang menyinggung tidak memiliki sumber daya atau pengetahuan untuk penelitian hukum yang canggih, yang seringkali mensyaratkan menganalisis banyak kasus mengutip undang-undang yang sama untuk melihat bagaimana mereka ditafsirkan di masa lalu. Seorang pengadilan Afrika Selatan mengatakan seorang pengacara “lanjut usia” yang terlibat dalam penggunaan kutipan AI palsu tampaknya “ditantang secara teknologi.”
Dalam beberapa bulan terakhir, pengacara dalam kasus-kasus terkenal yang bekerja dengan firma hukum AS telah ditangkap menggunakan AI. Pengacara di perusahaan K&L Gates dan Ellis George baru-baru ini mengakui bahwa mereka sebagian mengandalkan kasus-kasus yang dibuat-buat karena miskomunikasi di antara pengacara yang menangani kasus ini dan kegagalan untuk memeriksa pekerjaan mereka, menghasilkan sanksi sekitar $ 31.000.
Dalam banyak kasus dalam database Charlotin, situs web atau perangkat lunak AI spesifik yang digunakan tidak disebutkan. Dalam beberapa kasus, hakim menyimpulkan bahwa AI telah digunakan meskipun penolakan oleh pihak -pihak yang terlibat. Namun, dalam kasus di mana alat tertentu disebutkan, chatgpt disebutkan dengan nama dalam data Charlotin lebih dari yang lain.
Charlotin tidak segera menanggapi permintaan komentar.
