Apakah tidak ada yang sakral lagi?
Reddit adalah salah satu tempat terakhir di internet di mana posting dan komentar tidak terasa seperti lubang ai slop yang tak ada habisnya. Tapi itu mulai berubah, dan mengancam apa yang dikatakan Reddit adalah keunggulan kompetitifnya.
CEO Reddit Steve Huffman mengatakan bahwa apa yang membuat orang kembali ke situs adalah informasi yang diberikan oleh orang sungguhan, yang sering memberikan jawaban yang bijaksana untuk pertanyaan. Ketika internet menjadi jenuh dengan konten yang dihasilkan AI, Huffman mengatakan bahwa komunitas Reddit, dikuratori dan dikelola oleh orang-orang sungguhan, membedakannya dari platform media sosial lainnya.
“Dunia membutuhkan komunitas dan pengetahuan bersama, dan itulah yang kami lakukan yang terbaik,” kata Huffman kepada investor minggu lalu dengan panggilan pendapatan.
Lalu lintas ke Reddit telah berkembang pesat selama setahun terakhir, sebagian berkat pengguna Googling khusus untuk posting Reddit terkait dengan pertanyaan mereka.
Model bisnis Reddit telah mengalami peningkatan perhatian sejak perusahaan go public pada bulan Maret tahun lalu. Sejak itu, Reddit telah memperkuat iklan di forum dan menandatangani kesepakatan dengan OpenAi dan Google untuk memungkinkan model mereka berlatih pada konten Reddit. Pada bulan April, saham Reddit turun setelah beberapa analis berbagi kekhawatiran bahwa keberhasilan perusahaan dapat terikat erat dengan pencarian Google.
“Hanya beberapa tahun yang lalu, menambahkan Reddit ke akhir permintaan pencarian Anda terasa baru,” kata Huffman dalam panggilan pendapatan Q3 pada bulan Februari. “Hari ini, ini adalah cara umum bagi orang untuk menemukan informasi, rekomendasi, dan saran tepercaya.”
Tetapi sekarang, beberapa pengguna Reddit mengeluh bahwa komunitas manusia yang unik yang dikenal situs tersebut sedang diinfiltrasi oleh bot AI, atau pengguna yang mengandalkan alat -alat seperti chatgpt untuk menulis posting mereka, yang sering dapat terlihat oleh pemformatan. ChatGPT menyukai daftar peluru dan EM-dash, dan hari-hari ini cenderung efusif dalam hal positifnya.
Salah satu pengguna di komunitas R/Singularity, yang didedikasikan untuk diskusi tentang kemajuan AI, baru-baru ini menandai sebuah pos dari apa yang mereka yakini sebagai pengguna yang dihasilkan AI yang menyebarkan informasi yang salah tentang upaya pembunuhan Presiden Donald Trump.
“AI baru saja mengambil alih halaman depan Reddit,” kata poster itu.
Dan pada tanggal 28 April, kepala pejabat hukum Reddit mengatakan perusahaan itu mengirimkan “tuntutan hukum formal” kepada para peneliti di Universitas Zurich setelah mereka membanjiri salah satu komunitas situs dengan bot AI untuk sebuah studi. Moderator Forum R/ChangemyView mengatakan dalam sebuah posting bahwa para peneliti melakukan “percobaan tidak sah” untuk “mempelajari bagaimana AI dapat digunakan untuk mengubah pandangan.”
Para peneliti yang melakukan percobaan mengatakan dalam posting Reddit bahwa 21 dari 34 akun yang mereka gunakan “dibarengkan” oleh Reddit, yang berarti konten yang mereka posting tidak akan muncul untuk orang lain. Tetapi mereka mengatakan mereka tidak pernah menerima komunikasi apa pun dari Reddit mengenai ketentuan pelanggaran layanan.
Para moderator menyebut percobaan itu tidak etis dan mengatakan bahwa AI menargetkan beberapa pengguna di forum “dengan cara pribadi yang tidak mereka daftarkan.” Pos itu mengatakan AI berusaha keras di beberapa pos, termasuk berpura -pura menjadi korban pemerkosaan, menyamar sebagai orang kulit hitam yang bertentangan dengan Black Lives Matter, dan bahkan menyamar sebagai orang yang menerima perawatan di bawah standar di rumah sakit asing, di antara klaim lainnya.
“Risiko manipulasi psikologis yang ditimbulkan oleh LLMS adalah topik yang dipelajari secara luas,” tulis moderator komunitas. “Tidak perlu bereksperimen pada subjek manusia yang tidak konsisten.”
Seorang juru bicara untuk University of Zurich mengatakan kepada Business Insider bahwa sekolah mengetahui penelitian dan sedang menyelidiki. Juru bicara itu mengatakan bahwa para peneliti memutuskan untuk tidak menerbitkan temuan penelitian “atas kemauan mereka sendiri.”
“Mengingat peristiwa ini, Komite Etika Fakultas Seni dan Ilmu Sosial bermaksud untuk mengadopsi proses peninjauan yang lebih ketat di masa depan dan, khususnya, untuk berkoordinasi dengan masyarakat di platform sebelum studi eksperimental,” kata juru bicara itu.
Untuk strategi bisnis Reddit, yang sebagian besar berfokus pada periklanan dan keyakinannya bahwa ia memberikan beberapa penelitian terbaik di sekitar karena didasarkan pada reaksi manusia yang nyata, peningkatan kehadiran AI pada platform adalah ancaman. Dan Reddit telah memperhatikan.
Pada hari Senin, Huffman mengatakan dalam pos Reddit bahwa perusahaan akan mulai menggunakan pihak ketiga untuk “menjaga manusia Reddit.” Huffman mengatakan bahwa “kekuatan Reddit adalah rakyatnya” dan bahwa “AI yang tidak disukai dalam komunitas adalah masalah yang serius.”
“Saya belum memposting dalam beberapa saat – dan jujur saja, ketika saya muncul, biasanya itu berarti ada sesuatu yang hilang (dan jika tidak pergi ke samping, itu mungkin akan),” kata Huffman.
Layanan pihak ketiga sekarang akan meminta pengguna membuat akun Reddit untuk informasi lebih lanjut, seperti usia mereka, kata Huffman. Secara khusus, “Kita perlu tahu apakah Anda manusia,” katanya.
Seorang juru bicara Reddit mengatakan kepada BI bahwa percobaan Zurich tidak etis dan bahwa alat otomatis Reddit menandai sebagian besar akun terkait sebelum percobaan berakhir. Juru bicara itu mengatakan bahwa Reddit selalu bekerja pada fitur deteksi dan telah semakin menyempurnakan prosesnya sejak percobaan terungkap.
Namun, beberapa pengguna Reddit mengatakan mereka sudah muak dengan apa yang mereka lihat sebagai “proliferasi bot LLM dalam 10 bulan terakhir.”
“Beberapa dari mereka meniru para pengguna yang paling mati, memberikan tanggapan satu kata dengan emoji pada akhirnya,” tulis seorang pengguna. “Mereka memposting dengan frekuensi yang tidak wajar, sebagian besar di subreddit yang dikenal karena mengangkat apa saja.”
