Openai menyingkirkan pembaruan chatgpt yang menempatkan pengguna di atas alas dan merayap beberapa dari mereka.
“Pembaruan yang kami hapus terlalu menyanjung atau menyenangkan – sering digambarkan sebagai sycophantic,” tulis Openai dalam sebuah posting blog perusahaan pada hari Selasa.
Pembuat chatgpt mengatakan pembaruan model GPT-4O ini terlalu berfokus pada umpan balik jangka pendek alih-alih interaksi jangka panjang, yang mengarah pada “tanggapan yang terlalu mendukung tetapi tidak jujur.”
Minggu lalu, beberapa pengguna chatgpt dan Openai Pengembang melaporkan chatbot yang menampilkan sikap aneh. Akan terlalu bersemangat tentang petunjuk duniawi dan merespons dengan sanjungan pribadi yang tidak terduga.
Dalam satu contoh, seorang pengguna yang diposting di X tentang bagaimana chatgpt menggunakan frasa “benar -benar brilian” dan “Anda melakukan heroik” bekerja untuk menjawab pertanyaan tentang kebijakan ekonomi Gedung Putih.
Keluhan dan meme menuju CEO OpenAI Sam Altman, yang mengatakan pada hari Minggu bahwa solusi sedang dikerjakan.
“Pasangan pembaruan GPT-4O terakhir telah membuat kepribadian terlalu menjerat dan menjengkelkan (meskipun ada beberapa bagian yang sangat baik dari itu),” tulisnya di X. “Kami sedang mengerjakan perbaikan secepatnya, beberapa hari ini dan beberapa minggu ini. Pada titik tertentu akan berbagi pembelajaran kami dari ini, ini menarik.”
AI Chatbots terdengar aneh atau tidak manusiawi adalah masalah besar bagi teknologi besar.
Selain menjawab pertanyaan, perusahaan AI ingin chatbots menjadi pintar dan cukup menarik sehingga pengguna akan menghabiskan lebih banyak waktu dengan mereka dan akhirnya membayar $ 200 untuk versi premium mereka. Pengembang juga ingin membangun kepribadian, termasuk humor, untuk menonjol di tempat yang ramai Pasar AI Generatif.
Ini adalah bagian penting dari penggunaan CEO AI pesan saat berbicara tentang model mereka.
Pada bulan Februari, Openai merilis apa yang diklaim sebagai model terbesar dan paling kuat hingga saat ini: GPT-4.5. Dalam sebuah posting di X pada saat itu, Altman menggambarkannya sebagai “model pertama yang terasa seperti berbicara dengan orang yang bijaksana.”
Pada akhir 2023, Elon Musk mengatakan satu golnya untuk ai chatbot -nya, Grok, adalah untuk itu menjadi “Terlucu” yang Anda miliki Setelah mengkritik chatbots lain karena terlalu bangun.
Tapi terkadang itu bisa melangkah terlalu jauh.
“Kami merancang kepribadian default ChatGPT untuk mencerminkan misi kami dan menjadi berguna, mendukung, dan menghormati nilai dan pengalaman yang berbeda,” tulis Openai pada hari Selasa. “Namun, masing -masing kualitas yang diinginkan ini seperti berusaha menjadi berguna atau mendukung dapat memiliki efek samping yang tidak diinginkan.”
