Sampai baru -baru ini, chatbots AI generatif Tidak memiliki kenangan terbaik: Anda menceritakan sesuatu dan, ketika Anda kembali lagi nanti, Anda mulai lagi dengan batu tulis kosong. Tidak lagi.
Openai mulai menguji a memori yang lebih kuat di chatgpt tahun lalu dan meluncurkan perbaikan bulan ini. GrokAlat andalan Elon Musk XaiJuga baru saja memori yang lebih baik.
Butuh peningkatan yang signifikan dalam matematika dan teknologi untuk sampai di sini tetapi manfaat dunia nyata tampak cukup sederhana: Anda bisa mendapatkan hasil yang lebih konsisten dan dipersonalisasi tanpa harus mengulangi diri sendiri.
“Jika itu dapat menggabungkan setiap obrolan yang saya miliki sebelumnya, tidak perlu saya memberikan semua informasi itu di waktu berikutnya,” kata Shashank Srivastava, asisten profesor ilmu komputer di University of North Carolina di Chapel Hill.
Kenangan yang lebih panjang itu dapat membantu menyelesaikan beberapa frustrasi dengan chatbots tetapi mereka juga menimbulkan beberapa tantangan baru. Seperti ketika Anda berbicara dengan seseorang, apa yang Anda katakan kemarin dapat memengaruhi interaksi Anda hari ini.
Berikut adalah bagaimana bot datang untuk memiliki kenangan yang lebih baik dan apa artinya bagi Anda.
Meningkatkan memori model AI
Sebagai permulaan, itu bukan “kenangan.” Sebagian besar, alat -alat ini berfungsi dengan memasukkan percakapan masa lalu di samping kueri terbaru Anda. “Akibatnya, sesederhana itu jika Anda baru saja melakukan semua percakapan masa lalu dan menggabungkannya menjadi satu prompt besar,” kata Aditya Grover, asisten profesor ilmu komputer di UCLA.
Permintaan besar itu sekarang dimungkinkan karena model AI terbaru memiliki “jendela konteks” yang jauh lebih besar daripada pendahulunya. Jendela konteks, pada dasarnya, berapa banyak teks yang dapat dipertimbangkan model sekaligus, diukur dalam token. Token mungkin merupakan kata atau bagian dari sebuah kata (Openai menawarkan satu token sebagai tiga perempat kata sebagai aturan praktis).
Model bahasa besar awal memiliki jendela konteks 4.000 atau 8.000 token – beberapa ribu kata. Beberapa tahun yang lalu, jika Anda bertanya Chatgpt Sesuatu, itu bisa mempertimbangkan secara kasar teks seperti halnya Kisah Sampul CNET Terbaru Ini pada termostat pintar. Google Gemini 2.0 Flash sekarang memiliki jendela konteks satu juta token. Itu sedikit lebih lama dari novel epik Leo Tolstoy, War and Peace. Perbaikan -perbaikan tersebut didorong oleh beberapa kemajuan teknis dalam cara kerja LLMS, menciptakan cara yang lebih cepat untuk menghasilkan koneksi antara kata -kata, kata Srivastava.
Teknik lain juga dapat meningkatkan memori model dan kemampuan untuk menjawab pertanyaan. Salah satunya adalah generasi pengambilan-pengambilan, di mana model dapat menjalankan pencarian atau menarik dokumen sesuai kebutuhan untuk menjawab pertanyaan, tanpa selalu menyimpan semua informasi itu di jendela konteks. Alih -alih memiliki sejumlah besar informasi yang tersedia setiap saat, ia hanya perlu tahu cara menemukan sumber daya yang tepat, seperti peneliti yang meneliti katalog kartu perpustakaan.
Baca selengkapnya: AI Essentials: 27 cara untuk membuat Gen AI bekerja untuk Anda, menurut para ahli kami
Mengapa konteks penting untuk chatbot
Semakin banyak LLM mengetahui tentang Anda dari interaksi masa lalunya dengan Anda, semakin cocok untuk kebutuhan Anda jawabannya. Itulah tujuan memiliki chatbot yang dapat mengingat percakapan lama Anda.
Misalnya, jika Anda meminta LLM tanpa memori Anda apa cuacanya, itu mungkin akan menindaklanjuti terlebih dahulu dengan menanyakan di mana Anda berada. Namun, salah satu yang dapat mengingat percakapan masa lalu, mungkin tahu bahwa Anda sering meminta nasihat tentang restoran atau hal -hal lain di San Francisco, misalnya, dan menganggap itulah lokasi Anda. “Lebih ramah pengguna jika sistem tahu lebih banyak tentang Anda,” kata Grover.
Chatbot dengan memori yang lebih panjang dapat memberi Anda jawaban yang lebih spesifik. Jika Anda memintanya untuk menyarankan hadiah untuk ulang tahun anggota keluarga dan menceritakan beberapa detail tentang anggota keluarga itu, itu tidak perlu konteks sebanyak ketika Anda bertanya lagi tahun depan. “Itu berarti percakapan yang lebih halus karena Anda tidak perlu mengulangi diri sendiri,” kata Srivatsava.
Namun, memori yang panjang dapat mengalami kerugian.
Anda dapat (dan mungkin harus) memberitahu AI untuk melupakan
Memiliki chatbot merekomendasikan hadiah menimbulkan teka-teki yang terlalu umum dalam kenangan manusia: Anda memberi tahu bibi Anda bahwa Anda menyukai pesawat terbang ketika Anda berusia 12 tahun, dan beberapa dekade kemudian Anda masih mendapatkan hadiah bertema pesawat darinya. LLM yang mengingat hal -hal tentang Anda dapat terlalu banyak bias terhadap sesuatu yang Anda katakan sebelumnya.
“Pasti ada kemungkinan bahwa Anda dapat kehilangan kendali dan personalisasi ini dapat menghantui Anda,” kata Srivastava. “Alih -alih mendapatkan perspektif segar yang tidak memihak, penilaiannya mungkin selalu diwarnai oleh interaksi sebelumnya.”
LLM biasanya memungkinkan Anda untuk memberi tahu mereka untuk melupakan hal -hal tertentu atau mengecualikan beberapa percakapan dari ingatan mereka.
Anda juga dapat berurusan dengan hal -hal yang tidak ingin diingat oleh model AI. Jika Anda memiliki informasi pribadi atau sensitif yang Anda komunikasikan dengan LLM (dan Anda harus berpikir dua kali untuk melakukannya sama sekali), Anda mungkin ingin mematikan fungsi memori untuk interaksi tersebut.
Baca panduan pada alat yang Anda gunakan untuk memastikan Anda tahu apa yang diingatnya, bagaimana menyalakan dan mematikannya dan cara menghapus item dari ingatannya.
Grover mengatakan ini adalah area di mana pengembang Gen AI harus transparan dan menawarkan perintah yang jelas di antarmuka pengguna. “Saya pikir mereka perlu memberikan lebih banyak kontrol yang terlihat oleh pengguna, kapan harus menyalakannya, kapan harus mematikannya,” katanya. “Berikan rasa urgensi untuk basis pengguna sehingga mereka tidak terkunci menjadi default yang sulit ditemukan.”
Cara mematikan fitur memori Gen AI
Inilah cara mengelola fitur memori di beberapa alat AI gen umum.
Chatgpt
Openai memiliki pasangan jenis memori dalam modelnya. Salah satunya disebut “Reference Saved Memories” dan ia menyimpan detail yang secara khusus Anda minta chatgpt untuk disimpan, seperti nama atau preferensi makanan Anda. Lain, “Referensi Sejarah Obrolan,” mengingat informasi dari percakapan sebelumnya (tetapi tidak semuanya).
Untuk mematikan salah satu fitur ini, Anda dapat pergi ke Pengaturan Dan Personalisasi dan mematikan item.
Anda dapat bertanya kepada Chatgpt apa yang diingat tentang Anda dan memintanya untuk melupakan sesuatu yang telah diingatnya. Untuk sepenuhnya menghapus informasi ini, Anda dapat menghapus kenangan yang disimpan di Pengaturan dan obrolan tempat Anda menyimpan informasi itu.
Gemini
Model Gemini Google bisa Ingat banyak hal Anda telah membahas atau merangkum percakapan masa lalu.
Untuk memodifikasi atau menghapus ingatan ini, atau untuk mematikan fitur sepenuhnya, Anda dapat masuk ke Anda Aktivitas Aplikasi Gemini menu.
Grok
Xai Elon Musk mengumumkan Fitur Memori di Grok Bulan ini dan mereka dihidupkan secara default.
Anda dapat mematikannya di bawah Pengaturan Dan Kontrol data. Pengaturan spesifik berbeda antara Grok.com, di mana itu “Personalisasi Grok dengan riwayat percakapan Anda,” dan di aplikasi Android dan iOS, di mana itu “dipersonalisasi dengan kenangan.”
