Saya mendapatkan daya tarik membangun sistem memori otomatis tetapi saya pikir itu sebenarnya adalah produk yang buruk, baik dalam praktik saat ini (mereka terlalu sering melakukan kesalahan) dan pada prinsipnya (mereka melatih pengguna dalam ketidakberdayaan daripada agensi)
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18 Jul, 11.36
Saya sangat menyarankan openai untuk menonaktifkan sistem memori sekarang. Izinkan pengguna untuk mengontrol sebagian besar jendela konteks di antara obrolan, jika perlu, tetapi orang-orang tampaknya hanya tergelincir ke dalam psikosis sebagai akibat dari compounding psychotic-token-hits yang tidak disengaja.
Tidak ada produk AI yang ada, bahkan produk prosumer, memberi pengguna kontrol yang memadai atas apa yang ada dalam konteksnya. dan kebanyakan dari mereka bahkan tidak mengizinkan pengguna transparansi dasar untuk melihat apa yang ada di sana
Ini melatih seluruh generasi pengguna untuk memperlakukan model sebagai kotak ajaib yang berpikir untuk mereka, bukan alat yang kuat dan mumpuni yang dapat memperluas agensi mereka. dan konsekuensinya akan menjadi bencana bagi masyarakat
1,76K