Jag förstår lockelsen i att bygga automemory-system men jag tror att de faktiskt är dåliga produkter, både i nuvarande praxis (de gör fel för ofta) och i princip (de utbildar användare i hjälplöshet snarare än agens)
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18 juli 11:36
Jag skulle verkligen råda openai att bara inaktivera minnessystemet just nu. Tillåt användare att kontrollera en större del av kontextfönstret mellan chattar, om det behövs, men människor verkar bara glida in i psykos som ett resultat av oavsiktliga psykotiska tokenträffar.
Ingen av de befintliga AI-produkterna, inte ens prosumentprodukter, ger användarna tillräcklig kontroll över vad som finns i sammanhanget. Och de flesta av dem tillåter inte ens användarna den grundläggande transparensen för att se vad som finns där
Detta tränar en hel generation användare att behandla modellerna som en magisk låda som tänker åt dem istället för ett kraftfullt, kapabelt verktyg som kan utöka deras handlingsfrihet. Och konsekvenserna kommer att bli förödande för samhället
1,77K