Eu entendo o apelo de construir sistemas de automemória, mas acho que eles são, na verdade, produtos ruins, tanto na prática atual (eles erram com muita frequência) quanto em princípio (eles treinam os usuários na impotência em vez de na autonomia).
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18/07, 11:36
Eu realmente aconselharia a openai a desativar o sistema de memória agora. Permita que os usuários controlem uma parte maior da janela de contexto entre chats, se necessário, mas as pessoas parecem estar deslizando para a psicose como resultado de impactos acidentais de tokens psicóticos que se acumulam.
nenhum dos produtos de IA existentes, mesmo os de nível prosumer, dá aos utilizadores um controlo adequado sobre o que está no contexto. e a maioria deles nem sequer permite aos utilizadores a transparência básica de ver o que está lá.
isto está a treinar toda uma geração de utilizadores a tratar os modelos como uma caixa mágica que pensa por eles, em vez de uma ferramenta poderosa e capaz que pode expandir a sua autonomia. e as consequências serão desastrosas para a sociedade.
1,76K