Ik begrijp de aantrekkingskracht van het bouwen van automemory-systemen, maar ik denk dat ze eigenlijk slechte producten zijn, zowel in de huidige praktijk (ze maken te vaak fouten) als in principe (ze trainen gebruikers in hulpeloosheid in plaats van in autonomie).
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18 jul, 11:36
Ik zou openai echt adviseren om het geheugensysteem nu gewoon uit te schakelen. Laat gebruikers, indien nodig, een groter deel van het contextvenster tussen chats beheersen, maar het lijkt erop dat mensen gewoon in psychose glijden als gevolg van opeenstapeling van per ongeluk psychotische-token-hits.
geen van de bestaande AI-producten, zelfs de prosumer-producten niet, geven gebruikers voldoende controle over wat er in de context staat. en de meeste van hen staan gebruikers zelfs niet de basistransparantie toe om te zien wat erin staat.
dit traint een hele generatie gebruikers om de modellen te beschouwen als een magische doos die voor hen denkt in plaats van een krachtig, capabel hulpmiddel dat hun autonomie kan vergroten. en de gevolgen zullen rampzalig zijn voor de samenleving.
1,76K