Ich verstehe den Reiz, Automemory-Systeme zu entwickeln, aber ich denke, dass sie tatsächlich schlechte Produkte sind, sowohl in der aktuellen Praxis (sie machen zu oft Fehler) als auch im Prinzip (sie trainieren die Nutzer in Hilflosigkeit statt in Eigenverantwortung).
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18. Juli, 11:36
Ich würde OpenAI wirklich raten, das Gedächtnissystem jetzt einfach zu deaktivieren. Lassen Sie die Benutzer, wenn nötig, einen größeren Teil des Kontextfensters zwischen den Chats steuern, aber die Leute scheinen aufgrund der sich summierenden unabsichtlichen psychotischen Token-Hits einfach in die Psychose abzurutschen.
Keines der bestehenden KI-Produkte, selbst die für Prosumer, gibt den Nutzern angemessene Kontrolle darüber, was im Kontext enthalten ist. Und die meisten von ihnen erlauben den Nutzern nicht einmal die grundlegende Transparenz, um zu sehen, was dort enthalten ist.
Dies bildet eine ganze Generation von Nutzern aus, die die Modelle als eine magische Box betrachten, die für sie denkt, anstatt als ein leistungsstarkes, fähiges Werkzeug, das ihre Handlungsmacht erweitern kann. Und die Folgen werden katastrophal für die Gesellschaft sein.
1,75K