Chápu přitažlivost budování systémů AutoMemory, ale myslím si, že jsou to ve skutečnosti špatné produkty, a to jak v současné praxi (příliš často dělají věci špatně), tak v principu (trénují uživatele spíše v bezmocnosti než v jednání)
𝚟𝚒𝚎 🌱
𝚟𝚒𝚎 🌱18. 7. 11:36
Opravdu bych doporučil openai, aby právě teď deaktivovala paměťový systém. V případě potřeby umožněte uživatelům ovládat větší část kontextového okna mezi chaty, ale zdá se, že lidé prostě sklouzávají do psychózy v důsledku skládání náhodných zásahů psychotických tokenů.
Žádný ze stávajících produktů umělé inteligence, dokonce ani ty prosumerské, neposkytuje uživatelům dostatečnou kontrolu nad tím, co je v kontextu. A většina z nich neumožňuje uživatelům ani základní transparentnost, aby viděli, co tam je
To učí celou generaci uživatelů, aby s modely zacházeli jako s kouzelnou skříňkou, která myslí za ně, místo jako s výkonným a schopným nástrojem, který může rozšířit jejich působení. a důsledky budou pro společnost katastrofální
1,75K