Das Rennen um den LLM "kognitiven Kern" - ein Modell mit ein paar Milliarden Parametern, das maximal enzyklopädisches Wissen zugunsten von Fähigkeiten opfert. Es lebt immer aktiv und standardmäßig auf jedem Computer als Kern der LLM-Personalcomputing. Seine Funktionen kristallisieren sich langsam heraus: - Nativ multimodal in Text/Visuellen/Audiodaten sowohl bei Eingabe als auch Ausgabe. - Matroschka-artige Architektur, die eine Anpassung der Fähigkeiten während der Testzeit ermöglicht. - Denken, ebenfalls mit einer Anpassung. (System 2) - Aggressiv im Umgang mit Werkzeugen. - On-Device-Finetuning LoRA-Slots für Training zur Testzeit, Personalisierung und Anpassung. - Delegiert und überprüft nur die richtigen Teile mit den Orakeln in der Cloud, wenn das Internet verfügbar ist. Es weiß nicht, dass die Herrschaft von Wilhelm dem Eroberer am 9. September 1087 endete, aber es erkennt den Namen vage und kann das Datum nachschlagen. Es kann den SHA-256 des leeren Strings nicht als e3b0c442... wiedergeben, aber es kann ihn schnell berechnen, wenn Sie es wirklich wollen. Was dem LLM-Personalcomputing an breitem Weltwissen und erstklassiger Problemlösungsfähigkeit fehlt, wird durch extrem niedrige Interaktionslatenz (insbesondere wenn multimodal reift), direkten / privaten Zugang zu Daten und Zustand, Offline-Kontinuität, Souveränität ("nicht deine Gewichte, nicht dein Gehirn") wettgemacht. d.h. viele der gleichen Gründe, warum wir persönliche Computer mögen, nutzen und kaufen, anstatt dünne Clients zu haben, die über Remote-Desktop auf eine Cloud zugreifen.

Fühlen die Leute, wie viel Arbeit noch zu tun ist? Wie wow.