OpenAI, uruchamiając o1, niechcący udowodniło intuicję łączącą kryptowaluty z AI, o której pisałem w tym eseju dokładnie rok temu: Model taki jak o1 ma teraz budżet tokenów rozumowania wynoszący 25 000 dla jednego zapytania - co stanowi co najmniej 20-krotny wzrost średniego budżetu tokenów na zapytanie. To jest zadanie obliczeniowe z równoległym przetwarzaniem, w którym rozproszone i zdecentralizowane sieci mogą skalować się w nieskończoność. A - inteligencja postrzegana przez użytkownika faktycznie się poprawia! Rozważ, co by się stało, gdyby sieć taka jak Hyperspace wzrosła z dzisiejszych 20k+ węzłów do 20 milionów węzłów pewnego dnia, byłaby jedną z 5 najlepszych klastrów AI na świecie, z których otrzymasz najbardziej inteligentne odpowiedzi. I byłoby to również tańsze, ponieważ jest to funkcja lokalnych kosztów energii elektrycznej oraz realnej ekonomii rynkowej. Nie ma pośredników. Nawet mikropłatności między agentami byłyby zarządzane przez protokół obsługiwany przez część tych węzłów. Duże modele wstępnie wytrenowane na małych klastrach są dinozaurami w tym świecie. Zbyt wolne, niezbyt inteligentne, nawet jeśli zadowalają niektóre osoby w społeczności akademickiej. To największe sieci ostatecznie wygrywają. Ponieważ inteligencja jest teraz funkcją równoległego skalowania wnioskowania, niemal całe AI będzie rozproszone. To jest rynek, który zdarza się raz na 20 lat. Nasze priorytety są jasne: chcemy zbudować najbardziej wpływowe przedsięwzięcie AI rozproszonego i nie będziemy kompromitować tej wizji. Nasza praca obejmuje nowe modele, produkty AI, systemy rozproszone, sieci, klientów i protokoły. Skalujemy się za pomocą oprogramowania. cc @ylecun