OpenAI, uruchamiając o1, niechcący udowodniło intuicję łączącą kryptowaluty z AI, o której pisałem w tym eseju dokładnie rok temu: Model taki jak o1 ma teraz budżet tokenów rozumowania wynoszący 25 000 dla jednego zapytania - co stanowi co najmniej 20-krotny wzrost średniego budżetu tokenów na zapytanie. To jest zadanie obliczeniowe z równoległym przetwarzaniem, w którym rozproszone i zdecentralizowane sieci mogą skalować się w nieskończoność. A - inteligencja postrzegana przez użytkownika faktycznie się poprawia! Rozważ, co by się stało, gdyby sieć taka jak Hyperspace wzrosła z dzisiejszych 20k+ węzłów do 20 milionów węzłów pewnego dnia, byłaby jedną z 5 najlepszych klastrów AI na świecie, z których otrzymasz najbardziej inteligentne odpowiedzi. I byłoby to również tańsze, ponieważ jest to funkcja lokalnych kosztów energii elektrycznej oraz realnej ekonomii rynkowej. Nie ma pośredników. Nawet mikropłatności między agentami byłyby zarządzane przez protokół obsługiwany przez część tych węzłów. Duże modele wstępnie wytrenowane na małych klastrach są dinozaurami w tym świecie. Zbyt wolne, niezbyt inteligentne, nawet jeśli zadowalają niektóre osoby w społeczności akademickiej. To największe sieci ostatecznie wygrywają. Ponieważ inteligencja jest teraz funkcją równoległego skalowania wnioskowania, niemal całe AI będzie rozproszone. To jest rynek, który zdarza się raz na 20 lat. Nasze priorytety są jasne: chcemy zbudować najbardziej wpływowe przedsięwzięcie AI rozproszonego i nie będziemy kompromitować tej wizji. Nasza praca obejmuje nowe modele, produkty AI, systemy rozproszone, sieci, klientów i protokoły. Skalujemy się za pomocą oprogramowania. cc @ylecun

przekroczymy zdecydowanie 1 milion GPU uruchomionych do końca tego roku! bardzo dumny z zespołu, ale teraz lepiej niech wezmą się do pracy, aby to zwiększyć 100 razy, lol

od szkicu do kodu

Prognoza: Myślę, że w ciągu najbliższych 12 miesięcy duża liczba czołowych programistów przestanie korzystać z IDE. Zawsze korzystałem z IDE, ponieważ lubię interfejs użytkownika, ale zauważam, że w przypadku kodowania agentowego w interfejsie IDE jest teraz ogromna ilość zbędnych elementów, które tylko mnie spowalniają i spowalniają agenta. Przechodzę na korzystanie tylko z agentów CLI + gitui + kilku okien terminala i jestem znacznie szybszy. Ciekaw jestem, co wszyscy o tym myślą. Myślę, że zaczynamy widzieć początek SDLC 2.0 To również oznacza, że nadszedł czas na pojawienie się GitHub 2.0.