Nu avem încă o auto-îmbunătățire a inteligenței artificiale, iar atunci când o vom face, va schimba jocul. Cu mai multă înțelepciune acum în comparație cu zilele GPT-4, este evident că nu va fi o "decolare rapidă", ci mai degrabă extrem de treptată de-a lungul multor ani, probabil un deceniu. Primul lucru pe care trebuie să-l știți este că auto-îmbunătățirea, adică modelele care se antrenează singure, nu este binară. Luați în considerare scenariul de antrenament GPT-5 GPT-6, care ar fi incredibil. Ar trece GPT-5 brusc de la a nu putea antrena deloc GPT-6 la a-l antrena extrem de competent? Cu siguranță nu. Primele curse de antrenament GPT-6 ar fi probabil extrem de ineficiente în timp și calcul în comparație cu cercetătorii umani. Și numai după multe încercări, GPT-5 ar fi capabil să antreneze GPT-6 mai bine decât oamenii. În al doilea rând, chiar dacă un model s-ar putea antrena singur, nu s-ar îmbunătăți brusc în toate domeniile. Există un gradient de dificultate în cât de greu este să te perfecționezi în diferite domenii. De exemplu, poate că auto-perfecționarea funcționează la început doar pe domenii pe care știm deja cum să le remediem cu ușurință în post-antrenament, cum ar fi halucinațiile de bază sau stilul. Urmează matematica și codificarea, care necesită mai multă muncă, dar au stabilit metode de îmbunătățire a modelelor. Și apoi, la extrem, vă puteți imagina că există unele sarcini care sunt foarte greu de auto-îmbunătățit. De exemplu, capacitatea de a vorbi tlingit, o limbă nativă americană vorbită de ~500 de persoane. Va fi foarte greu pentru model să se îmbunătățească în vorbirea tlingitului, deoarece nu avem încă modalități de a rezolva limbaje cu resurse reduse ca aceasta, cu excepția colectării mai multor date, ceea ce ar necesita timp. Deci, din cauza gradientului de dificultate de auto-îmbunătățire, nu se va întâmpla totul dintr-o dată. În cele din urmă, poate că acest lucru este controversat, dar în cele din urmă progresul în știință este blocat de experimentele din lumea reală. Unii ar putea crede că citirea tuturor lucrărilor de biologie ne-ar spune leacul pentru cancer sau că citirea tuturor lucrărilor ML și stăpânirea întregii matematici ți-ar permite să antrenezi perfect GPT-10. Dacă acesta ar fi cazul, atunci oamenii care citesc cele mai multe lucrări și studiază cea mai mare teorie ar fi cei mai buni cercetători AI. Dar ceea ce s-a întâmplat cu adevărat este că AI (și multe alte domenii) a devenit dominată de cercetători empirici nemiloși, ceea ce reflectă cât de mult progres se bazează pe experimente din lumea reală, mai degrabă decât pe inteligență brută. Deci, ideea mea este că, deși un agent super inteligent ar putea proiecta experimente de 2 sau chiar 5 ori mai bune decât cei mai buni cercetători umani, la sfârșitul zilei trebuie să aștepte ca experimentele să ruleze, ceea ce ar fi o accelerare, dar nu o decolare rapidă. Pe scurt, există multe blocaje pentru progres, nu doar inteligența brută sau un sistem de auto-îmbunătățire. AI va rezolva multe domenii, dar fiecare domeniu are propria rată de progres. Și chiar și cea mai înaltă inteligență va necesita în continuare experimente în lumea reală. Deci va fi o accelerare și nu o decolare rapidă, vă mulțumesc că ați citit discursul meu