Una nuova lettera legale rivolta a OpenAI espone in termini duri la presa di denaro e potere che OpenAI sta cercando di indurre i suoi membri del consiglio di amministrazione ad accettare, quello che un analista definisce "il furto del millennio". I semplici fatti del caso sono sia devastanti che oscuramente esilaranti. Te lo spiego per il tuo divertimento. La lettera "Not For Private Gain" è stata scritta per i procuratori generali competenti ed è firmata da 3 vincitori del premio Nobel tra decine di ricercatori di ML, esperti legali, economisti, ex dipendenti di OpenAI e gruppi della società civile. (Ti linkerò qui sotto.) Dice che il tentativo di OpenAI di ristrutturarsi a scopo di lucro è semplicemente totalmente illegale, come ci si potrebbe ingenuamente aspettare. Chiede quindi ai procuratori generali di adottare alcune misure estreme di cui non ho mai visto parlare prima. Ecco come si preparano alle loro richieste radicali. Per 9 anni OpenAI e i suoi fondatori hanno continuato fino alla nausea a parlare di come il controllo senza scopo di lucro fosse essenziale per: 1. Impedisci a poche persone di concentrare un potere immenso 2. Garantire che i benefici dell'intelligenza artificiale generale (AGI) siano condivisi con tutta l'umanità 3. Evita l'incentivo a rischiare la vita degli altri per diventare ancora più ricco Ci hanno detto che questi impegni erano giuridicamente vincolanti e inevitabili. Non erano lì per i soldi o per il potere. Potevamo fidarci di loro. "L'obiettivo non è quello di costruire l'AGI, ma di assicurarsi che l'AGI vada a beneficio dell'umanità", ha dichiarato il presidente di OpenAI Greg Brockman. E in effetti, lo scopo benefico di OpenAI, che il suo consiglio di amministrazione è legalmente obbligato a perseguire, è quello di "garantire che l'intelligenza artificiale generale vada a beneficio di tutta l'umanità" piuttosto che promuovere "il guadagno privato di qualsiasi persona". Centinaia di ricercatori di alto livello hanno scelto di lavorare per OpenAI con stipendi inferiori a quelli di mercato, in parte motivati da questo idealismo. Era fondamentale per la strategia di reclutamento e PR di OpenAI. Ora arriva il 2024. Quell'idealismo ha dato i suoi frutti. OpenAI è una delle aziende più in voga al mondo. I soldi stanno arrivando. Ma ora all'improvviso ci viene detto che la configurazione con cui sono diventate una delle startup in più rapida crescita della storia, la configurazione che si supponeva fosse totalmente essenziale e le distingueva dai loro rivali, e le protezioni che ci hanno permesso di fidarci di loro, TUTTO DEVE SPARIRE AL PIÙ PRESTO: 1. Il diritto delle organizzazioni non profit (e quindi dell'umanità in generale) ai super-profitti, dovrebbero fare decine di trilioni? Andato. (Indovina dove andranno a finire quei soldi ora!) 2. La proprietà dell'AGI da parte dell'organizzazione no-profit e la capacità di influenzare il modo in cui viene effettivamente utilizzato una volta costruito? Andato. 3. La capacità (e il dovere legale) dell'organizzazione no-profit di opporsi se OpenAI sta facendo cose oltraggiose che danneggiano l'umanità? Andato. 4. L'impegno a sostenere un altro progetto AGI, se necessario per evitare una dannosa corsa agli armamenti, o se unire le forze aiuterebbe gli Stati Uniti a battere la Cina? Andato. 5. Controllo del consiglio di maggioranza da parte di persone che non hanno un enorme interesse finanziario personale in OpenAI? Andato. 6. La capacità dei tribunali o dei procuratori generali di opporsi se tradiscono il loro dichiarato scopo caritatevole di beneficiare l'umanità? Andato, andato, andato! Screenshot dalla lettera: (Farò un nuovo tweet dopo ogni immagine in modo che appaiano correttamente.) 1/