Et nytt juridisk brev rettet mot OpenAI beskriver i sterke ordelag pengene og maktgrepet OpenAI prøver å lure styremedlemmene til å akseptere - det en analytiker kaller "årtusenets tyveri." De enkle fakta i saken er både ødeleggende og mørkt morsomme. Jeg skal forklare for din fornøyelse. Brevet 'Not For Private Gain' er skrevet for den relevante statsadvokaten og er signert av 3 nobelprisvinnere blant dusinvis av topp ML-forskere, juridiske eksperter, økonomer, tidligere OpenAI-ansatte og sivilsamfunnsgrupper. (Jeg lenker nedenfor.) Den sier at OpenAIs forsøk på å omstrukturere som en for-profit rett og slett er helt ulovlig, som du naivt kan forvente. Den ber deretter statsadvokatene om å ta noen ekstreme tiltak jeg aldri har sett diskutert før. Slik bygger de opp til sine radikale krav. I 9 år fortsatte OpenAI og dets grunnleggere å kvalme om hvordan ideell kontroll var avgjørende for å: 1. Forhindre at noen få mennesker konsentrerer enorm makt 2. Sikre at fordelene med kunstig generell intelligens (AGI) ble delt med hele menneskeheten 3. Unngå insentivet til å risikere andres liv for å bli enda rikere De fortalte oss at disse forpliktelsene var juridisk bindende og uunngåelige. De var ikke i det for pengene eller makten. Vi kunne stole på dem. "Målet er ikke å bygge AGI, det er å sørge for at AGI kommer menneskeheten til gode," sa OpenAI-president Greg Brockman. Og faktisk, OpenAIs veldedige formål, som styret er juridisk forpliktet til å forfølge, er å «sikre at kunstig generell intelligens kommer hele menneskeheten til gode» i stedet for å fremme «den private vinningen til enhver person». 100-vis av toppforskere valgte å jobbe for OpenAI til lønn under markedslønn, delvis motivert av denne idealismen. Det var kjernen i OpenAIs rekrutterings- og PR-strategi. Nå kommer 2024. Den idealismen har gitt resultater. OpenAI er et av verdens hotteste selskaper. Pengene ruller inn. Men nå blir vi plutselig fortalt at oppsettet der de ble en av de raskest voksende oppstartene i historien, oppsettet som visstnok var helt essensielt og skilte dem fra sine rivaler, og beskyttelsen som gjorde det mulig for oss å stole på dem, ALT MÅ GÅ SÅ FORT SOM MULIG: 1. Den ideelle organisasjonens (og derfor menneskeheten for øvrig) rett til superprofitt, bør de tjene titalls billioner? Borte. (Gjett hvor pengene vil gå nå!) 2. Den ideelle organisasjonens eierskap til AGI, og muligheten til å påvirke hvordan den faktisk brukes når den er bygget? Borte. 3. Den ideelle organisasjonens evne (og juridiske plikt) til å protestere hvis OpenAI gjør opprørende ting som skader menneskeheten? Borte. 4. En forpliktelse til å hjelpe et annet AGI-prosjekt om nødvendig for å unngå et skadelig våpenkappløp, eller hvis det å slå seg sammen vil hjelpe USA med å slå Kina? Borte. 5. Flertallsstyrekontroll av folk som ikke har en stor personlig økonomisk eierandel i OpenAI? Borte. 6. Domstolenes eller statsadvokatenes mulighet til å protestere hvis de forråder sitt uttalte veldedige formål om å gagne menneskeheten? Borte, borte, borte! Skjermbilde fra brevet: (Jeg lager en ny tweet etter hvert bilde slik at de vises riktig.) 1/