Ett nytt juridiskt brev riktat till OpenAI beskriver i skarpa ordalag de pengar och maktövertagande som OpenAI försöker lura sina styrelseledamöter att acceptera – det som en analytiker kallar "årtusendets stöld". De enkla fakta som finns i fallet är både förödande och mörkt roliga. Jag ska förklara för ditt nöje. Brevet "Inte för privat vinning" är skrivet för relevanta justitieministrar och är undertecknat av 3 Nobelpristagare bland dussintals framstående ML-forskare, juridiska experter, ekonomer, före detta OpenAI-anställda och grupper i det civila samhället. (Jag länkar nedan.) Den säger att OpenAI:s försök att omstrukturera som en vinstdrivande organisation helt enkelt är helt olagligt, som man kanske naivt kan förvänta sig. Den ber sedan Attorneys General (AGs) att vidta några extrema åtgärder som jag aldrig har sett diskuteras tidigare. Så här bygger de upp till sina radikala krav. I 9 år gick OpenAI och dess grundare på ad nauseam om hur ideell kontroll var avgörande för att: 1. Förhindra att ett fåtal personer koncentrerar enorm kraft 2. Se till att fördelarna med artificiell generell intelligens (AGI) delades med hela mänskligheten 3. Undvik incitamentet att riskera andra människors liv för att bli ännu rikare De berättade för oss att dessa åtaganden var juridiskt bindande och oundvikliga. De gjorde det inte för pengarna eller makten. Vi kunde lita på dem. "Målet är inte att bygga AGI, det är att se till att AGI gynnar mänskligheten", säger OpenAI:s president Greg Brockman. Och faktum är att OpenAI:s välgörenhetssyfte, som dess styrelse enligt lag är skyldig att fullfölja, är att "se till att artificiell generell intelligens gynnar hela mänskligheten" snarare än att främja "någon persons privata vinning". 100-tals toppforskare valde att arbeta för OpenAI till löner som låg under marknadslönerna, delvis motiverade av denna idealism. Det var kärnan i OpenAI:s rekryterings- och PR-strategi. Nu kommer 2024. Den idealismen har lönat sig. OpenAI är ett av världens hetaste företag. Pengarna rullar in. Men nu plötsligt får vi veta under vilket upplägg de blev en av de snabbast växande startupsen i historien, upplägget som påstods vara helt väsentligt och skilde dem från sina rivaler, och det skydd som gjorde det möjligt för oss att lita på dem, ALLA MÅSTE GÅ SÅ FORT SOM MÖJLIGT: 1. Den ideella organisationens (och därmed mänskligheten i storts) rätt till supervinster, borde de tjäna tiotals biljoner? Borta. (Gissa vart de pengarna kommer att ta vägen nu!) 2. Den ideella organisationens ägande av AGI och möjlighet att påverka hur det faktiskt används när det väl är byggt? Borta. 3. Den ideella organisationens förmåga (och juridiska skyldighet) att invända om OpenAI gör upprörande saker som skadar mänskligheten? Borta. 4. Ett åtagande att stödja ett annat AGI-projekt om det är nödvändigt för att undvika en skadlig kapprustning, eller om en sammanslagning skulle hjälpa USA att besegra Kina? Borta. 5. Majoritetskontroll av styrelsen av personer som inte har ett stort personligt ekonomiskt intresse i OpenAI? Borta. 6. Domstolarnas eller justitiekanslerns möjlighet att invända om de sviker sitt uttalade välgörande syfte att gagna mänskligheten? Borta, borta, borta! Skärmdump från brevet: (Jag gör en ny tweet efter varje bild så att de visas rätt.) 1/