Asigurarea este o modalitate subestimată de a debloca progresul securizat al IA. Asigurătorii sunt stimulați să cuantifice și să urmărească riscurile: dacă supraestimează riscurile, sunt depășiți; dacă subestimează riscurile, plățile lor îi falimentează. 1/9

În mod ideal, am guverna AI într-un mod în care: - Accelerează dezvoltarea și implementarea AI - Cuantifică și previne riscurile care contează cu adevărat Asigurătorii doresc o adoptare rapidă a inteligenței artificiale (pot vinde mai multe asigurări de inteligență artificială) și pentru a evita incidentele grave (plătesc factura)

De fapt, asigurările au jucat acest rol pentru noile valuri tehnologice de cel puțin 270 de ani: Incendiu: În anii 1700, populația Philadelphia a crescut de zece ori. Pe măsură ce orașul a crescut, casele de lemn s-au înghesuit mai aproape. Focul a devastat orașul. În 1752, Benjamin Franklin a îmblânzit incendiile prin crearea primului asigurător de incendii din America. Asigurătorul a avut pielea în joc pentru a preveni incendiile - au plătit daunele. Franklin a creat coduri de construcție timpurii pentru a proiecta case mai sigure și le-a aplicat prin inspecții la incendiu. Îmblânzirea incendiilor a permis Philadelphia să continue să crească. Mașini: În America postbelică, decesele cauzate de accidente de mașină au crescut brusc. Asigurătorii auto au plătit factura financiară. În 1959, au creat Institutul de Asigurări pentru Siguranța Autostrăzilor. Asigurătorii au dezvoltat standarde pentru testarea accidentelor auto care au stimulat producătorii de mașini să dezvolte mașini mai sigure. Au creat stimulente financiare pentru adoptarea centurii de siguranță și a airbag-urilor înainte de intrarea în vigoare a reglementărilor. Mașinile mai bune au făcut ca mașinile să devină obișnuite și au ajutat la salvarea a sute de mii de vieți. Energia nucleară: În 1957, Legea Price-Anderson a creat industria privată a energiei nucleare în America. În centrul său se află o schemă de asigurare. Acesta a fost conceput pentru a permite operatorilor nucleari să conducă centrale electrice riscante sub supravegherea pieței, protejând în același timp financiar victimele în caz de accident. Asigurarea privată acoperă accidentele de până la 16 miliarde de dolari înainte ca un backstop guvernamental să acopere riscurile catastrofale. Acest lucru oferă guvernului beneficiul actorilor de pe piața privată bine stimulați care supraveghează managementul riscului de zi cu zi. Înapoi la AI: Cum ar putea asigurările să echilibreze progresul și securitatea AI?

Iată esența: Asigurătorii au stimulente și puterea de a impune ca companiile pe care le asigură să ia măsuri pentru a preveni riscurile care contează. Acestea impun securitatea printr-un volant de stimulare: Asigurătorii creează standarde. Standardele subliniază ce riscuri contează și ce ar trebui să facă companiile pentru a le preveni. Companiile AI doresc să certifice conform standardelor pentru că le ajută să câștige încrederea clienților lor și pentru că le face eligibile pentru asigurare - la fel cum vedem astăzi în securitatea cibernetică cu SOC 2. Standardele stabilesc apoi ștacheta pentru audituri. Asigurătorii auditează riscurile înainte de a le asigura. Ei au acces la informații private pentru a putea vedea dacă standardele sunt într-adevăr îndeplinite. Auditurile dau standardelor dinți pentru aplicare. Auditurile, la rândul lor, permit asigurătorilor să evalueze riscul mai precis. Când greșesc, actualizează standardele pentru a reflecta riscurile reale. Acest volant apare cel mai clar în agenții AI pentru riscuri comerciale - dar se extinde la laboratoare și centre de date pentru riscuri catastrofale.

Volantul de stimulare AI este în curs de dezvoltare: -GitHub asigură clienților să câștige încredere -Laboratoarele se unesc în ceea ce privește angajamentele de siguranță, adică standardele timpurii -METR promovează evaluări tehnice pentru a permite audituri mai bune -RAND stabilește o bază pentru standardele centrelor de date