Försäkring är ett underskattat sätt att låsa upp säkra AI-framsteg. Försäkringsbolag uppmuntras att sanningsenligt kvantifiera och spåra risker: om de överdriver riskerna blir de utkonkurrerade; Om de underskattar riskerna kommer de att gå i konkurs genom sina utbetalningar. 1/9

Helst skulle vi styra AI på ett sätt som både: - Påskyndar utveckling och distribution av AI - Kvantifierar och förebygger de risker som verkligen betyder något Försäkringsbolag vill ha snabb AI-implementering (de kan sälja fler AI-försäkringar) – och för att undvika allvarliga incidenter (de betalar räkningen)

Faktum är att försäkringar har spelat denna roll för nya teknikvågor i minst 270 år: Brand: På 1700-talet tiodubblades Philadelphias befolkning. I takt med att staden växte blev trähusen allt tätare. Elden härjade i staden. År 1752 tämjde Benjamin Franklin bränderna genom att skapa USA:s första brandförsäkringsbolag. Försäkringsbolaget hade skinn på näsan för att förhindra bränder - de betalade för skadorna. Franklin skapade tidiga byggregler för att designa säkrare hus och genomdrev dem genom brandinspektioner. Att tämja bränderna gjorde det möjligt för Philadelphia att fortsätta växa. Bilar: I efterkrigstidens Amerika ökade antalet dödsfall i bilolyckor kraftigt. Bilförsäkringsbolagen betalade den ekonomiska räkningen. År 1959 skapade de Insurance Institute of Highway Safety. Försäkringsbolag utvecklade standarder för bilkrocktester som uppmuntrade biltillverkare att utveckla säkrare bilar. De skapade ekonomiska incitament för användning av säkerhetsbälte och krockkuddar innan regleringen trädde i kraft. Bättre bilar gjorde det säkrare för bilar att bli vardagsmat – och bidrog till att rädda hundratusentals liv. Kärnkraft: År 1957 skapade Price-Anderson Act den privata kärnkraftsindustrin i Amerika. Kärnan är ett försäkringssystem. Det utformades för att göra det möjligt för kärnkraftsoperatörer att driva riskfyllda kraftverk med marknadstillsyn, samtidigt som offren i händelse av en olycka skyddades ekonomiskt. Privata försäkringar täcker olyckor på upp till 16 miljarder dollar innan en statlig säkerhetsmekanism träder i kraft för att täcka katastrofala risker. Detta ger regeringen fördelen av välmotiverade privata marknadsaktörer som övervakar den dagliga riskhanteringen. Tillbaka till AI: Exakt hur kan försäkringar balansera AI-framsteg och säkerhet?

Här är kontentan: Försäkringsbolag har incitament och makt att se till att de företag de försäkrar vidtar åtgärder för att förhindra de risker som är viktiga. De upprätthåller säkerheten genom ett incitamentsvänghjul: Försäkringsbolag skapar standarder. Standarderna beskriver vilka risker som är viktiga och vad företag bör göra för att förebygga dem. AI-företag vill certifiera sig mot standarder eftersom det hjälper dem att vinna förtroende från sina kunder och för att det gör dem berättigade till försäkring - precis som vi ser inom cybersäkerhet idag med SOC 2. Standarder sätter sedan ribban för revisioner. Försäkringsbolag granskar risker innan de försäkrar dem. De får tillgång till privat information så att de kan se om standarderna faktiskt uppfylls. Revisioner ger standarder tänder för verkställighet. Revisioner gör det i sin tur möjligt för försäkringsbolag att prissätta risken mer exakt. När de gör fel uppdaterar de standarderna för att återspegla de verkliga riskerna. Detta svänghjul är tydligast på frammarsch hos AI-agenter för kommersiella risker – men det sträcker sig till laboratorier och datacenter för katastrofala risker.

Svänghjulet för AI-incitament håller på att växa fram: -GitHub försäkrar kunder för att vinna förtroende -Laboratorierna arbetar med att bygga upp säkerhetsåtaganden, det vill säga tidiga standarder -METR driver på tekniska utvärderingar för att möjliggöra bättre revisioner -RAND lägger grunden för datacenterstandarder