Verzekeringen zijn een onderschatte manier om veilige AI-voortgang te ontsluiten. Verzekeraars zijn gemotiveerd om risico's eerlijk te kwantificeren en te volgen: als ze risico's overschatten, worden ze overtroffen; als ze risico's onderschatten, gaan hun uitkeringen failliet. 1/9

Idealiter zouden we AI op een manier moeten besturen die zowel: - De ontwikkeling en implementatie van AI versnelt - De risico's kwantificeert en voorkomt die er echt toe doen Verzekeraars willen snelle adoptie van AI (ze kunnen meer AI-verzekeringen verkopen) -- en ernstige incidenten vermijden (ze betalen de rekening)

In feite heeft verzekering deze rol gespeeld voor nieuwe technologiegolven gedurende minstens 270 jaar: Brand: In de jaren 1700 groeide de bevolking van Philadelphia tienvoudig. Naarmate de stad groeide, werden de houten huizen dichter op elkaar gebouwd. Brand verwoestte de stad. In 1752 temde Benjamin Franklin de branden door de eerste brandverzekeraar van Amerika op te richten. De verzekeraar had belang bij het voorkomen van branden - zij betaalden voor schade. Franklin creëerde vroege bouwvoorschriften om veiligere huizen te ontwerpen en handhaafde deze door middel van brandinspecties. Het temmen van de branden stelde Philadelphia in staat om verder te groeien. Auto's: In het naoorlogse Amerika stegen de doden door auto-ongelukken scherp. Autoverzekeraars betaalden de financiële rekening. In 1959 richtten zij het Insurance Institute of Highway Safety op. Verzekeraars ontwikkelden normen voor crashtests die autoproductiebedrijven aanmoedigden om veiligere auto's te ontwikkelen. Ze creëerden financiële prikkels voor het gebruik van veiligheidsgordels en airbags voordat de regelgeving kwam. Betere auto's maakten het veilig voor auto's om alledaags te worden - en hielpen honderden duizenden levens te redden. Kernenergie: In 1957 creëerde de Price-Anderson Act de particuliere kernenergie-industrie in Amerika. In het hart ervan ligt een verzekeringsschema. Het was ontworpen om het mogelijk te maken voor kernoperatoren om risicovolle energiecentrales te runnen met markttoezicht, terwijl slachtoffers financieel beschermd werden in geval van een ongeluk. Particuliere verzekering dekt ongevallen tot $16 miljard voordat een overheidssteun ingrijpt om catastrofale risico's te dekken. Dit geeft de overheid het voordeel van goed geïncentiveerde particuliere marktdeelnemers die het dagelijkse risicobeheer toezicht houden. Terug naar AI: Hoe zou verzekering precies de vooruitgang en veiligheid van AI in balans kunnen brengen?

Hier is de kern: Verzekeraars hebben prikkels en macht om ervoor te zorgen dat de bedrijven die ze verzekeren actie ondernemen om de risico's die ertoe doen te voorkomen. Ze handhaven beveiliging via een prikkel-vliegwiel: Verzekeraars creëren normen. Normen schetsen welke risico's belangrijk zijn en wat bedrijven moeten doen om deze te voorkomen. AI-bedrijven willen zich laten certificeren volgens normen omdat dit hen helpt vertrouwen te winnen van hun klanten en omdat het hen in aanmerking laat komen voor verzekering - net zoals we vandaag de dag zien in de cyberbeveiliging met SOC 2. Normen stellen vervolgens de lat voor audits. Verzekeraars auditen risico's voordat ze deze verzekeren. Ze krijgen toegang tot privé-informatie zodat ze kunnen zien of de normen daadwerkelijk worden nageleefd. Audits geven normen kracht voor handhaving. Audits stellen op hun beurt verzekeraars in staat om het risico nauwkeuriger te prijzen. Wanneer ze het verkeerd hebben, actualiseren ze de normen om de werkelijke risico's weer te geven. Dit vliegwiel komt het duidelijkst naar voren in AI-agenten voor commerciële risico's - maar het strekt zich ook uit tot laboratoria en datacenters voor catastrofale risico's.

De AI-incentive flywheel komt op: -GitHub verzekert klanten om vertrouwen te winnen -Labs verenigen zich rond Veiligheidsverbintenissen, d.w.z. vroege normen -METR dringt technische evaluaties aan om betere audits mogelijk te maken -RAND legt een basis voor datacenterstandaarden