Pojištění je podceňovaný způsob, jak odemknout bezpečný pokrok v oblasti umělé inteligence. Pojišťovny jsou motivovány k tomu, aby pravdivě kvantifikovaly a sledovaly rizika: pokud rizika nadhodnocují, jsou překonány; pokud podhodnocují rizika, jejich výplaty je přivádějí k bankrotu. 1/9

V ideálním případě bychom řídili umělou inteligenci tak, aby: - Urychluje vývoj a nasazení umělé inteligence - Kvantifikuje a předchází rizikům, na kterých skutečně záleží Pojišťovny chtějí rychlé přijetí umělé inteligence (mohou prodat více pojištění umělé inteligence) – a vyhnout se vážným incidentům (platí účet)

Ve skutečnosti hraje pojištění tuto roli ve vlnách nových technologií již nejméně 270 let: Požár: V roce 1700 vzrostla populace Philadelphie desetinásobně. Jak se město rozrůstalo, dřevěné domy se stávaly těsnějšími. Město zpustošil oheň. V roce 1752 Benjamin Franklin zkrotil požáry tím, že vytvořil první americkou požární pojišťovnu. Pojišťovna šla s kůží na trh, aby zabránila požárům - zaplatila za škody. Franklin vytvořil rané stavební předpisy pro navrhování bezpečnějších domů a vynucoval je prostřednictvím požárních inspekcí. Zkrocení požárů umožnilo Philadelphii pokračovat v růstu. Automobily: V poválečné Americe prudce vzrostl počet úmrtí při dopravních nehodách. Finanční účet zaplatily pojišťovny automobilů. V roce 1959 vytvořili Pojišťovací institut pro bezpečnost silničního provozu. Pojišťovny vyvinuly standardy pro nárazové testy, které motivovaly výrobce automobilů k vývoji bezpečnějších vozů. Vytvořili finanční pobídky pro zavedení bezpečnostních pásů a airbagů před příchodem regulace. Díky lepším automobilům se auta stala bezpečným a běžným – a pomohla zachránit statisíce životů. Jaderná energie: V roce 1957 vytvořil Price-Andersonův zákon v Americe soukromý jaderný energetický průmysl. Jeho jádrem je pojistný systém. Byla navržena tak, aby umožnila provozovatelům jaderných elektráren provozovat rizikové elektrárny s dohledem trhu a zároveň finančně chránila oběti v případě havárie. Soukromé pojištění kryje nehody až do výše 16 miliard dolarů, než se spustí vládní pojistka, která pokryje katastrofická rizika. To dává vládě výhodu dobře motivovaných soukromých subjektů na trhu, které dohlížejí na každodenní řízení rizik. Zpět k umělé inteligenci: Jak přesně by mohlo pojištění vyvážit pokrok v oblasti umělé inteligence a bezpečnost?

Zde je podstata: Pojišťovny mají motivaci a moc vymáhat na to, aby společnosti, které pojišťují, podnikly kroky k prevenci rizik, na kterých záleží. Prosazují bezpečnost prostřednictvím motivačního setrvačníku: Pojišťovny vytvářejí standardy. Standardy určují, na jakých rizicích záleží a co by společnosti měly udělat, aby jim předcházely. Společnosti zabývající se umělou inteligencí chtějí certifikovat podle standardů, protože jim to pomáhá získat důvěru zákazníků a protože jim to umožňuje získat nárok na pojištění – stejně jako to dnes vidíme v kybernetické bezpečnosti se standardem SOC 2. Normy pak nastavují laťku pro audity. Pojišťovny kontrolují rizika před tím, než je pojistí. Získají přístup k soukromým informacím, aby mohli zjistit, zda jsou standardy skutečně splněny. Audity dávají standardům zuby pro vynucování. Audity zase umožňují pojišťovnám přesněji ocenit riziko. Když se mýlí, aktualizují standardy tak, aby odrážely skutečná rizika. Tento setrvačník se nejzřetelněji objevuje u agentů umělé inteligence pro komerční rizika – ale rozšiřuje se i do laboratoří a datových center pro katastrofická rizika.

Objevuje se motivační setrvačník AI: -GitHub zajišťuje, aby zákazníci získali důvěru -Laboratoře se sjednocují na závazcích v oblasti bezpečnosti, tj. raných standardech. -METR prosazuje technická hodnocení, aby umožnila lepší audity -RAND vytváří základ pro standardy datových center