保険は、AIの安全な進歩を解き放つための過小評価されている方法です。 保険会社は、リスクを正直に定量化し、追跡するインセンティブがあります。リスクを過小評価すると、その支払いが彼らを破綻させます。 1/9

理想的には、次の両方を実現する方法で AI を統治します。 - AIの開発とデプロイを加速 - 本当に重要なリスクを定量化し、防止する 保険会社は、AIの迅速な導入(AI保険の販売を増やすことができる)と、重大な事故の回避(請求書の支払い)を望んでいます

実際、保険は少なくとも270年間、新しいテクノロジーの波に対してこの役割を果たしてきました。 火災:1700年代、フィラデルフィアの人口は10倍に増加しました。都市が成長するにつれて、木造家屋はより密集するようになりました。火事が街を荒廃させた。1752年、ベンジャミン・フランクリンはアメリカ初の火災保険会社を設立し、火事を鎮めました。保険会社は、火災を防ぐためにゲームに皮を持っていました - 彼らは損害賠償を支払いました。フランクリンは、より安全な家を設計するための初期の建築基準法を作成し、火災検査を通じてそれらを施行しました。火事を抑えることで、フィラデルフィアは成長を続けることができました。 車:戦後のアメリカでは、自動車事故による死亡者数が急増しました。自動車保険会社は、財政的な費用を支払った。1959年、彼らはInsurance Institute of Highway Safetyを設立しました。保険会社は、自動車メーカーがより安全な自動車を開発するように奨励する自動車衝突試験の基準を開発しました。彼らは、規制が導入される前に、シートベルトとエアバッグの採用に対して金銭的なインセンティブを作成しました。より良い車は、車が一般的になるのを安全にし、何十万人もの命を救うのに役立ちました。 原子力エネルギー:1957年、プライス・アンダーソン法により、アメリカでは民間の原子力産業が誕生しました。その中心にあるのは保険制度です。これは、原子力事業者が市場の監督の下でリスクの高い発電所を運営できるようにすると同時に、事故の場合に被害者を財政的に保護できるように設計されました。民間保険は、壊滅的なリスクをカバーするために政府のバックストップが作動する前に、最大160億ドルの事故をカバーします。これにより、政府は、日々のリスク管理を監督する、十分にインセンティブのある民間市場関係者の恩恵を受けることができます。 AIに戻る: 保険は、AIの進歩とセキュリティのバランスをどのように取ることができるのでしょうか?

要点は次のとおりです。 保険会社は、保険をかける企業が重要なリスクを防止するための行動を取るように強制するインセンティブと権限を持っています。彼らはインセンティブフライホイールを通じてセキュリティを強化します。 保険会社は基準を作成します。標準は、どのリスクが重要であり、企業がそれらを防ぐために何をすべきかを概説しています。AI企業が基準に照らして認証したいと考えているのは、顧客からの信頼を得るのに役立ち、また、今日のSOC 2のサイバーセキュリティに見られるように、保険の資格を得るためです。 次に、標準が監査の基準を設定します。保険会社は、保険をかける前にリスクを監査します。彼らは個人情報にアクセスできるため、基準が実際に満たされているかどうかを確認できます。監査は、施行のための基準の歯を与えます。 監査により、保険会社はリスクをより正確に評価することができます。彼らがそれを間違えると、彼らは実際のリスクを反映するように基準を更新します。 このフライホイールは、商業リスクのAIエージェントに最も明確に現れていますが、壊滅的なリスクについてはラボやデータセンターにまで及びます。

AIインセンティブフライホイールが登場しています。 -GitHubは、顧客が信頼を勝ち取ることを保証します -ラボは、安全への取り組み、つまり初期の基準で結束しています -METRは、より良い監査を可能にするために技術評価を推進しています -RANDはデータセンター標準の基盤を確立