Versicherung ist eine unterschätzte Möglichkeit, um sicheren KI-Fortschritt zu ermöglichen. Versicherer sind motiviert, Risiken wahrheitsgemäß zu quantifizieren und zu verfolgen: Wenn sie Risiken übertreiben, werden sie übertroffen; wenn sie Risiken untertreiben, führen ihre Auszahlungen zur Insolvenz. 1/9

Idealerweise würden wir KI so steuern, dass sowohl: - Die Entwicklung und Einführung von KI beschleunigt wird - Die Risiken, die wirklich wichtig sind, quantifiziert und verhindert werden Versicherer wollen eine schnelle Einführung von KI (sie können mehr KI-Versicherungen verkaufen) – und ernsthafte Vorfälle vermeiden (sie zahlen die Rechnung)

Tatsächlich hat die Versicherung seit mindestens 270 Jahren eine solche Rolle bei neuen Technologiewellen gespielt: Feuer: Im 18. Jahrhundert wuchs die Bevölkerung Philadelphias um das Zehnfache. Mit dem Wachstum der Stadt wurden die Holzhäuser enger beieinander gebaut. Feuer verwüstete die Stadt. 1752 zähmte Benjamin Franklin die Brände, indem er Amerikas erste Feuerversicherung gründete. Die Versicherung hatte ein Interesse daran, Brände zu verhindern - sie zahlte für Schäden. Franklin schuf frühe Bauvorschriften, um sicherere Häuser zu entwerfen, und setzte diese durch Feuerinspektionen durch. Das Zähmen der Brände ermöglichte es Philadelphia, weiter zu wachsen. Autos: In der Nachkriegszeit stiegen die Todesfälle durch Autounfälle in Amerika stark an. Autoversicherer übernahmen die finanziellen Kosten. 1959 gründeten sie das Insurance Institute of Highway Safety. Versicherer entwickelten Standards für Crashtests, die die Autohersteller anreizen sollten, sicherere Autos zu entwickeln. Sie schufen finanzielle Anreize für die Einführung von Sicherheitsgurten und Airbags, bevor die Regulierung einsetzte. Bessere Autos machten es sicher, dass Autos alltäglich wurden - und halfen, Hunderttausende von Leben zu retten. Kernenergie: 1957 schuf das Price-Anderson-Gesetz die private Kernenergieindustrie in Amerika. Im Kern steht ein Versicherungssystem. Es wurde entwickelt, um es den Betreibern von Kernkraftwerken zu ermöglichen, riskante Kraftwerke mit Marktaufsicht zu betreiben, während die Opfer im Falle eines Unfalls finanziell geschützt werden. Private Versicherungen decken Unfälle bis zu 16 Milliarden Dollar ab, bevor eine staatliche Rückversicherung einsetzt, um katastrophale Risiken abzudecken. Dies gibt der Regierung den Vorteil von gut incentivierten privaten Marktakteuren, die das tägliche Risikomanagement überwachen. Zurück zu KI: Wie könnte die Versicherung genau den Fortschritt und die Sicherheit von KI ausbalancieren?

Hier ist die Zusammenfassung: Versicherer haben Anreize und die Macht, die Unternehmen, die sie versichern, dazu zu bringen, Maßnahmen zu ergreifen, um die relevanten Risiken zu verhindern. Sie setzen Sicherheit durch ein Anreiz-Flywheel durch: Versicherer erstellen Standards. Standards umreißen, welche Risiken wichtig sind und was Unternehmen tun sollten, um sie zu verhindern. KI-Unternehmen möchten sich gegen Standards zertifizieren lassen, da dies ihnen hilft, Vertrauen von ihren Kunden zu gewinnen und sie versicherungsfähig macht - genau wie wir es heute im Bereich der Cybersicherheit mit SOC 2 sehen. Standards setzen dann die Messlatte für Audits. Versicherer prüfen Risiken, bevor sie sie versichern. Sie erhalten Zugang zu privaten Informationen, um zu sehen, ob die Standards tatsächlich erfüllt sind. Audits geben den Standards Durchsetzungsvermögen. Audits ermöglichen es den Versicherern wiederum, das Risiko genauer zu bewerten. Wenn sie es falsch einschätzen, aktualisieren sie die Standards, um die realen Risiken widerzuspiegeln. Dieses Flywheel zeigt sich am deutlichsten bei KI-Agenten für kommerzielle Risiken - es erstreckt sich jedoch auch auf Labore und Rechenzentren für katastrophale Risiken.

Das KI-Anreiz-Flywheel entsteht: -GitHub versichert Kunden, um Vertrauen zu gewinnen -Labore bündeln sich auf Sicherheitsverpflichtungen, d.h. frühe Standards -METR fördert technische Bewertungen, um bessere Audits zu ermöglichen -RAND legt eine Grundlage für Standards in Rechenzentren