El seguro es una forma infravalorada de desbloquear el progreso seguro de la IA. Se incentiva a las aseguradoras a cuantificar y hacer un seguimiento veraz de los riesgos: si exageran los riesgos, son superados por la competencia; Si subestiman los riesgos, sus pagos los llevan a la bancarrota. 1/9

Lo ideal sería gobernar la IA de forma que ambos: - Acelera el desarrollo y la implementación de IA - Cuantifica y previene los riesgos que realmente importan Las aseguradoras quieren una adopción rápida de la IA (pueden vender más seguros de IA) y evitar incidentes graves (pagan la factura)

De hecho, los seguros han desempeñado este papel para las nuevas olas tecnológicas durante al menos 270 años: Incendio: En la década de 1700, la población de Filadelfia se multiplicó por diez. A medida que la ciudad crecía, las casas de madera se apiñaban más. El fuego asoló la ciudad. En 1752, Benjamin Franklin controló los incendios creando la primera aseguradora de incendios de Estados Unidos. La aseguradora se jugó la piel para prevenir incendios: pagó los daños. Franklin creó los primeros códigos de construcción para diseñar casas más seguras y los hizo cumplir a través de inspecciones de incendios. El control de los incendios permitió que Filadelfia siguiera creciendo. Automóviles: En los Estados Unidos de la posguerra, las muertes por accidentes automovilísticos aumentaron drásticamente. Las aseguradoras de automóviles pagaron la factura financiera. En 1959, crearon el Instituto de Seguros para la Seguridad en las Carreteras. Las aseguradoras desarrollaron estándares para las pruebas de accidentes automovilísticos que incentivaron a los fabricantes de automóviles a desarrollar automóviles más seguros. Crearon incentivos financieros para la adopción de cinturones de seguridad y bolsas de aire antes de que entrara en vigor la regulación. Los mejores automóviles hicieron que fuera seguro que los automóviles se convirtieran en algo común, y ayudaron a salvar cientos de miles de vidas. Energía nuclear: En 1957, la Ley Price-Anderson creó la industria privada de energía nuclear en Estados Unidos. En su corazón se encuentra un plan de seguros. Fue diseñado para hacer posible que los operadores nucleares operen plantas de energía riesgosas con supervisión del mercado, al tiempo que protegen financieramente a las víctimas en caso de accidente. Los seguros privados cubren accidentes de hasta 16.000 millones de dólares antes de que se active un respaldo gubernamental para cubrir riesgos catastróficos. Esto le da al gobierno el beneficio de actores del mercado privado bien incentivados que supervisan la gestión diaria de riesgos. Volviendo a la IA: ¿Cómo, exactamente, podrían los seguros equilibrar el progreso y la seguridad de la IA?

Aquí está la esencia: Las aseguradoras tienen incentivos y poder para hacer cumplir que las compañías que aseguran tomen medidas para prevenir los riesgos que importan. Refuerzan la seguridad a través de un volante de incentivo: Las aseguradoras crean estándares. Las normas describen qué riesgos son importantes y qué deben hacer las empresas para prevenirlos. Las empresas de IA quieren certificarse según los estándares porque les ayuda a ganarse la confianza de sus clientes y porque los hace elegibles para el seguro, al igual que vemos en la ciberseguridad hoy en día con SOC 2. A continuación, las normas marcan la pauta para las auditorías. Las aseguradoras auditan los riesgos antes de asegurarlos. Obtienen acceso a información privada para que puedan ver si realmente se cumplen los estándares. Las auditorías dan a las normas los dientes para su cumplimiento. Las auditorías, a su vez, permiten a las aseguradoras fijar el precio del riesgo con mayor precisión. Cuando se equivocan, actualizan los estándares para reflejar los riesgos reales. Este volante está emergiendo más claramente en los agentes de IA para riesgos comerciales, pero se extiende a los laboratorios y centros de datos para riesgos catastróficos.

El volante de incentivo de la IA está surgiendo: -GitHub asegura a los clientes para ganar confianza -Los laboratorios se están uniendo en los compromisos de seguridad, es decir, en los primeros estándares -METR está impulsando las evaluaciones técnicas para permitir mejores auditorías -RAND sienta las bases para los estándares de los centros de datos