O seguro é uma forma subestimada de desbloquear o progresso seguro da IA. Os seguradores são incentivados a quantificar e rastrear riscos de forma verdadeira: se exagerarem nos riscos, são superados pela concorrência; se subestimarem os riscos, os seus pagamentos levam-nos à falência. 1/9

Idealmente, deveríamos governar a IA de uma forma que: - Acelere o desenvolvimento e a implementação da IA - Quantifique e previna os riscos que realmente importam Os seguradores querem uma rápida adoção da IA (podem vender mais seguros de IA) -- e evitar incidentes graves (eles pagam a conta)

Na verdade, o seguro desempenhou esse papel para novas ondas de tecnologia por pelo menos 270 anos: Fogo: No século XVIII, a população da Filadélfia cresceu dez vezes. À medida que a cidade crescia, as casas de madeira foram se aglomerando mais. O fogo devastou a cidade. Em 1752, Benjamin Franklin domou os incêndios ao criar o primeiro segurador de incêndios da América. O segurador tinha interesse em prevenir incêndios - eles pagavam pelos danos. Franklin criou os primeiros códigos de construção para projetar casas mais seguras e os fez cumprir através de inspeções de incêndio. Domar os incêndios permitiu que a Filadélfia continuasse a crescer. Carros: Na América do pós-guerra, as mortes em acidentes de carro aumentaram drasticamente. Os seguradores de carros pagaram a conta financeira. Em 1959, eles criaram o Instituto de Seguros de Segurança Rodoviária. Os seguradores desenvolveram padrões para testes de colisão de carros que incentivaram os fabricantes de automóveis a desenvolver carros mais seguros. Eles criaram incentivos financeiros para a adoção de cintos de segurança e airbags antes que a regulamentação fosse implementada. Carros melhores tornaram seguro que os carros se tornassem comuns - e ajudaram a salvar centenas de milhares de vidas. Energia nuclear: Em 1957, a Lei Price-Anderson criou a indústria privada de energia nuclear na América. No seu cerne está um esquema de seguro. Foi projetado para possibilitar que operadores nucleares gerissem usinas de energia arriscadas com supervisão de mercado, enquanto protegiam financeiramente as vítimas em caso de um acidente. O seguro privado cobre acidentes até $16 bilhões antes que um respaldo governamental entre em ação para cobrir riscos catastróficos. Isso dá ao governo o benefício de atores do mercado privado bem incentivados que supervisionam a gestão de riscos do dia a dia. Voltando à IA: Como, exatamente, poderia o seguro equilibrar o progresso da IA e a segurança?

Aqui está a essência: Os seguradores têm incentivos e poder para fazer com que as empresas que asseguram tomem medidas para prevenir os riscos que importam. Eles impõem segurança através de um ciclo de incentivos: Os seguradores criam padrões. Os padrões delineiam quais riscos importam e o que as empresas devem fazer para preveni-los. As empresas de IA querem certificar-se em relação aos padrões porque isso as ajuda a ganhar confiança dos seus clientes e porque as torna elegíveis para seguro - assim como vemos hoje em dia na cibersegurança com o SOC 2. Os padrões então estabelecem a referência para auditorias. Os seguradores auditam os riscos antes de os assegurar. Eles têm acesso a informações privadas para ver se os padrões estão realmente a ser cumpridos. As auditorias dão força aos padrões para a sua aplicação. As auditorias, por sua vez, permitem que os seguradores precifiquem o risco de forma mais precisa. Quando erram, atualizam os padrões para refletir os riscos reais. Este ciclo está a emergir de forma mais clara em agentes de IA para riscos comerciais - mas estende-se a laboratórios e centros de dados para riscos catastróficos.

O ciclo de incentivo da IA está a emergir: -A GitHub assegura aos clientes para ganhar confiança -Labs estão a unir-se em Compromissos de Segurança, ou seja, padrões iniciais -A METR está a impulsionar avaliações técnicas para permitir melhores auditorias -A RAND estabelece uma base para padrões de centros de dados