A IA é muito arriscada para ser segurada, dizem pessoas cujo trabalho é garantir riscos

O que acontece quando o software que todos estão correndo para adotar se torna arriscado demais para ser segurado por alguém? De acordo com reportagem do Financial Timesestamos prestes a descobrir.

As principais seguradoras, incluindo AIG, Great American e WR Berkley, estão pedindo permissão aos reguladores dos EUA para excluir responsabilidades relacionadas à IA das políticas corporativas. Um subscritor descreve os resultados dos modelos de IA para o FT como “uma caixa preta demais”.

A indústria tem bons motivos para estar assustada, lembra-nos a história. A visão geral da IA ​​do Google acusou falsamente uma empresa de energia solar de problemas legais, desencadeando um US$ 110 milhões processo em março. A Air Canada no ano passado ficou presa em honrar um desconto chatbot inventado. E os fraudadores no ano passado usaram uma versão digitalmente clonada de um executivo sênior para roubar US$ 25 milhões da empresa de engenharia de design Arup, com sede em Londres, durante uma videochamada que parecia totalmente real.

O que realmente aterroriza as seguradoras não é um pagamento massivo; é o risco sistêmico de milhares de reclamações simultâneas quando um modelo de IA amplamente utilizado intervém. Como disse um executivo da Aon, as seguradoras podem lidar com uma perda de US$ 400 milhões para uma empresa. O que eles não conseguem lidar é um acidente de IA que provoca 10.000 perdas de uma só vez.