Monterrey, México.- Las aseguradoras se preparan para reclamaciones multimillonarias derivadas de agentes de IA que actúan fuera de control, ante la creciente preocupación de que altos ejecutivos -como Sam Altman, de OpenAI, y Dario Amodei, de Anthropic- puedan ser considerados responsables de las acciones de sus modelos, destacó el Financial Times.
El diario británico recordó que una serie de incidentes causados por agentes de IA que eludieron los controles de sus empresas matrices -como cuando la IA de OpenAI vulneró la seguridad de la startup Hugging Face- ha llevado a las aseguradoras y a sus abogados a analizar si tendrán que asumir los costos de posibles demandas y daños.
La correduría de seguros Aon analizó más de 300 casos legales relacionados con la IA y concluyó que las aseguradoras también podrían verse obligadas a pagar reclamaciones bajo pólizas que cubren delitos, propiedad intelectual, responsabilidad en medios de comunicación, ciberseguridad y errores u omisiones tecnológicos.
Los ejecutivos de empresas de IA podrían ser demandados por las acciones de sus modelos; en tal caso, las aseguradoras podrían enfrentar reclamaciones al amparo de las pólizas de responsabilidad de administradores y directivos (conocidas como D&O), que protegen a los ejecutivos si son llevados a juicio por sus decisiones o declaraciones, indicó el FT.
"En última instancia, el director ejecutivo de OpenAI es responsable (del incidente con Hugging Face) debido a la falta de control en su negocio", afirmó Tim Rayner, responsable de suscripción y siniestros en el Reino Unido para Verisk.
Si OpenAI hubiera contratado un seguro D&O -añadió Rayner-, la empresa creadora de ChatGPT podría intentar hacer efectiva la póliza para cubrir posibles pérdidas futuras derivadas de demandas contra su director ejecutivo, Sam Altman.
Otras aseguradoras y asesores jurídicos coincidieron en que los ejecutivos de IA podrían ser considerados responsables de pérdidas en reclamaciones D&O, aunque matizaron que dichos casos carecen de precedentes.
Las empresas cuyos sistemas hayan sido vulnerados por agentes podrían tener dificultades para demandar a los desarrolladores de los modelos, incluso si sufrieron pérdidas económicas, dijo Aaron Le Marquer, responsable del equipo de litigios sobre pólizas de seguro del bufete de abogados Stewarts ya que "todavía no existen leyes de responsabilidad civil que regulen el uso del espacio en línea".
