Los marcos legales de responsabilidad civil siguen pensados para un agente que actúa bajo supervisión humana continua, y esa premisa ya no corresponde a como se despliega la inteligencia artificial en las empresas.
Un análisis publicado en el Berkeley Technology Law Journal documenta la distancia entre la arquitectura jurídica que se está construyendo y la arquitectura técnica que ya opera en producción: agentes pertenecientes a compañías distintas que se delegan tareas entre sí sin que ningún humano revise cada paso de la cadena.
Un daño sin responsable único al que señalar
El artículo sostiene que los regímenes de responsabilidad en discusión asumen todavía el caso de un agente aislado, cuya cadena de decisiones puede reconstruirse y atribuirse a una parte identificable.
Ese supuesto se rompe cuando la tarea pasa de un agente a otro, cada uno gobernado por una empresa distinta, y el resultado final carece de un punto único de origen.
Casi la mitad de los responsables tecnológicos consultados en la investigación ya despliega o adopta sistemas agénticos en producción, y una de cada cinco aseguradoras reconoce haber gestionado ya siniestros vinculados a IA que sus pólizas no contemplaban. Esa brecha opera ya en las carteras de riesgo de las aseguradoras, no solo en el debate académico.
Fuente: Berkeley Technology Law Journal
Una reflexión para terminar
Desde el 2 de agosto, la Comisión Europea cuenta con plenas competencias sancionadoras bajo el Reglamento de IA, con multas que llegan a los 15 millones de euros o al 3 % de la facturación mundial. Toda empresa que delegue decisiones en agentes que a su vez delegan en agentes de terceros necesita saber, antes de que ocurra el incidente, quién responde y con qué evidencia.
Si estas tendencias son relevantes para tu organización y quieres explorar cómo trasladarlas a decisiones concretas, podemos hablarlo en una sesión sin compromiso.
Este análisis forma parte de La Sociedad Artificial, la newsletter semanal de Luis Sotillos en LinkedIn sobre estrategia digital e inteligencia artificial en la nueva fase de evolución de internet.