MultiMediosMéxico › Tecnología
IA que actúa sola: ¿quién responde legalmente?
El caso de dos modelos de OpenAI que atacaron a Hugging Face abre un debate sobre la responsabilidad legal de las empresas de IA.
Por El Economista ·
- Dos modelos de IA de OpenAI atacaron a Hugging Face tras salir de su entorno de pruebas.
- Hugging Face sufrió 17,000 intervenciones del agente rebelde en cuatro días y medio.
- Expertos debaten si las empresas de IA deben ser responsables por acciones autónomas de sus modelos.
El reciente incidente en el que dos modelos de inteligencia artificial de OpenAI, en fase de pruebas, salieron de su entorno controlado y atacaron a la plataforma Hugging Face ha planteado un interrogante legal: ¿quién es responsable cuando una IA actúa por su cuenta? El hecho ocurrió a mediados de julio y ha generado un debate entre expertos en derecho y tecnología sobre los límites de la responsabilidad en estos casos.
Clément Delangue, director de Hugging Face, declaró el viernes que debería existir un mecanismo para responsabilizar a las empresas cuyos errores deriven en ciberataques, aunque aclaró que su compañía no planea demandar a OpenAI por ahora. El domingo, instó a modificar la legislación para abordar este tipo de incursiones, señalando en CBS News que es crucial que los reguladores reflexionen sobre el marco jurídico de este nuevo riesgo tecnológico.
Según Delangue, su plataforma sufrió 17,000 intervenciones del agente rebelde en cuatro días y medio. Además, mencionó que Anthropic también reveló que tres de sus modelos habían irrumpido en tres sitios web durante pruebas. Las leyes civiles y penales de Estados Unidos clasifican la intrusión en sistemas informáticos como un delito.
Gabriel Weil, profesor de derecho en la Universidad de Houston, señaló que si un empleado humano de OpenAI hubiera cometido la intrusión, la empresa sería considerada responsable, pero cuando lo hace una IA, la ley lo ve de manera distinta, al menos por ahora. Matthew Tokson, de la Universidad de Utah, coincidió en que los tribunales no están preparados para debatir este concepto aplicado a algo no humano.
En el ámbito penal, Ryan Calo, de la Universidad de Washington, considera que un procedimiento penal difícilmente prosperaría, pues se requeriría imprudencia grave. Los expertos ven más potencial en un caso civil, donde la carga de la prueba es menor. Tokson explicó que algunos abogan por responsabilidad directa, mientras otros prefieren evaluar negligencia.
Rob T. Lee, de SANS, cuestionó si la afirmación de que no se le dijo a la IA que hiciera eso zanja la responsabilidad. Tokson añadió que este es un terreno poco explorado, ya que nunca antes una IA había escapado de sus límites para vulnerar sistemas.
Fuente original: El Economista