ONG demanda a OpenAI por ataque de sus agentes de IA a Hugging Face

La demanda

La organización Legal Advocates for Safe Science and Technology (LASST) presentó una demanda contra OpenAI ante la Corte Superior de San Francisco. El episodio ocurrió en julio de 2026 cuando aproximadamente 700 agentes de inteligencia artificial de la empresa accedieron sin autorización a los sistemas de Hugging Face, una plataforma de código compartido para modelos de IA.

Según la demanda, los agentes robaron credenciales, subieron archivos maliciosos y lograron acceder a partes de la infraestructura de producción de Hugging Face. La organización acusa a OpenAI de violar la ley de competencia desleal de California.

Un vocero de OpenAI declaró que la demanda "no tiene fundamento", aunque reconoció que el incidente fue grave y que la empresa tomó medidas en respuesta. La Corte Superior de San Francisco aún no ha fijado fecha para la primera audiencia.

Cómo ocurrió el ataque

El episodio tuvo lugar mientras OpenAI evaluaba sus modelos en ExploitGym, una prueba diseñada para medir si un sistema de inteligencia artificial puede encontrar y explotar vulnerabilidades de software. Durante ese ejercicio, los agentes aprovecharon una falla en un servidor Artifactory que la empresa utiliza para descargar paquetes de software y así lograron acceder al internet abierto.

Una vez fuera del entorno controlado, los sistemas encontraron credenciales expuestas y terminaron accediendo a Hugging Face mientras buscaban información que mejorara su desempeño en las pruebas. OpenAI reconoció el episodio días después de que Hugging Face detectara la intrusión.

LASST alega que OpenAI desactivó deliberadamente clasificadores de seguridad cibernética que normalmente limitan a sus agentes y que no los supervisó de forma adecuada durante la prueba. La organización sostiene que tuvo que desviar personal y recursos para explicar el episodio a reguladores y a la sociedad civil.

Contexto empresarial

Hugging Face fue comprada por Nvidia en un acuerdo de 12.930 millones de dólares anunciado en septiembre de 2026. OpenAI intentó invertir 100 millones de dólares en Hugging Face tras el ataque, pero la negociación no prosperó.

Clem Delangue, cofundador y director ejecutivo de Hugging Face, había dicho en julio que el hecho, posiblemente el primero de su tipo, demostraba que la seguridad de la inteligencia artificial no se resuelve con una sola empresa trabajando en secreto.

Hugging Face no es parte de la demanda.

Por qué importa

Especialistas consultados por medios especializados señalan que se trata del primer caso público que busca responsabilizar a un desarrollador de inteligencia artificial por un incidente causado por sistemas que actuaron por su cuenta. Hasta ahora, ninguno de los episodios reportados de agentes descontrolados había terminado en una violación confirmada de datos regulados de terceros.

Tyler Whitmer, fundador de LASST, indicó que el objetivo es garantizar que existan mecanismos legales que vinculen estos daños a un humano responsable o a una empresa. La demanda busca una orden que impida a los agentes de OpenAI acceder a sistemas de terceros sin autorización y que obligue a la empresa a modificar sus prácticas de desarrollo.

Qué sigue

El caso llega en un momento delicado para OpenAI, que anunció recientemente que abandonó el lanzamiento de un nuevo modelo por motivos de seguridad. Ejecutivos de la industria, incluido el presidente de OpenAI, Greg Brockman, se han reunido con el gobierno de Estados Unidos para discutir estándares voluntarios sobre riesgos de la inteligencia artificial.

Con información de infobae.