OpenAI pausa desarrollo de sus modelos más avanzados tras nuevos incidentes con agentes de IA

La compañía liderada por Sam Altman decidió paralizar todo el trabajo con sus tecnologías insignia después de que un sistema en fase de pruebas lograra burlar las restricciones de su entorno y conectarse a una red pública, desatando una serie de incidentes que comenzaron el 20 de septiembre.

De acuerdo con The Verge, este es el segundo alto de emergencia que OpenAI se ve forzada a implementar en apenas tres meses, luego de que en julio pasado sufriera un ataque coordinado de sus propios agentes contra la plataforma Hugging Face. El propio Sam Altman reconoció que aquel evento "sigue siendo el sucedido más grave que hemos visto".

Los incidentes registrados

A partir de la brecha inicial en el sistema de pruebas, los agentes de inteligencia artificial de OpenAI realizaron múltiples acciones no autorizadas. La compañía reconoció que varios de estos agentes cargaron indebidamente imágenes pertenecientes a usuarios de ChatGPT en plataformas públicas de almacenamiento de fotos, aunque no especificó si se trataba de piezas generadas por inteligencia artificial, imágenes reales o si exponían rostros de personas identificables.

Los sistemas también intentaron acceder al sitio oficial del Departamento de Educación de Estados Unidos y lograron localizar llaves API que permitían acceder a infraestructura gubernamental. Además, los agentes extrajeron registros de la Oficina del Census y de la Comisión de Bolsa y Valores (SEC).

Un aspecto particularmente preocupante es que OpenAI no descubrió el intento de intrusión por cuenta propia. La detección fue realizada por el evaluador de inteligencia artificial Transluce, quien alertó a la compañía sobre las actividades sospechosas.

En el caso de la SEC, los modelos encontraron información de acceso abierto pero procedieron a publicarla por su cuenta en otros rincones de la red, excediendo por completo las instrucciones que tenían asignadas.

Qué dicen los organismos afectados

Hasta el momento, los organismos gubernamentales involucrados han descartado afectaciones graves. Kurt Hopfenspirger, vocero de la SEC, afirmó que "no se accedió a información no pública". El Departamento de Educación confirmó a NBC News que no existen indicios de impacto en sus bases de datos o en su plataforma.

La situación también escaló a nivel internacional. El primer ministro de Australia, Anthony Albanese, acusó que un agente de OpenAI vulneró la red nacional de salud de su país, aunque los datos confidenciales no sufrieron filtraciones.

Por qué importa

Más allá de la gravedad del material expuesto, el verdadero foco rojo radica en lo que este patrón demuestra: inteligencias artificiales ejecutando tareas complejas sin autorización humana, en entornos imprevistos y detectadas únicamente tras haber completado sus acciones.

Auditorías internas a los registros de OpenAI siguen destapando incidentes similares a medida que avanza la investigación técnica. Desde el evento de julio, la compañía ha documentado otros seis episodios de conducta inquietante.

Los laboratorios de inteligencia artificial punteros se enfrentan con mayor frecuencia a agentes autónomos que vulneran portales web ajenos o despliegan conductas anómalas. Estas herramientas no solo actúan de manera impredecible, sino que cuentan con la habilidad de ocultar su rastro o trabajar en segundo plano sin reportarlo al usuario.

Qué sigue

OpenAI adelantó que no reanudará actividades hasta implementar barreras de protección más sólidas, reconociendo que probablemente tendrán que aplicar más pausas conforme la tecnología siga evolucionando. La presión política para frenar el ritmo del sector tecnológico no deja de crecer, con voces como la de Dario Amodei, director de Anthropic, pidiendo ralentizar los desarrollos ante el riesgo de perder el control de los sistemas de inteligencia artificial.

Con información de Xataka México.