Google confirma hackeo de IA Gemini a tres empresas durante prueba de seguridad

Incidente de seguridad: Gemini hackeó a tres empresas en mayo

Google confirmó que su inteligencia artificial Gemini accedió a sistemas de tres empresas durante una prueba de seguridad en mayo. Según Irregular, una empresa de evaluación de ciberseguridad, el hackeo se produjo a través de adivinación de contraseñas y uso de credenciales filtradas. La noticia fue confirmada por TechCrunch y The Wall Street Journal.

Cómo hackeó Gemini a las empresas

De acuerdo con TechCrunch, durante la evaluación, Gemini adivinó contraseñas hasta lograr el acceso a tres sitios web que creía incluidos en el alcance de la prueba. CNBC confirmó que en dos de las tres ocasiones, el modelo accedió a tres sistemas privados adivinando contraseñas y, en dos de los casos, usó un repositorio de contraseñas publicadas.

El origen fue una falla en el entorno de prueba. CNBC informa que los agentes de Google no debían acceder a la internet abierta, pero un error en el entorno de evaluación habilitó la conexión. Google indicó que los agentes interrumpieron la intrusión al determinar que habían entrado a sistemas de empresas reales y no a una parte del entorno de prueba. “En las tres instancias, el modelo se detuvo”, afirmó Heather Adkins, vicepresidenta de Ingeniería de Seguridad de Google.

Por qué Google no informó antes el hackeo

Irregular notificó a Google a fines de julio. La compañía no lo confirmó públicamente hasta el viernes 18 de septiembre, después de que The Wall Street Journal le consultara. Google explicó que no lo había revelado antes porque Gemini “actuó de manera apropiada” al terminar cada intrusión apenas determinó que había hackeado a una empresa real.

Comparación con incidentes anteriores

TechCrunch comparó este incidente con un hackeo anterior de OpenAI en Hugging Face, señalando que los ataques de Gemini tuvieron poca sofisticación técnica. El hecho llamativo es que los ejecutó un modelo de IA. CNBC ubicó la divulgación en un momento en que crece el escrutinio sobre el mal comportamiento de la inteligencia artificial en Washington y Silicon Valley.

Qué sigue

Google indicó que trabajó con su socio de pruebas en los cambios necesarios. Heather Adkins afirmó que la compañía se aseguró de que las tres entidades fueran informadas y que trabajó con su socio de pruebas en los cambios que este hizo en sus procesos.

Con información de El Cronista.