Estados Unidos
Tecnología
Gemini, IA de Google, habría “hackeado” tres empresas sin recibir órdenes: así fue cómo ocurrió
En medio de discusiones sobre la IA, Google afirmó que su sistema Gemini "hackeó" tres empresas de forma autónoma durante una prueba en mayo.
|
El logotipo de Google Gemini se muestra en un teléfono móvil en Liverpool, Gran Bretaña, el 9 de junio de 2026. (Foto Prensa Libre: EFE)
En medio de la discusión que ha generado los peligros que podría suponer la inteligencia artificial, debido a su rápido desarrollo y enigmático potencial, ha ocurrido un hecho sin precedentes que solo ha causado más preocupación en el panorama tecnológico.
Medios estadounidenses han informado recientemente que Gemini, el modelo de IA de Google, habría "hackeado" a tres empresas de forma autónoma, lo que podría tratarse del primer caso conocido en el que este sistema de IA comete este tipo de actos sin órdenes de un ser humano.
Según medios como The Wall Street Journal, que informó de lo ocurrido el pasado 18 de septiembre, y CNN, el hackeo ocurrió en mayo, durante una prueba de ciberseguridad del sistema de IA realizada por la empresa independiente Irregular.
El portavoz de Google habría detallado a la BBC que Gemini "encontró información pública en línea y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba".
The Wall Street Journal indicó que, en uno de los casos, Gemini simplemente "adivinó las contraseñas hasta que logró acceder a un sistema protegido".
En los otros dos casos, el asistente de IA halló las credenciales en un repositorio público, que se trata de un centro de almacenamiento donde se guardan archivos y datos para garantizar su preservación.
Tras las pruebas, la vicepresidenta de Ingeniería de Seguridad de Google, Heather Adkins, dijo a la BBC que "las tres empresas fueron notificadas de lo ocurrido", además de trabajar con Irregular para implementar cambios.
"Estos incidentes resaltan la importancia de entrenar modelos de IA potentes para que actúen de forma responsable", dijo Adkins.
Por otro lado, el portavoz de Irregular no solo dijo que el problema "fue corregido hace semanas", sino que se trató de un problema que afectó a otros laboratorios de IA, mismos que fueron notificados de lo ocurrido durante la prueba.
Esto se complementa con la información de BBC sobre un caso ocurrido en julio, en el que Claude, la IA de la empresa Anthropic, "escapara" de su entorno de pruebas para hackear varias organizaciones.
Otro caso similar citado por el medio fue el de OpenAI, que anunció que su modelo de IA llevó a cabo "varios ciberataques a numerosos servidores públicos".
ESCRITO POR:
