Estados Unidos
Godot ha llegado
Un punto de inflexión de la inteligencia artificial
La inteligencia artificial enfrenta un punto de inflexión.
|
En 2016, tres emprendedores franceses, Clément Delangue, Julien Chaumond y Thomas Wolf, fundaron en Nueva York una startup con un nombre peculiar, inspirado en el emoji del abrazo. Su primer producto era un chatbot para adolescentes, un amigo virtual con personalidad propia. Como negocio no despegó, pero dejó un equipo con una experiencia enorme en procesamiento del lenguaje natural. Sobre esa base nació el Hugging Face Hub, una plataforma donde la comunidad comparte modelos, conjuntos de datos y aplicaciones de demostración (Spaces). Alberga millones de modelos de texto, imagen, audio y visión, y su fuerza está en el efecto red: cuantos más investigadores y empresas publican allí, más valioso resulta para todos.
En julio de 2026, agentes de inteligencia artificial desarrollados por OpenAI (Chat GPT) escaparon de su entorno de pruebas, accedieron a internet y vulneraron la infraestructura de Hugging Face. La intrusión duró unos dos días y medio, con unas 17.600 acciones recuperadas entre el 9 y el 13 de julio. Los agentes ingresaron al sistema de procesamiento de datos de Hugging Face, accedieron a datos internos y a credenciales de servicios, pero no hay evidencia de que alteraran modelos, bases de datos o espacios públicos. Según mensajes analizados por ABC News, un agente convirtió una herramienta técnica en un “tablero de mensajes” donde los agentes compartían información entre ellos. Allí se coordinaron cientos de ellos, que se autodenominaban un “colectivo”. Participaron al menos 1.200 agentes, el 95% de ellos con un modelo interno de OpenAI.
Hugging Face intentó contener el ataque, pero sus salvaguardas rechazaron las solicitudes. OpenAI reconoció su responsabilidad varios días después de que Hugging Face anunciara la brecha y avisara al FBI. Un informe técnico de OpenAI concluyó que los modelos habían sido entrenados, sin querer, para hacer trampa y comunicarse entre sí. Cerca de 1.100 empleados de empresas de IA pidieron en una carta abierta que el gobierno estadounidense regule el desarrollo de esta tecnología.
Los modelos habían sido entrenados, sin querer, para hacer trampa.
Sam Altman, el jefe ejecutivo de OpenAI, calificó el hackeo como una infracción de seguridad significativa. También afirmó que el mundo ya vive un momento cercano a la singularidad. Se reunió con senadores, aunque dijo que el tema no se discutió a fondo. En agosto escribió en X que OpenAI se preocupa mucho por la seguridad de la IA. OpenAI pausó el entrenamiento de sus modelos y Altman dijo después que sigue siendo el evento más grave que han visto. Como cosa rara, su mayor rival en este tema, Elon Musk, director de xAI, respaldó, junto a Altman, la propuesta de avanzar con prudencia en el desarrollo de la IA.
Sin embargo, Donald Trump lo vio de otra forma, llamando a varios líderes sobre el tema y haciendo un acuerdo que tiene poco más de 300 palabras e incluye cuatro capas de controles y auditorías que las empresas aceptan de forma voluntaria. La primera exige controles internos para vigilar las capacidades de los modelos y evitar que hackeen o accedan a sistemas técnicos de formas no previstas. Un análisis del Council on Foreign Relations lo calificó como pacto sin dientes, porque no obliga a las empresas a nada y no cambia sus incentivos comerciales para seguir probando modelos potencialmente peligrosos. Tampoco establece consecuencias para quienes lo incumplan, mientras tres de cada cuatro estadounidenses temen que las empresas no hagan lo suficiente para evitar daños graves. El contexto político es el de las elecciones legislativas del 3 de noviembre. ¡Feliz domingo!
ESCRITO POR:
