Durante muchos años, los libros, el cine y la televisión narraron escenarios utópicos en los que los robots y las computadoras se apoderaban de la humanidad y buscaban incluso destruirla. Durante mucho tiempo, esto se consideró ciencia ficción con el único objetivo de entretener a quienes la consumían.

Este género insinuó y jugó durante mucho tiempo con esta narrativa, pero de repente el ambiente comenzó a sentirse como si estuviéramos dentro de una película y la frase “la realidad supera la ficción” cobró más sentido.

En las últimas dos semanas, la conversación en torno a que existe una probabilidad superior al 10% de que la humanidad sea “aniquilada” en los próximos 10 años por la inteligencia artificial (IA) ha generado preocupación genuina e incluso miedo, debido a la velocidad de sus avances y lo que estos podrían suponer para la humanidad.

Incluso los propios directores generales de grandes empresas se han unido para proponer una pausa y “ralentizar” el avance de estas tecnologías.

LECTURAS RELACIONADAS

¿La IA es una amenaza real o hay exageración? Las tres posturas que enfrentan a los expertos

Cómo funciona la IA en la ciberseguridad y qué medidas de protección se deben implementar para proteger a los usuarios

No obstante, “ninguna de las advertencias sobre un apocalipsis provocado por la IA es nueva para el sector tecnológico”, plantea Joe Tidi, corresponsal cibernético del Servicio Mundial de la BBC, pero la toma de conciencia tanto del público en general como del ámbito político es uno de los factores que han influido para que parezca que ahora a todos nos interesa lo que pase con la IA.

¿Qué pasó?

“Nuestra industria ha estado hablando durante un tiempo de que el enfoque de esta tecnología va a llegar muy lejos. Se pensó que estos modelos se iban a volver más capaces e inteligentes que los humanos. Eso finalmente sucedió”, admitió Sam Altman, cofundador y director ejecutivo de OpenAI, en el panel de Dreamforce de Salesforce, en San Francisco, Estados Unidos.

El peligro de los nuevos sistemas, que mejoran rápidamente, se hizo más evidente, ya que en semanas recientes se conocieron múltiples casos en los que la IA salió de sus entornos de laboratorio para llevar a cabo actividades de hackeo.

El más reciente, y uno de los que posiblemente abrió la “caja de Pandora” respecto de este asunto, fue el incidente de Hugging Face, en el cual, paradójicamente, durante una evaluación interna de ciberseguridad, los modelos de OpenAI eludieron controles diseñados para aislarlos de internet, comprometieron partes de la infraestructura interna de investigación de la empresa y los sistemas de Hugging Face.

El director del posgrado de inteligencia artificial de la Universidad Galileo, Alí Lemus, explica el incidente en palabras simples: metieron a la IA dentro de una computadora que no tenía acceso a internet y le hicieron un test de ciberseguridad. Entonces, en lugar de resolver el test “como Dios manda”, la IA pensó que esas respuestas seguramente estaban almacenadas en un servidor de otra empresa —Hugging Face—.

Como estaba en un ambiente controlado, lo primero que hizo fue hackearse a sí misma, por decirlo de alguna manera, para liberarse del sistema en el que estaba.

Una vez libre, se dio cuenta de que estaba conectada a otra computadora que sí tenía internet. Entonces hackeó esa computadora para obtener acceso a internet.

Ya con acceso a internet, salió al mundo exterior y comenzó a atacar varias máquinas. A esto se le llama ataques de día cero, es decir, vulnerabilidades o formas de ataque que nadie había utilizado antes. No es que estuviera copiando a un humano, sino que estaba generando su propia forma de hackear y de hacer que esos ataques fueran indetectables.

Finalmente, atacó a Hugging Face. Logró extraer todas las cuentas que necesitaba, regresó al sistema y completó el examen.

Lo interesante es que nunca fue programada para hacer algo así. Sin embargo, lo hizo. Y no fue, según Lemus, con mala intención, ya que la IA no buscaba robar datos ni llevar a cabo una acción con fines criminales, sino que simplemente quería aprobar su examen.

Aunque este incidente encendió las alarmas en todo el mundo, no es un caso aislado, ya que, según un artículo publicado por The Conversation, “han demostrado que los modelos actuales pueden traspasar los límites de seguridad, y que se están desarrollando sistemas aún más potentes”.

Posturas y reacciones ante la dualidad riesgo-beneficio

“He trabajado en inteligencia artificial durante los últimos doce años porque creo que podría mejorar drásticamente la calidad de vida humana”, dice Dario Amodei, director ejecutivo de Anthropic, en un texto en el que pidió explícitamente a las empresas de IA, incluida la suya, ralentizar su ritmo de trabajo.

En el texto, Amodei reconoce los beneficios de la IA, pero también hace énfasis en que esta tecnología “conlleva riesgos, y debido a su gran poder, estos riesgos son graves”. Entre estos destaca los de “perder el control de los sistemas de IA, el uso indebido de la IA para ciberataques y bioterrorismo, y graves trastornos económicos”.

En el panel de San Francisco, Altman también hace énfasis en este asunto. “Existe un miedo real a que algunas de estas empresas, o algunas empresas que desarrollan IA, puedan obtener demasiado poder y ejercer una influencia indebida en la economía, imponiendo una visión del mundo a la gente. Y creo que el mundo tiene razón en temer esto”, dijo.

Para Amodei, existe una dualidad entre riesgo y beneficio, en la que no desarrollar la tecnología priva a la humanidad de beneficios, mientras que desarrollarla demasiado rápido “es una imprudencia”.

Altman, por su parte, reconoce que existen dos grandes desafíos: la posibilidad de una pérdida de control, un accidente o algún otro incidente grave, o la posibilidad de una concentración excesiva del poder y de que quienes desarrollan la IA puedan imponer su visión del mundo.

¿Existen soluciones?

Ante esta dualidad, Amodei propone un término medio en el que se demuestre que es posible desarrollar con cuidado estas inteligencias, tener éxito comercial y convertir la seguridad en un factor competitivo para las empresas de IA. Como él lo describe, se trata de “crear una carrera hacia la excelencia” en la que no solo se invierta en la prevención de riesgos, sino que también se dosifique el ritmo de avance de las capacidades para que la prevención tenga tiempo de ponerse al día.

Para Altman, es indispensable “abordar la alineación, el monitoreo y la seguridad con nuevos niveles de rigor y estar dispuestos a ajustar el ritmo de desarrollo de nuestras capacidades para que la alineación, la seguridad y el monitoreo estén siempre por delante de las capacidades”. Además, reconoce que el escenario de Hugging Face provocó un verdadero punto de inflexión, “no solo en nuestra propia empresa sino en toda la industria”.

Amodei propone un plan de tres pasos para “marcar el ritmo de la frontera” y desarrollar IA a un ritmo equilibrado que garantice su seguridad, al tiempo que se obtienen sus beneficios y se abordan importantes dilemas geopolíticos.

Los pasos son incorporar revisores de seguridad independientes y externos, establecer normas de seguridad coordinadas para el sector en los países democráticos y alcanzar acuerdos globales. En pocas palabras: auditoría, regulación y gobernanza.

Es una propuesta con la que tanto Altman como Elon Musk, director de xAI, se mostraron de acuerdo.

El ambiente geopolítico

No obstante, en esta “película” hay otro elemento que también tiene mucha influencia: la cuestión geopolítica.

Así como Anthropic y OpenAI rivalizan por afianzar su dominio en el mercado antes de salir a bolsa, en el ámbito global y entre los Estados lo que está en juego es aún mayor, especialmente para Estados Unidos y China.

Ambas naciones apuestan por utilizar estas tecnologías con el objetivo de obtener ventajas políticas.

El presidente de Estados Unidos, Donald Trump, tachó de “fuerzas negativas” a quienes piden regular la IA, ya que para él "quien gane con la IA, gana".

Trump calificó de “bulo” la posibilidad de que la IA termine destruyendo a la humanidad y afirmó que Estados Unidos debe mantener el liderazgo en esta tecnología ante China.

Mientras tanto, Pekin también criticó las “narrativas amenazantes” sobre la gobernanza de la IA.

Según BBC News Mundo, el portavoz del Ministerio de Asuntos Exteriores chino, Guo Jiakun, dijo a los periodistas que “los discursos de amenaza, confrontación y competencia maliciosa solo sirven para perturbar el proceso de gobernanza global de la IA y no benefician a nadie” y que todas las partes “deberían trabajar juntas para impulsar la IA de una manera abierta, inclusiva, beneficiosa para todos y orientada hacia el bien común”.

Las ventajas de hacer una pausa

Para Amodei, “marcar el ritmo” con estas inteligencias no significa detener el entrenamiento de modelos ni el progreso técnico, sino asegurar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos y que evaluadores externos lo confirmen.

Lemus explica que esta pausa permitiría evaluar estas tecnologías y comprender mejor qué está pasando, cuáles son sus verdaderas capacidades y cuál es su potencial, en lugar de avanzar “como locos” sin tener claridad al respecto. A partir de esa evaluación, también sería posible regularlas mejor.

Además, considera que, antes de continuar desarrollando modelos de inteligencia artificial cada vez más potentes, es necesario asegurarse de que los sistemas existentes funcionen correctamente. Esto permitiría identificar y corregir comportamientos no deseados o potencialmente peligrosos, como el chantaje o el hackeo, mediante la implementación de medidas de seguridad que funcionen como una especie de “seguros” para evitar que la IA se salga de control.

También señala que es necesario evaluar hasta qué punto la inteligencia artificial está alineada con los valores humanos y hacer pruebas que permitan detectar y corregir aquello que no corresponda con lo que queremos como humanidad. En ese sentido, la pausa también brindaría un espacio para reflexionar y decidir colectivamente qué características queremos que tenga la inteligencia artificial y cuáles no.

Aún no existe un guion escrito para el final de esta película. No sabemos cómo avanzarán estos escenarios ni qué pasará con los actores principales, pero, sobre todo, con la humanidad.