Estados Unidos
Guatemala
¿Quién debe poner límites a la inteligencia artificial? Empresas y gobiernos debaten cómo supervisarla
aboratorios tecnológicos abren sus modelos a evaluaciones externas mientras expertos y gobiernos discuten qué controles necesitan sistemas cada vez más capaces.
|
Los principales laboratorios de inteligencia artificial ensayan nuevas formas de supervisión mientras crece el debate sobre quién debe evaluar los modelos más avanzados y establecer límites.(Foto Prensa Libre: EFE).
Los laboratorios que desarrollan algunos de los modelos de inteligencia artificial más avanzados comenzaron a abrir parte de sus procesos a evaluaciones externas, después de detectar comportamientos no previstos durante pruebas internas.
La discusión ya no se concentra únicamente en qué tan rápido avanza la tecnología, sino en quién debe vigilarla y cuánto acceso deberían tener los auditores a sistemas desarrollados principalmente dentro de compañías privadas.
Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo y establecer evaluaciones independientes. Sam Altman, de OpenAI, y Elon Musk, de xAI, también han respaldado una desaceleración.
“Hemos soltado a la bestia”, dijo la analista estadounidense Maliyka Muhammad en declaraciones recogidas por Deutsche Welle (DW), en una pieza sobre el temor a perder el control de sistemas cada vez más capaces.
Los modelos superan controles
Los propios laboratorios han aportado casos a esa discusión. Después del incidente con Hugging Face, OpenAI reforzó sus controles y recurrió a evaluadores externos.
Durante pruebas internas de ciberseguridad, modelos experimentales consiguieron superar restricciones establecidas para mantenerlos aislados de internet y accedieron a sistemas externos. OpenAI informó que los modelos explotaron vulnerabilidades en su infraestructura, obtuvieron acceso a internet y comprometieron partes de los sistemas de Hugging Face.
Anthropic anunció, por su parte, una alianza con Accenture para incorporar evaluadores independientes dentro de la compañía. Tendrán acceso comparable al de un empleado para revisar modelos, salvaguardas y posibles fallas. Anthropic y Accenture prevén destinar al menos US$1 mil millones cada una durante los próximos cinco años a desarrollar capacidad en esta área.
El mecanismo todavía está en construcción. No existen estándares comunes sobre qué información debe recibir un auditor, cómo debe comunicar sus hallazgos o quién debería financiar esas evaluaciones. En esta primera etapa, Anthropic pagará el trabajo de Accenture.
La preocupación también llegó a Bruselas y al Vaticano. La Comisión Europea ha planteado reforzar la evaluación de modelos, los mecanismos de alerta y la cooperación internacional en seguridad, mientras el papa León XIV ha pedido responsabilidades claras, controles independientes y marcos jurídicos para los sistemas que intervienen en decisiones que afectan a las personas.
Temor y escepticismo
Las advertencias también llegan desde trabajadores de la industria. Jacob Coxon, quien pasó por OpenAI y Anthropic, dijo a BBC Mundo que existe temor entre empleados que trabajan directamente con estos sistemas y advirtió sobre una carrera en la que los laboratorios continúan avanzando porque ninguno quiere quedarse atrás.
Pero sus previsiones sobre una eventual superinteligencia capaz de escapar al control humano también han sido cuestionadas por otros actores tecnológicos, que consideran difícil asignar probabilidades a escenarios todavía hipotéticos.
Ese desacuerdo atraviesa buena parte de la discusión: cuánto peso dar a los riesgos futuros frente a problemas ya presentes, como desinformación, deepfakes, fraudes, pérdida de privacidad o discriminación algorítmica.
La regulación enfrenta además intereses distintos entre empresas y países. Leonel Aguilar Melgar, investigador y profesor en ETH Zúrich, señala que la conversación sobre desacelerar la IA mezcla factores geopolíticos, comerciales, económicos, tecnológicos y ambientales, y que los actores involucrados tienen incentivos diferentes para defender sus posiciones.
¿Quién regula?
Desde Guatemala, Alí Arafat Lemus, director del Postgrado en Inteligencia Artificial de Universidad Galileo, considera que la supervisión no debería quedar únicamente en manos de las compañías.
“El dueño de la inteligencia artificial es el que al final de cuentas va a decidir cómo se comporta la inteligencia artificial”, afirma.
Lemus plantea una gobernanza en distintas escalas.
“La regulación debería venir a varios niveles: desde nivel internacional, luego pasando por el nivel nacional y luego hasta cada industria”, sostiene.
Aguilar coincide en que buena parte de las grandes decisiones regulatorias continuará concentrada en las potencias donde se encuentran las principales compañías tecnológicas. Sin embargo, considera que países como Guatemala conservan margen de acción en áreas como soberanía de datos, innovación local y construcción de marcos regulatorios propios.
A su juicio, eso requiere una estrategia de país y participación en espacios regionales e internacionales donde se discutan las reglas para esta tecnología.
Entretanto, los laboratorios continúan aumentando las capacidades de sus modelos y, al mismo tiempo, ensayan nuevas formas de supervisarlos. La carrera no se detiene. Lo que empieza a definirse es quién podrá mirar dentro, establecer límites y comprobar que se cumplan antes de que el próximo modelo salga del laboratorio.
ESCRITO POR:
