Estados Unidos
Tecnología
Nvidia lanza plataforma para evitar que agentes de IA operen fuera del control humano
La iniciativa, denominada Nvidia Open Agent Safety Platform, cuenta con el respaldo de más de un centenar de socios de la industria, entre ellos Microsoft, JPMorgan Chase, Perplexity y Accenture.
|
La plataforma abierta de ciberseguridad está diseñada para supervisar agentes autónomos de inteligencia artificial (IA) y evitar que operen fuera del control de sus desarrolladores.
Para prevenir incidentes, Nvidia trabaja en dos niveles. El primero es Open Shell, un entorno de ejecución de código abierto que aísla a los agentes en un espacio seguro y verifica que solo tengan los permisos estrictamente necesarios para cumplir su tarea.
El segundo es Sentry, una capa de monitoreo continuo integrada directamente en los chips de procesamiento de datos BlueField. Según la compañía, vigila la ruta de comunicación hacia el modelo y puede intervenir o poner en cuarentena al agente de forma inmediata si intenta sobrepasar sus límites.
We’ve launched NVIDIA Open Agent Safety Platform to help people control what AI agents can access and do.
— NVIDIA (@nvidia) September 28, 2026
Agents can write code, use tools, and work on complex tasks for hours or days. That work requires access to data and systems, along with clear limits on how they’re used.… pic.twitter.com/qKzuPQAGc8
