NVIDIA anunció la Open Agent Safety Platform, una plataforma de software abierto y diseño de referencia orientada a reforzar la seguridad de la inteligencia artificial desde las pruebas hasta la implementación. El lanzamiento apunta a un problema cada vez más urgente en la era de la IA agéntica: qué pasa cuando los agentes autónomos, en su afán por completar una tarea, eluden los controles de seguridad de las aplicaciones.

"El extraordinario potencial de la IA para la sociedad solo se hará realidad si resolvemos la seguridad de la IA", planteó Jensen Huang, CEO de NVIDIA, quien sintetizó el enfoque de la compañía en una frase: "La seguridad requiere ingeniería de stack completo". La propuesta combina, precisamente, software, hardware, cómputo y sistemas robóticos en una misma capa de control.


Jensen Huang, CEO de NVIDIA

Dos piezas clave: OpenShell y Sentry

La plataforma se apoya en dos componentes centrales. El primero es NVIDIA OpenShell, un software de runtime seguro que establece límites sobre cómo los agentes autónomos ejecutan sus tareas. Es de código abierto y extensible a plataformas de terceros como Arm e Intel, y está disponible a través de GitHub y los recursos para desarrolladores de NVIDIA.

El segundo es NVIDIA Sentry, un "vigilante" independiente (out-of-band watchdog) que corre sobre las DPUs NVIDIA BlueField-4 y monitorea el comportamiento de los agentes directamente en el silicio. Ante un intento de exceder los límites definidos, puede poner al agente en cuarentena en milisegundos. Sentry ofrece detección de amenazas, gobernanza basada en hardware, protección del acceso a los datos y políticas de confianza cero (zero-trust).

Más de 100 organizaciones a bordo

El anuncio llega respaldado por un ecosistema amplio. Entre los colaboradores estratégicos figuran Anthropic (con la integración de sus Claude Managed Agents), Salesforce (gestión de agentes en Slack), SAP (que incorpora OpenShell en su Joule Studio) y Scale AI, entre otros.

En total, más de 100 organizaciones acompañan la iniciativa, incluidas Cisco, CrowdStrike, Dell Technologies, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, ServiceNow, IBM y Accenture. La adopción cruza sectores tan diversos como la robótica (Figure, Skild AI), los servicios financieros (Citi, JPMorganChase), la infraestructura crítica (Siemens Energy, Schneider Electric, NextEra Energy) y los proveedores de infraestructura de IA (CoreWeave, Supermicro).

El control, fuera del modelo

La lógica de fondo la resumió Mike Nicolls, presidente de SpaceXAI: "La seguridad debería aplicarse por fuera del modelo, mediante controles adicionales que el agente no pueda sortear". En la misma línea, Paul Smith, CCO de Anthropic, señaló que "las empresas les están dando a los agentes de IA cada vez más de su trabajo más importante, y necesitan dirigir y verificar lo que esos agentes hacen".

El planteo se inscribe en una tendencia que gana fuerza en toda la industria: a medida que los agentes autónomos asumen tareas críticas, la discusión se corre de qué pueden hacer a cómo garantizar que operen dentro de límites claros y supervisados. Con esta plataforma abierta, NVIDIA busca posicionarse como la capa de confianza sobre la que se construya la próxima generación de IA agéntica.