Nvidia lanza plataforma para controlar inteligencias artificiales

A Nvidia anunció una plataforma para limitar e interrumpir acciones de inteligencias artificiales que actúen fuera del control humano, la Open Agent Safety Platform, compuesta por software abierto y mecanismos de seguridad integrados al hardware, según la ANSA.

¿Qué es la Open Agent Safety Platform

La Open Agent Safety Platform es una colección de herramientas presentada por Nvidia con el objetivo de bloquear programas de IA que intenten ejecutar acciones no autorizadas o acceder a recursos más allá de los límites definidos. Según la ANSA, la empresa describe la plataforma como una respuesta a la necesidad creciente de controlar comportamientos emergentes en modelos y agentes autónomos que pueden actuar sin supervisión humana.

La propuesta es doble: establecer reglas operativas claras en el software y ofrecer mecanismos de interrupción a nivel del chip para aislar o terminar procesos de IA en fracciones de segundo. Para Nvidia, esto permite evitar que modelos realicen ejecuciones potencialmente peligrosas — desde el acceso indebido a sistemas hasta la emisión de comandos no previstos por operadores humanos.

Componentes principales

La plataforma tiene dos componentes centrales anunciados por Nvidia, cada uno con funciones complementarias.

• OpenShell: se trata de un software abierto que define reglas rígidas de ejecución, permisos e interfaces aceptables para agentes de IA. Nvidia afirma que OpenShell es compatible con hardware de terceros — incluyendo Intel y Arm — y fue diseñado para ser adoptado por desarrolladores y operadores que deseen imponer políticas de seguridad estándar en sus entornos. Por ser de código abierto, OpenShell permite auditoría externa e integración en pipelines de desarrollo.

• Sentry: es el componente de seguridad a nivel de hardware — un sistema de monitoreo integrado a los chips de Nvidia que observa comandos y comportamiento de los agentes en tiempo real. Según la ANSA, Sentry puede bloquear o aislar automáticamente procesos de IA cuando detecta violaciones de políticas, operando en intervalos de tiempo muy cortos para minimizar daños potenciales. La combinación de OpenShell (política) con Sentry (ejecución segura) crea una capa doble de protección.

Adopción y declaraciones

Nvidia dijo que más de cien grandes empresas ya estarían usando la solución, entre las que se encuentran Microsoft y el banco JpMorgan Chase, según un informe de la ANSA. La empresa también declaró que el conjunto OpenShell + Sentry podría haber evitado incidentes recientes que involucraron modelos de OpenAI y Anthropic, al cortar automáticamente comportamientos que violaban límites de seguridad.

La adopción rápida por parte de organizaciones de gran porte es presentada por Nvidia como prueba de la utilidad práctica de la plataforma en entornos empresariales que exigen fiabilidad y conformidad. ANSA señala que la empresa ha promovido la iniciativa como parte de una respuesta industrial al debate público sobre los riesgos de los modelos de IA cada vez más capaces de realizar tareas de forma autónoma.

Relevancia para brasileños y descendientes de italianos

El lanzamiento tiene implicaciones prácticas para profesionales y empresas en Brasil y para lectores de Raízes Italianas interesados en tecnología, negocios y vida en Italia. Soluciones que controlan IAs impactan sectores que usan modelos avanzados, como finanzas, salud, servicios digitales y seguridad de la información — áreas con presencia significativa de empresas multinacionales y filiales italianas.

• Profesionales de TI y emprendedores deben observar cambios en patrones de conformidad e integración de seguridad — OpenShell puede adoptarse en stacks que corran en servidores locales o en nubes que utilicen hardware diverso.
• Instituciones financieras, citadas entre las usuarias iniciales, tienden a buscar controles más rígidos para evitar acciones automatizadas que puedan generar pérdidas, filtración de datos o violaciones regulatorias.
• Para quien planea procesos de cidadanía italiana o actividades profesionales entre Brasil e Italia, la adopción de políticas de seguridad en IA por empresas italianas o que operan en Italia puede influir en requisitos contractuales y operativos.

Lectores interesados en cómo la tecnología afecta la vida diaria en Italia y en noticias del país pueden seguir más actualizaciones en Noticias de Italia y en temáticas sobre el impacto tecnológico en Vida en Italia.

Lo que queda por definir

Especialistas y parte de la comunidad científica evalúan que herramientas como OpenShell y Sentry representan avances importantes, pero no eliminan todos los riesgos. Cuestiones sobre eficacia frente a ataques sofisticados, gobernanza de políticas en código abierto e interoperabilidad entre proveedores siguen en discusión. Además, la aceptación amplia depende de auditoría independiente y de estándares regulatorios que orienten responsabilidades en caso de fallas.

Nvidia posiciona la Open Agent Safety Platform como una infraestructura de seguridad a ser adoptada tanto por proveedores de modelos como por operadores finales, pero la evolución de las prácticas y la supervisión regulatoria serán determinantes para su difusión.

Fuente: ANSA.