Nvidia lança plataforma para controlar inteligências artificiais

A Nvidia anunciou uma plataforma para limitar e interromper ações de inteligências artificiais que atuem fora do controle humano, a Open Agent Safety Platform, composta por software aberto e mecanismos de segurança integrados ao hardware, segundo a ANSA.

O que é a Open Agent Safety Platform

A Open Agent Safety Platform é uma coleção de ferramentas apresentada pela Nvidia com o objetivo de bloquear programas de IA que tentem executar ações não autorizadas ou acessar recursos além dos limites definidos. Segundo a ANSA, a empresa descreve a plataforma como uma resposta à necessidade crescente de controlar comportamentos emergentes em modelos e agentes autônomos que podem agir sem supervisão humana.

A proposta é dupla: estabelecer regras operacionais claras no software e oferecer mecanismos de interrupção no nível do chip para isolar ou encerrar processos de IA em frações de segundo. Para a Nvidia, isso permite evitar que modelos façam execuções potencialmente perigosas — do acesso indevido a sistemas à emissão de comandos não previstos por operadores humanos.

Componentes principais

A plataforma tem dois componentes centrais anunciados pela Nvidia, cada um com funções complementares.

• OpenShell: trata-se de um software aberto que define regras rígidas de execução, permissões e interfaces aceitáveis para agentes de IA. A Nvidia afirma que o OpenShell é compatível com hardware de terceiros — incluindo Intel e Arm — e foi desenhado para ser adotado por desenvolvedores e operadores que queiram impor políticas de segurança padrão em seus ambientes. Por ser open source, o OpenShell permite auditoria externa e integração em pipelines de desenvolvimento.

• Sentry: é o componente de segurança no nível do hardware — um sistema de monitoramento integrado aos chips da Nvidia que observa comandos e comportamento dos agentes em tempo real. Segundo a ANSA, o Sentry pode bloquear ou isolar automaticamente processos de IA quando detecta violações de políticas, operando em intervalos de tempo muito curtos para minimizar danos potenciais. A combinação do OpenShell (política) com o Sentry (execução segura) cria uma camada dupla de proteção.

Adoção e declarações

A Nvidia disse que mais de cem grandes empresas já estariam usando a solução, entre as quais a Microsoft e o banco JpMorgan Chase, conforme reportagem da ANSA. A empresa também declarou que o conjunto OpenShell + Sentry poderia ter evitado incidentes recentes envolvendo modelos de OpenAI e Anthropic, ao cortar automaticamente comportamentos que violassem limites de segurança.

A adoção rápida por organizações de grande porte é apresentada pela Nvidia como prova da utilidade prática da plataforma em ambientes empresariais que exigem confiabilidade e conformidade. A ANSA relata que a empresa tem promovido a iniciativa como parte de uma resposta industrial ao debate público sobre os riscos dos modelos de IA cada vez mais capazes de executar tarefas de forma autônoma.

Relevância para brasileiros e descendentes de italianos

O lançamento tem implicações práticas para profissionais e empresas no Brasil e para leitores do Raízes Italianas interessados em tecnologia, negócios e vida na Itália. Soluções que controlam IAs impactam setores que usam modelos avançados, como finanças, saúde, serviços digitais e segurança da informação — áreas com presença significativa de empresas multinacionais e filiais italianas.

• Profissionais de TI e empreendedores devem observar mudanças em padrões de conformidade e integração de segurança — o OpenShell pode ser adotado em stacks que rodem em servidores locais ou em nuvens que utilizem hardware diverso.
• Instituições financeiras, citadas entre as usuárias iniciais, tendem a buscar controles mais rígidos para evitar ações automatizadas que possam gerar perdas, vazamento de dados ou violações regulatórias.
• Para quem planeja processos de cidadania italiana ou atividades profissionais entre Brasil e Itália, a adoção de políticas de segurança em IA por empresas italianas ou que atuam na Itália pode influenciar requisitos contratuais e operacionais.

Leitores interessados em como a tecnologia afeta o cotidiano na Itália e em notícias do país podem acompanhar mais atualizações em Notícias da Itália e em pautas sobre o impacto tecnológico em Vida na Itália.

O que permanece em aberto

Especialistas e parte da comunidade científica avaliam que ferramentas como OpenShell e Sentry representam avanços importantes, mas não eliminam todos os riscos. Questões sobre eficácia frente a ataques sofisticados, governança das políticas em código aberto e interoperabilidade entre fornecedores continuam em discussão. Além disso, a aceitação ampla depende de auditoria independente e de padrões regulatórios que orientem responsabilidades em caso de falhas.

A Nvidia posiciona a Open Agent Safety Platform como uma infraestrutura de segurança a ser adotada tanto por fornecedores de modelos quanto por operadores finais, mas a evolução das práticas e a supervisão regulatória serão determinantes para sua difusão.

Fonte: ANSA.