Especialistas pedem avaliadores independentes para Anthropic e OpenAI

Mais de 100 especialistas em inteligência artificial assinaram uma carta aberta do AI Evaluator Forum pedindo a criação de avaliadores externos e independentes para supervisionar sistemas avançados de IA, com regras claras de transparência, independência e proteção para os avaliadores, segundo a ANSA.

Resumo da carta aberta: avaliadores independentes para IA

O documento, assinado por mais de 100 pesquisadores e especialistas, defende que empresas como Anthropic e OpenAI permitam avaliações externas conduzidas por avaliadores independentes. O objetivo é identificar e gerir riscos em modelos de grande escala por meio de testes científicos e independentes, com acesso controlado às plataformas quando necessário, segundo a ANSA. Os signatários enfatizam a necessidade de procedimentos que assegurem objetividade e resultados verificáveis.

Quem são os signatários e o que pedem

A lista de subscritores reúne nomes de destaque do campo: entre eles, Geoffrey Hinton e pesquisadores ligados a instituições como Johns Hopkins e Stanford, além de organizações da sociedade civil como a ONG Metr, conforme a reportagem da ANSA. O grupo exige que qualquer regime de avaliação:

• garanta objetividade científica nas metodologias;
• assegure transparência dos resultados e dos critérios de avaliação;
• mantenha total independência dos avaliadores em relação às empresas avaliadas;
• ofereça proteções sólidas aos avaliadores — incluindo confidencialidade, segurança jurídica e mecanismos para preservar sua integridade física e profissional.

O AI Evaluator Forum também pede regras claras sobre acesso a modelos fechados: quando necessário, avaliadores externos poderiam receber acesso a sistemas, mas apenas dentro de protocolos estritos que preservem a imparcialidade e a segurança dos testes. Segundo a ANSA, a carta busca criar padrões que possam ser aceitos pela indústria e pela comunidade científica.

Contexto e reação do setor

O movimento ganhou força após propostas recentes no setor de tecnologia: o CEO da Anthropic, Dario Amodei, sugeriu que avaliadores selecionados tivessem acesso a sistemas para fins de auditoria. Em resposta, o consórcio representado por Conrad Stosz defendeu que a supervisão independente é um instrumento eficaz para gerir riscos em larga escala e evitar falhas sistêmicas. A ANSA relata que o AI Evaluator Forum se apresenta como um fórum técnico que pretende coordenar práticas e critérios entre avaliadores e desenvolvedores.

Empresas como Anthropic e OpenAI já dialogam com pesquisadores externos em diferentes formatos, mas a carta exige um quadro mais formalizado e padronizado — com governança que evite conflitos de interesse e permita verificação pública dos métodos e achados. O debate também envolve como equilibrar compartilhamento de informação sensível com a necessidade de proteger segredos industriais e impedir usos maliciosos.

"Supervisão independente pode ser um instrumento eficaz para gerir riscos em larga escala", afirma o consórcio representado por Conrad Stosz, segundo a ANSA.

Relevância para brasileiros e descendentes

Embora a carta tenha origem no ecossistema internacional de IA, suas propostas têm impacto global e podem afetar produtos e serviços que chegam ao Brasil. Maior supervisão e avaliações independentes de sistemas de IA tendem a:

• aumentar a segurança de aplicações comerciais e governamentais usadas no Brasil;
• influenciar políticas de transparência que podem ser adotadas por empresas que operam no país;
• afetar desenvolvedores, pesquisadores e usuários brasileiros interessados em IA responsável.

Para brasileiros descendentes de italianos e leitores do Raízes Italianas interessados em tecnologia, o tema dialoga com áreas diversas — desde o mercado de trabalho em tecnologia até o uso de ferramentas de IA por órgãos públicos e empresas privadas na Itália e no Brasil. A pauta também se conecta a notícias sobre regulamentação e responsabilidades de plataformas, acompanhadas regularmente em nossa cobertura de Notícias da Itália e assuntos sobre vida e trabalho em outros países em Vida na Itália. Pesquisadores brasileiros e brasileiros que atuam no exterior podem acompanhar desdobramentos que afetem colaborações acadêmicas e acesso a modelos para pesquisa, um tema que dialoga com orientações sobre Cidadania Italiana quando há mobilidade acadêmica ou profissional.

O que vem a seguir

O AI Evaluator Forum busca que a proposta ganhe adesão de empresas e formuladores de políticas, transformando recomendações em práticas operacionais e possivelmente em padrões internacionais. O passo prático seguinte envolve negociações sobre protocolos de acesso, mecanismos de financiamento dos avaliadores e garantias legais para protegê-los durante trabalho com sistemas sensíveis.

Conclusão: a carta aberta liderada pelo AI Evaluator Forum sinaliza uma demanda crescente por avaliação externa e padronizada de riscos de IA. Se adotadas, as propostas podem alterar como empresas como Anthropic e OpenAI permitem auditorias e como a sociedade acompanha a segurança de sistemas cada vez mais presentes no cotidiano global.

Fonte: ANSA