Acesso de funcionário para quem não é funcionário. É exatamente isso que a Anthropic decidiu fazer — e nenhuma outra empresa de IA tinha feito antes.
Se você acompanha o setor de IA, já viu laboratórios prometerem transparência antes. Desta vez, porém, existe algo concreto por trás da promessa.
Nesta quinta-feira, a companhia anunciou que vai dar a seis avaliadores externos da METR um acesso de "funcionário" aos seus sistemas internos. A informação é da ZDNET.
Pode parecer detalhe burocrático. Mas muda a forma como os modelos mais avançados do mercado são fiscalizados.
E levanta uma pergunta que ninguém respondeu até agora: uma empresa de IA pode realmente auditar a si mesma?
A primeira da indústria — e por que isso importa
> "Acesso a ferramentas e sistemas internos 'aproximadamente no mesmo nível do que nossas próprias equipes de avaliação de riscos têm'."
Os seis avaliadores são da METR, uma organização sem fins lucrativos independente que testa modelos de fronteira — os sistemas de IA mais avançados disponíveis no mercado.
Segundo o anúncio, eles receberam hardware da Anthropic e espaço de escritório. O objetivo é claro: aproximar o que os avaliadores sabem do que a própria empresa sabe sobre seus sistemas.
"Buscamos fechar a lacuna entre o que os avaliadores entendem sobre os sistemas de uma empresa de IA de fronteira e o que a própria empresa entende", afirmou a Anthropic, segundo a ZDNET.
Na prática, isso significa que a METR vai poder olhar os modelos por dentro — algo que, até agora, ficava restrito às equipes internas de cada laboratório.
Como funciona esse acesso na prática
O formato lembra um segundo emprego dentro da empresa. Os avaliadores trabalham com as mesmas ferramentas das equipes de risco da Anthropic.
O que os avaliadores podem ver
A empresa detalhou o escopo do acesso. Fora de algumas exceções, os funcionários são incentivados a compartilhar informações com a METR como se fossem colegas de trabalho.
- Hardware e escritório: fornecidos pela própria Anthropic
- Ferramentas internas: nível aproximado ao das equipes de avaliação de riscos
- Compartilhamento de informações: incentivado, como entre colegas de alinhamento de risco
As exceções da regra
Nem tudo está liberado. A empresa definiu categorias específicas fora do alcance dos auditores.
Entre elas estão dados de clientes, informações protegidas por sigilo advocatício e detalhes sobre as arquiteturas dos modelos. Ou seja: o que a METR vê é profundo, mas não é tudo.
> "A empresa não pode reter as conclusões da METR — mas pode pedir a remoção de informações sensíveis."
Um ponto importante: a METR vai publicar suas descobertas, e a Anthropic não pode impedir a publicação. A empresa só pode solicitar que dados sensíveis sejam removidos quando necessário.
Por que a pressão regulatória cresceu
O contexto ajuda a explicar o movimento. Laboratórios de IA estão sob pressão regulatória crescente, especialmente após incidentes de segurança, segundo a reportagem da ZDNET.
O problema é estrutural: a auditoria de terceiros ainda não é exigida por lei nos Estados Unidos.
Testadores da área sugerem justamente isso: tornar obrigatória a revisão independente de modelos, seja antes do lançamento, seja durante o desenvolvimento.
O projeto de lei que quer mudar isso
Existe uma tentativa em andamento no Congresso americano. O FRONTIER Act, projeto bipartidário apresentado em julho, prevê exigir revisão de terceiros para certos sistemas de IA.
Enquanto a regulação não avança, o setor segue se autorregulando. E é nesse vácuo que iniciativas como a da Anthropic ganham peso.
Para muitos pesquisadores de segurança, a autorregulação voluntária nunca foi suficiente. A dúvida é se ela pode, pelo menos, ser tornada mais transparente.
A ideia não nasceu agora
A semente foi plantada meses atrás. Em setembro, o CEO da Anthropic, Dario Amodei, propôs incorporar avaliadores de organizações sem fins lucrativos, como a METR, dentro das empresas de IA.
A sugestão apareceu em um post no blog do executivo e era uma de três recomendações para o que ele chamou de "pacing the frontier" — controlar o ritmo do avanço dos modelos de fronteira.
Ou seja: o anúncio desta quinta-feira é a execução prática de uma proposta que o próprio CEO havia defendido publicamente.
Por que a independência da METR importa
A Anthropic foi direta ao justificar a escolha. Pesquisadores como os da METR são valiosos porque não têm vínculo financeiro ou operacional com a empresa avaliada.
Eles não detêm participação societária na companhia que auditam. Não dependem dela para operar. Isso reduz o risco de conflito de interesse no processo de revisão.
E a empresa admite por que não pode simplesmente abrir tudo ao público: parte das informações poderia ser útil a atores maliciosos, ou é comercialmente sensível — como dados de computação e treinamento.
É aí que a METR entra: recebe acesso profundo aos modelos e às informações da companhia, e depois compartilha suas conclusões sobre os riscos que esses modelos representam.
O que a Anthropic ainda não confirmou
O anúncio levanta tantas perguntas quanto responde. E a fonte não detalha vários pontos que interessam ao público.
- Duração do programa: a fonte não menciona por quanto tempo os avaliadores ficarão embedados
- Escopo dos testes: quais modelos específicos serão avaliados não foi divulgado
- Data da publicação: quando a METR vai divulgar suas primeiras conclusões segue em aberto
- Expansão: se outros laboratórios adotarão o modelo também não está confirmado
O que se sabe é que a METR publicará suas descobertas, com possibilidade de redação de informações sensíveis. O resto é espera.
O teste que a Anthropic criou para todo o setor de IA
O movimento da Anthropic estabelece um precedente. Se funcionar, a pressão sobre os concorrentes para adotar algo parecido tende a crescer.
Se não funcionar — ou se as conclusões da METR forem desconfortáveis —, teremos o primeiro teste real de transparência radical no setor de IA de fronteira.
A fonte não menciona reações de outras empresas de IA ao anúncio. Ou seja: o mercado ainda não se posicionou.
Enquanto a lei não exige auditoria externa, iniciativas voluntárias como essa são o que existe. E você, o que acha: transparência concedida pela própria empresa vale tanto quanto transparência exigida por reguladores? Conte nos comentários.
