A Anthropic anunciou em 18 de setembro uma parceria com a Accenture para testar modelos de fronteira com avaliadores independentes trabalhando dentro do laboratório. A Faculty, unidade especializada em IA da consultoria, liderará avaliações, red teaming, análises de alinhamento e testes das salvaguardas. Cada empresa espera investir pelo menos US$ 1 bilhão na construção dessa capacidade ao longo de cinco anos.
Não se trata de um selo de aprovação já concedido. A colaboração foi anunciada agora, e a própria Anthropic reconhece que o formato operacional ainda está sendo definido. A novidade concreta é o tipo de acesso proposto: avaliadores externos poderiam acompanhar o modelo durante o treinamento, conversar com funcionários e examinar decisões sobre construção e implantação.
O que muda na avaliação integrada
Uma avaliação externa tradicional recebe um modelo ou ambiente delimitado e testa seu comportamento em cenários definidos. Isso é útil, mas pode deixar invisíveis escolhas anteriores: quais riscos foram descartados, como mudaram as salvaguardas e que sinais apareceram durante o treinamento.
O modelo de avaliação integrada tenta abrir essa caixa de processo. O acesso, descrito pela Anthropic como comparável ao de um funcionário, poderia permitir verificar compromissos de segurança e identificar pontos cegos antes do lançamento. A empresa também afirma que avaliadores poderão reportar incidentes e oferecer ao público uma visão mais informada dos riscos e benefícios. Ainda não há detalhes suficientes para afirmar qual será a autonomia de publicação desses relatórios.
Para times de engenharia, a distinção é importante. Uma bateria de testes pode mostrar como um modelo se comportou em determinada versão. Observar decisões e mudanças ao longo do desenvolvimento ajuda a entender por que os controles estão ali e se continuam válidos quando o sistema evolui.
O problema da independência
O arranjo traz uma tensão óbvia: a Anthropic financiará diretamente o trabalho da Accenture. A empresa diz que a parceria não é exclusiva e que conversa com a organização sem fins lucrativos METR e outras equipes para testar componentes da abordagem com financiamento próprio. Também reconhece que ainda não existem padrões consolidados para acesso às informações, divulgação dos achados ou custeio de longo prazo.
Isso não torna a avaliação inútil, mas impede chamá-la de auditoria completamente independente sem conhecer as regras de acesso, proteção contra interferência e direito de publicar resultados desfavoráveis. A Anthropic afirma que avaliadores externos não transferem para eles a responsabilidade pela segurança dos modelos.
Da promessa ao controle verificável
O anúncio acontece em meio à pressão por supervisão mais próxima dos laboratórios. A ordem executiva da Califórnia, publicada no mesmo dia, também pede recomendações sobre verificadores independentes integrados a empresas de IA. São iniciativas diferentes: uma parceria voluntária e uma agenda regulatória ainda em elaboração.
O valor desta parceria será medido menos pelo montante anunciado e mais pelas condições de trabalho dos avaliadores. Eles terão acesso contínuo? Poderão acompanhar correções até a implantação? E conseguirão dizer publicamente quando um controle não passou no teste? Essas respostas determinarão se “embedded” descreve supervisão real ou apenas uma cadeira dentro do laboratório.