O CEO da Anthropic, Dario Amodei, publicou em seu site pessoal o ensaio "We Must Pace the Frontier", defendendo que a indústria de IA precisa desacelerar deliberadamente o ritmo de avanço das capacidades dos modelos. Segundo o texto, "devemos desacelerar o ritmo em que melhoramos as capacidades dos modelos de IA. O progresso ainda vai parecer rápido, e precisamos fazer uso sábio do tempo que ganharmos" — uma posição notável vindo do executivo de uma das empresas na ponta da corrida por modelos cada vez mais capazes.
Um plano de três etapas
O ensaio descreve um plano dividido em três etapas de coordenação crescente. A primeira, que a Anthropic afirma estar adotando unilateralmente, consiste em dar a avaliadores externos independentes — como a organização de auditoria de segurança METR, citada como referência no texto — acesso contínuo e equivalente ao de um funcionário, para verificar o cumprimento de práticas e compromissos de segurança, reportar incidentes e avaliar não apenas os modelos já prontos, mas também os próprios pipelines de treinamento. Amodei compara o modelo a supervisores regulatórios embutidos que já operam dentro de bancos. A segunda etapa pede coordenação entre as próprias empresas do setor; a terceira depende de coordenação global, incluindo governos.
O contexto por trás do ensaio
A publicação chega na mesma semana em que um pesquisador da Anthropic anunciou sua saída da empresa alegando que "quem constrói IA hoje acredita seriamente que ela pode nos matar até o fim da década" e que "nem a Anthropic nem a OpenAI estão agindo de forma responsável" ao correr rumo a sistemas de superinteligência autoaperfeiçoável. Em entrevista à CNN sobre o episódio, Amodei afirmou concordar mais do que discordar do ex-funcionário — reforçando o tom de urgência do próprio ensaio, que também cita o risco de enxames de agentes de IA autônomos conseguirem comprometer infraestrutura crítica da internet em um horizonte de seis a doze meses, com potencial de causar centenas de bilhões de dólares em danos.
Por que isso importa para quem constrói com IA
Para equipes de engenharia e produto que dependem de modelos de fronteira, o episódio é um lembrete de que a discussão sobre ritmo de capacidades não é apenas acadêmica: laboratórios que fornecem a infraestrutura de IA usada por milhares de aplicações estão publicamente debatendo se — e como — desacelerar. O compromisso concreto anunciado pela Anthropic (acesso permanente de avaliadores externos aos próprios pipelines de treinamento, não só aos modelos finais) também é um precedente de transparência que outras empresas do setor podem ser pressionadas a seguir, especialmente se governos decidirem transformar esse tipo de auditoria em exigência regulatória — um tema que já conversa diretamente com o relatório de ameaças da própria Anthropic publicado dias antes.