A Google DeepMind lançou nesta semana o DeepMind Institute, uma plataforma dedicada a publicar e discutir ideias sobre um mundo com AGI. O projeto é dirigido por Shane Legg, cofundador da DeepMind, James Manyika, executivo do Google, e Demis Hassabis, presidente da Google DeepMind — com Legg atuando como editor-chefe.
Um espaço para discordar da própria empresa
O detalhe mais interessante não é o quê o instituto publica, é o motivo declarado para existir: segundo o texto de lançamento, a ideia é abrir espaço para visões divergentes entre a Google, a Google DeepMind e a comunidade de pesquisa global, não apenas repetir a posição oficial da empresa. Uma gigante de tecnologia financiando um espaço para discordar dela mesma é incomum, e vale acompanhar se essa liberdade de fato resiste quando um ensaio contrariar algum roadmap de produto.
Os quatro ensaios de estreia cobrem terreno bem diferente entre si: política econômica para lidar com a disrupção que a AGI pode causar, a defesa de manter o raciocínio dos modelos legível para humanos (o tema técnico conhecido como transparência de cadeia de raciocínio), princípios para um "novo utopismo" sobre florescimento humano, e um framework do próprio Hassabis para avaliar modelos de fronteira.
Por que agora
O lançamento não acontece no vácuo. Nas últimas semanas, o CEO da Anthropic pediu publicamente que a indústria "paceie" o desenvolvimento de IA, a OpenAI confirmou que vem conversando com Anthropic e a própria Google DeepMind sobre segurança de modelos de fronteira, e um ex-pesquisador de segurança da DeepMind deixou a empresa alertando publicamente sobre riscos existenciais. Um instituto de debate público sobre AGI, com o próprio Hassabis assinando um ensaio, encaixa nesse momento como resposta institucional a uma pressão que já não vem só de fora.
Vale lembrar que transparência de raciocínio virou, nos últimos meses, uma das poucas ferramentas de segurança em que os grandes laboratórios concordam ter interesse comum: se um modelo aprende a esconder o próprio processo de decisão de auditores externos, todo o resto — testes, avaliações, red teaming — perde parte do valor. Não é coincidência que o assunto abra a coleção de ensaios.
O que observar daqui para frente
A pergunta que fica não é se a Google DeepMind vai publicar ensaios interessantes; laboratórios de ponta sempre têm gente capaz de escrever bem sobre o próprio campo. É se o instituto vai, de fato, publicar algo que incomode a companhia-mãe, e o que acontece na primeira vez que isso ocorrer. Um espaço de debate genuíno se prova pelo texto que quase não sai, não pelos quatro que saíram na estreia.