Quando uma empresa de chatbot procura comprador, o ativo não é só o modelo. Há um histórico de conversas que usuários talvez nunca compartilhassem fora dali. No caso da Character.AI, o destino desse material entrou formalmente na discussão sobre a venda da plataforma.

Em 14 de outubro, uma coalizão de procuradores-gerais dos EUA pediu salvaguardas para usuários e menores no processo de Chapter 11 da Character Technologies, responsável pelo serviço. A manifestação divulgada pela Procuradoria-Geral de Nova York trata tanto da segurança do produto quanto do uso dos dados por um eventual comprador. É um pedido dos estados, não uma decisão judicial nem confirmação de que as conversas foram vendidas.

O que os estados querem proteger na Character.AI

O documento 33 do processo 26-11603-BLS, protocolado no tribunal de falências de Delaware, descreve um acervo que inclui conversas, informações de conta e dados comportamentais. Os estados destacam a sensibilidade de relatos pessoais, inclusive informações de saúde compartilhadas em chats.

Entre as proteções defendidas na manifestação estão:

  • Limites de finalidade e consentimento: restringir usos de conversas para treinamento, publicidade e outras atividades comerciais além do que usuários e responsáveis tenham validamente autorizado.
  • Acesso e exclusão: preservar a possibilidade de consultar os próprios dados e oferecer oportunidade de apagá-los antes de uma venda desse material.
  • Proteções de produto: verificação de idade que não dependa apenas da data de nascimento declarada, salvaguardas para menores e remoção de personagens que se apresentam indevidamente como profissionais licenciados.

A coalizão relata investigações e possíveis infrações de segurança e privacidade. A existência dessas alegações não equivale a um julgamento definitivo sobre cada conduta. A matéria também não atribui causalidade clínica a interações individuais nem trata um teste de segurança como medida universal do risco.

A empresa mantém o serviço, mas o desfecho é condicional

A Character.AI havia anunciado o processo voluntário em 12 de outubro, para buscar uma venda supervisionada pelo tribunal. Segundo a empresa, a plataforma continua funcionando e as assinaturas e cobranças permanecem inalteradas por enquanto. Se não aparecer uma proposta viável que permita continuar a operação, o serviço será encerrado.

O comunicado afirma que as práticas de privacidade e segurança não mudaram e aponta opções para exportar dados ou excluir a conta. Isso é a posição pública da empresa, não uma auditoria independente dessas operações.

Há um detalhe operacional importante: o guia oficial de exportação informa prazo de três a quatro semanas para processar o pedido e validade de sete dias para o link enviado por e-mail. Já o guia de exclusão alerta que apagar a conta é permanente. São instruções de suporte, não garantias sobre o resultado da venda ou sobre todos os dados derivados.

Ter uma opção de exportação não é o mesmo que ter uma saída imediata.

Para equipes técnicas, privacidade também é plano de saída

Na leitura da MnzAI Labs, a pergunta útil vai além de quem comprará a empresa: quais controles sobre o histórico continuam funcionando quando muda quem opera o produto?

Esse caso não demonstra que todo fornecedor de IA apresenta o mesmo risco. Ele mostra por que retenção e portabilidade precisam entrar na avaliação antes de uma dependência se tornar difícil de desfazer. Conversas, anexos, memórias e dados usados para ajuste de modelos podem ter destinos diferentes. Um botão para excluir a conta não responde sozinho a todas essas perguntas.

Para quem desenha serviços com IA, vale mapear onde cada conjunto fica, registrar as finalidades autorizadas e testar uma exportação com antecedência. Prazos, formato dos arquivos e alcance da exclusão devem fazer parte da conversa com o fornecedor, junto com preço e qualidade do modelo.

Se a continuidade depender de um novo dono, um plano de saída precisa proteger a pessoa que confiou seus dados ao serviço, não apenas manter a aplicação no ar.