Fazia um tempo que eu não escrevia uma reflexão como esta, mas nos últimos tempos tenho reparado bastante no medo que as pessoas passaram a ter da Inteligência Artificial.
Ao mesmo tempo que algumas se recusam a usar uma ferramenta de IA porque dizem não saber o que ela fará com seus dados pessoais, seguem postando a vida inteira e mais um pouco nas redes sociais. Também seguem aceitando todas as permissões exigidas por aplicativos e joguinhos no celular, muitas vezes sem ler absolutamente nada.
A preocupação com privacidade é legítima. Eu também não acho que deveríamos entregar qualquer informação para qualquer ferramenta sem entender o que será feito com ela. O ponto é que a Inteligência Artificial não criou esse problema. Nossos dados já eram coletados, cruzados e utilizados muito antes de começarmos a conversar com modelos generativos.
Não, isso não significa que o Google saiba literalmente cada ideia que passa pela sua cabeça. Mas mecanismos de busca, redes sociais, celulares e aplicativos já conseguem saber muito sobre nossos hábitos, interesses, deslocamentos e relações. O próprio Google oferece formas de consultar e apagar parte desse histórico. A verdade é que nossa vida deixou de ser completamente secreta há bastante tempo.
O medo da Inteligência Artificial
A IA chegou como a internet chegou, assustando os mais desconfiados, empolgando os mais empolgados e atraindo todo tipo de previsão sobre o futuro. Só que dessa vez a velocidade é muito maior. Talvez nunca tenhamos visto uma tecnologia avançar e se espalhar tão rapidamente.
O que mais me incomoda é ver muito especialista em sensacionalismo querendo surgir como especialista em tecnologia. Manchetes assustadoras espalham pânico em uma população que ainda está tentando entender o que é essa tal de IA e o que ela pode realmente fazer.
Não estou dizendo que não existem riscos. Existem, e são muitos. Privacidade, segurança, decisões enviesadas, informações falsas, concentração de poder e uso sem responsabilidade precisam ser discutidos com seriedade. O problema é quando uma discussão que deveria ser técnica vira apenas uma disputa por clique e atenção.
O risco da IA e a ambição humana
O título deste artigo é bem proposital quanto a isso. Há milhares de anos o homem faz guerra, rouba, mata, domina e escraviza o próprio homem. Mas nós temos que ter medo da IA? Sério?
É claro que não sabemos qual será o poder dessa nova inteligência e até onde ela será capaz de chegar. Será que o domínio das máquinas, como contado nos filmes, um dia vai acontecer? Eu não tenho essa resposta e, honestamente, desconfio de quem diz ter.
Mas, se você reparar, em quase todo filme no qual as máquinas dominam os humanos, existe antes uma decisão humana motivada por ambição, poder, controle ou vantagem. Por isso, antes de ter medo da máquina, eu tenho medo do homem, da sua ambição pelo poder e do que ele é capaz de fazer para se perpetuar nele, seja na iniciativa privada ou nos governos.
Enquanto criamos limites para o uso de IA, seres humanos continuam jogando bombas sobre as casas de outros seres humanos. A tecnologia muda, mas algumas das nossas escolhas parecem não mudar.
Incoerente isso, não?
Isso não significa dar confiança irrestrita para qualquer sistema. O AI Risk Management Framework do NIST, por exemplo, trata segurança, privacidade, confiabilidade, transparência e responsabilização como partes fundamentais de uma IA responsável. O risco é real. O que não faz sentido é agir como se ele nascesse sozinho, dentro da máquina, sem nenhuma decisão humana antes, durante ou depois.
O que já mudou na Engenharia de Software
No mundo da Engenharia de Software, nós nos atualizamos hoje, testamos alguma coisa nova e, na semana seguinte, aquilo já não é mais novidade. Já surgiu algo melhor, ou pelo menos alguma coisa prometendo ser melhor. Essa atualização constante e a briga entre as grandes empresas de IA são ao mesmo tempo fascinantes e assustadoras, pois elas realmente estão fazendo coisas grandiosas.
Há alguns meses eu criei minha própria squad de Engenharia de Software formada por AI Agents. Desde o requisito inicial, passando pela escrita da documentação, desenvolvimento, revisão de código e arquitetura, testes, validação de segurança e preparação do deploy em produção, tudo tinha a participação desses agentes. Eu os coordenava, revisava as decisões e autorizava os passos mais importantes.
Eis que pouco tempo depois ferramentas como Cursor e Claude Code começaram a fazer algo parecido de forma nativa. O Claude Code, por exemplo, passou a permitir a criação de subagentes especializados, cada um com seu contexto, suas instruções, suas ferramentas e suas permissões.
Meus Agents não foram descontinuados, pois trabalham como eu gosto de trabalhar e seguem os processos que eu defini. Mas agora eles ganharam alguns amigos bem mais bombados e nativos das próprias ferramentas.
Como eu costumo dizer, inclusive em algumas conversas no trabalho, não vejo uma forma melhor de entender o que é real e o que não é a não ser usando e experimentando. A gente vai precisar testar e vai precisar criar coisas com IA. Caso contrário, ficaremos muito à mercê das notícias sensacionalistas que aparecem por aí.
Como profissionais de Engenharia de Software, a gente não pode ter medo de usar. Dá para restringir o impacto: criar um produto pequeno, escrever um script ou fazer um experimento controlado. Eu escolho o modelo, decido se vou usar ChatGPT, Gemini, Grok ou alguma outra ferramenta e, principalmente, controlo o nível de autonomia que estou disposto a dar.
Quando eu falo em aprender construindo, é justamente por isso. Eu aprendo melhor na prática. Sem skin in the game, a gente fica muito exposto a acreditar em tudo o que dizem, tanto nas promessas exageradas quanto nas previsões catastróficas.
É incrível pensar em como precisaremos reaprender a estudar e experimentar daqui para frente. Não basta dominar uma ferramenta, porque a ferramenta da semana que vem pode funcionar de outra forma.
Nossas profissões serão recriadas
Eu não acredito que nossas profissões simplesmente vão morrer, como alguns sensacionalistas gostam de gritar por aí. Algumas funções provavelmente vão desaparecer, várias tarefas serão automatizadas e novos papéis surgirão. Mas, no geral, acredito que as profissões serão recriadas. A própria Organização Internacional do Trabalhoaponta que a transformação das ocupações tende a ser mais provável do que sua substituição completa.
Na Engenharia de Software, cada vez mais precisaremos formar arquitetos, coordenadores de IA e profissionais que saibam como e o que perguntar, como e o que exigir e, principalmente, como e o que validar antes de entregar um produto.
Eu imagino esse profissional como alguém que possui uma mega oficina com as melhores máquinas e ferramentas disponíveis. Ele não precisa operar manualmente cada máquina durante o dia inteiro, mas precisa saber qual usar, quando acionar, quais limites configurar e como perceber que alguma coisa saiu errada.
Isso não diminui a necessidade de conhecimento técnico. Muito pelo contrário. Quanto mais a IA for capaz de executar, mais precisaremos de pessoas capazes de avaliar o que foi executado. Delegar a escrita do código não delega a responsabilidade pelo produto.
Não rejeite a IA. Aprenda a usá-la
Mas veja bem, eu não sou do tipo favorável a dar autonomia total para uma IA. Também não sou do tipo que torce o nariz para essa ideia apenas porque existe uma máquina do outro lado.
Uma instrução errada para um time de humanos pode ser caótica. A mesma instrução para um time de Agents também pode ser, só que talvez eles consigam errar muito mais rápido. Da mesma forma, um pedido bem feito, com regras, contexto e critérios claros, tende a aumentar o índice de sucesso dos dois times.
A máquina não tem memória perfeita, não entende tudo e não segue cada regra sem falhar. Modelos possuem limites de contexto, podem interpretar uma instrução de forma errada e conseguem responder algo falso com bastante convicção. Por outro lado, sua capacidade de consultar grandes volumes de informação, repetir processos e verificar regras de maneira consistente é algo com o qual nós, humanos, não conseguiremos competir apenas usando nossa memória.
É justamente por isso que eu não vejo o futuro como uma disputa simples entre humanos e máquinas. Vejo pessoas que sabem utilizar essas ferramentas trabalhando de uma forma completamente diferente das pessoas que decidiram simplesmente ignorá-las.
A mensagem principal deste artigo é: não rejeite a IA e não tenha medo dela apenas porque alguém publicou uma manchete assustadora. Saiba como usá-la, como delimitar sua atuação, conheça seus limites e escolha com cuidado o que levar para ela ou não.
Tenha também a consciência de que a sua vida não é mais completamente secreta há muito tempo. A IA apenas virou a nova vilã de uma culpa que não deveria ser colocada somente nela.
No fim, talvez a pergunta mais importante não seja o que a Inteligência Artificial fará conosco, mas o que nós decidiremos fazer com o poder que ela colocou em nossas mãos.