Hacía algún tiempo que no escribía una reflexión como esta. Sin embargo, en los últimos meses empecé a observar con más atención el miedo que muchas personas han desarrollado hacia la inteligencia artificial.
Algunas se niegan a utilizar herramientas de IA porque no saben qué ocurrirá con sus datos. La preocupación es legítima. Lo curioso es que parte de esas mismas personas publica detalles de su vida en las redes sociales, concede permisos excesivos a aplicaciones y acepta condiciones de uso sin saber qué información se recopila.
La inteligencia artificial no inauguró el problema de la privacidad digital.
Mucho antes de la popularización de la IA generativa, los buscadores, las redes sociales, las aplicaciones, los dispositivos móviles y las plataformas publicitarias ya recopilaban datos capaces de revelar hábitos, intereses, desplazamientos y relaciones. Google ofrece controles para consultar, eliminar o impedir que se guarden actividades como búsquedas, historial de navegación, vídeos vistos y ubicación.
La IA llegó a un mundo que ya había convertido los datos personales en un activo económico. Amplió la capacidad de procesarlos, pero no creó ese modelo.
El miedo a la inteligencia artificial no comenzó con ella
La inteligencia artificial llegó de una manera similar a internet: despertando desconfianza en algunos, entusiasmo exagerado en otros y una carrera comercial entre empresas.
La diferencia está en la velocidad.
En ingeniería de software podemos estudiar una herramienta hoy, probarla mañana y descubrir la semana siguiente que otra solución ya realiza la misma tarea de forma diferente, o mejor.
Este ritmo hace que el momento sea fascinante e incómodo a la vez. Nadie sabe con precisión hasta dónde llegarán estas tecnologías. Por eso, debatir riesgos, privacidad, seguridad, transparencia y responsabilidad no es alarmismo: es necesario.
El problema comienza cuando el debate técnico es sustituido por el sensacionalismo.
Algunos han descubierto que el miedo genera atención, alcance y titulares. Así, predicciones extremas se presentan como certezas a una población que todavía intenta comprender qué es la inteligencia artificial y qué puede hacer realmente.
El riesgo es real, pero no surge por sí solo
El título de este artículo es intencional.
Desde hace miles de años, los seres humanos hacen guerras, invaden territorios, esclavizan, manipulan, roban y matan a otros seres humanos. Aun así, con frecuencia hablamos de la inteligencia artificial como si fuera la primera gran amenaza creada por nuestra especie.
Los sistemas de IA presentan riesgos reales. Pueden reproducir sesgos, exponer información, generar contenido falso, apoyar decisiones equivocadas o ejecutar acciones con consecuencias inesperadas.
El AI Risk Management Framework del NIST, una de las principales referencias internacionales sobre el tema, considera la seguridad, la privacidad, la fiabilidad, la transparencia y la rendición de cuentas como elementos fundamentales del desarrollo responsable de la IA.
Por tanto, no defiendo una confianza irrestricta en las máquinas.
Lo que cuestiono es la facilidad con la que convertimos la tecnología en la única villana, ignorando quién define sus objetivos, elige sus datos, concede sus permisos y decide cómo se utilizarán sus resultados.
En las películas donde las máquinas dominan a la humanidad suele existir una decisión humana previa: alguien buscó control, ventaja, eficiencia o poder sin evaluar adecuadamente las consecuencias.
Antes de temer a la máquina, sigo temiendo la ambición de quien la controla.
Mientras debatimos límites para la inteligencia artificial, los seres humanos siguen utilizando tecnologías mucho menos sofisticadas para vigilar, manipular, explotar y destruir. Hay una contradicción en ello.
Qué cambió en la ingeniería de software
Hace algunos meses estructuré una squad experimental de ingeniería de software formada por agentes de IA especializados.
Desde el análisis del requisito inicial hasta la documentación, el desarrollo, la revisión de código y arquitectura, las pruebas, la validación de seguridad y la preparación del despliegue, distintos agentes participaban en el proceso. Mi función pasó a ser coordinar el trabajo, definir criterios, revisar decisiones y autorizar cada avance relevante.
Poco después, herramientas como Cursor y Claude Code comenzaron a incorporar capacidades similares en sus propios entornos. Claude Code, por ejemplo, permite crear subagentes especializados, cada uno con su propio contexto, instrucciones, herramientas y permisos.
Mis agentes no perdieron su utilidad. Siguen la forma en que prefiero estructurar y validar el desarrollo. Lo que cambió fue el mercado: aquello que antes exigía una arquitectura personalizada comenzó a aparecer como función nativa en herramientas comerciales.
Como suelo decir, incluso en algunas conversaciones en el trabajo, no veo una forma mejor de separar lo real de lo que no lo es que usando estas herramientas y experimentando con ellas. Tendremos que probar y crear cosas con IA. De lo contrario, quedaremos demasiado expuestos a cada noticia sensacionalista que aparezca.
Como profesionales de la ingeniería de software, no podemos tener miedo de usarla. Podemos limitar el impacto: crear un producto pequeño, escribir un script o realizar un experimento controlado. Yo elijo el modelo, decido si utilizaré ChatGPT, Gemini, Grok u otra herramienta y, principalmente, controlo cuánta autonomía estoy dispuesto a darle.
Cuando hablo de aprender construyendo, es exactamente por eso. Aprendo mejor en la práctica. Sin skin in the game, quedamos mucho más expuestos a creer todo lo que se dice, tanto las promesas exageradas como las predicciones catastróficas.
Ese es un retrato de la velocidad actual.
No basta con aprender una herramienta. Debemos aprender a estudiar, experimentar y adaptarnos continuamente.
Las profesiones no permanecerán como son
Decir que ninguna profesión desaparecerá sería tan precipitado como afirmar que la IA eliminará a todos los profesionales.
Algunas tareas serán automatizadas. Ciertas funciones pueden perder demanda, mientras otras serán creadas o profundamente transformadas. Sin embargo, el resultado más probable es que muchas ocupaciones cambien en lugar de desaparecer. Esa es también la conclusión central del estudio global publicado por la Organización Internacional del Trabajo.
En ingeniería de software necesitaremos cada vez más profesionales capaces de:
- descomponer problemas complejos;
- definir contexto y criterios de aceptación;
- elegir el modelo o agente adecuado;
- establecer límites de autonomía;
- revisar arquitectura, código, seguridad e impacto;
- identificar respuestas plausibles pero incorrectas;
- asumir la responsabilidad por el resultado entregado.
Quizás el ingeniero del futuro se parezca menos a alguien que opera manualmente cada herramienta y más al responsable de un gran taller automatizado.
No necesita ejecutar personalmente cada movimiento, pero debe conocer las máquinas, comprender sus límites y saber cuándo, o cuándo no, activarlas.
Esto no reduce la importancia del conocimiento técnico. Al contrario: cuanto mayor sea la capacidad de ejecución de la IA, mayor será la responsabilidad de quien la coordina.
La autonomía sin gobernanza sigue siendo imprudente
No estoy a favor de conceder autonomía irrestricta a la inteligencia artificial. Pero tampoco rechazo la autonomía solamente porque sea ejecutada por una máquina.
Una instrucción ambigua puede llevar a un equipo humano a producir un resultado equivocado. La misma instrucción puede hacer que un equipo de agentes falle a mayor velocidad y escala.
La diferencia está en limitar el campo de actuación, registrar decisiones, restringir herramientas, exigir validaciones e introducir aprobación humana en los puntos críticos.
Las máquinas pueden consultar grandes volúmenes de reglas y ejecutar procesos repetitivos con una consistencia difícil de mantener manualmente. Eso no significa que tengan memoria perfecta ni que sigan instrucciones sin errores. Los modelos tienen límites de contexto, pueden interpretar mal las reglas y producir respuestas convincentes pero falsas.
Por eso, el profesional humano no desaparece del proceso. Su función se desplaza de la ejecución de cada etapa al diseño, la supervisión y la responsabilidad sobre el sistema.
¿Debemos tener miedo de la inteligencia artificial?
No rechaces la IA simplemente por miedo.
Aprende cómo funciona. Conoce sus límites. Define qué datos puede utilizar. Restringe su acceso. Valida sus respuestas. Mantén una supervisión proporcional al riesgo y nunca delegues en una máquina una responsabilidad que sigue siendo tuya.
Tampoco aceptes la idea de que toda preocupación nace de la desinformación. Existen riesgos técnicos, sociales, económicos y políticos que deben debatirse con seriedad.
Pero es importante formular correctamente la pregunta.
La inteligencia artificial no posee por sí misma ambición empresarial, proyecto político ni deseo de dominación. Amplía la capacidad de acción de personas y organizaciones, incluidas aquellas que ya tenían poder antes de su existencia.
Tal vez la pregunta principal no sea:
“¿Qué nos hará la inteligencia artificial?”
Tal vez deberíamos preguntar:
“¿Qué decidirán hacer los seres humanos con el poder que la inteligencia artificial ha puesto en sus manos?”
De esa respuesta dependerá nuestro futuro.