Hace un tiempo, en TECHcetera hablábamos de algunos casos de uso de los drones para realizar desde envíos o hasta para aplicaciones forenses. Ahora bien, gracias a los avances de la inteligencia artificial, no sólo los carros autónomos, los enjambres de drones también son capaces de captar el ambiente a través de los sensores sino de usar una red neuronal para nutrir el algoritmo con información anónima de aquellas unidades que han transitado anteriormente el mismo camino para de esta forma, compartir las lecciones aprendidas con toda la flota. Las reas inteligentes llegaron para quedarse!
Antes, eran exclusivas de las películas de ciencia ficción que mostraban máquinas voladoras que decidían por sí solas a quién atacar. Hoy, eso es una realidad que ya está en marcha, ya existen pruebas de enjambres de drones con IA capaces de seleccionar sus propios objetivos sin intervención humana directa. Estos sistemas, que pueden coordinarse entre decenas o cientos de unidades en vuelo, marcan el inicio de una era militar en la que el juicio humano puede quedar completamente fuera del campo de batalla.
¿Qué está en juego con las armas inteligentes?
En esencia, como humanos estamos entregando la decisión de vida o muerte a algoritmos. Drones autónomos con capacidad de análisis en tiempo real, identificación de objetivos y fuego letal, todo sin que un ser humano presione un botón. Esto va mucho más allá de los drones pilotados remotamente. Estamos hablando de enjambres que operan como un “organismo inteligente”, con comunicación interna, adaptación y ejecución de misiones complejas.
Y aunque estos avances pueden ofrecer ventajas tácticas impresionantes —como actuar en zonas donde las comunicaciones humanas fallan o responder a amenazas más rápido que cualquier soldado—, esto plantea dilemas éticos y estratégicos grandes, sin precedentes!
Los riesgos invisibles
- Errores fatales sin responsables: ¿Qué ocurre si un algoritmo identifica erróneamente a un civil como enemigo? ¿Quién asume la culpa? ¿El fabricante? ¿El comandante? ¿Nadie?
- Escalada automatizada: En conflictos donde ambas partes usen IA, la posibilidad de un malentendido o sobre reacción crece. Un pequeño error puede activar respuestas en cadena más rápido de lo que un humano podría detenerlas.
- Deshumanización de la guerra: Quitar al ser humano del proceso de decisión puede hacer más fácil “matar sin culpa”, reduciendo la guerra a una serie de líneas de código.
- Proliferación descontrolada: A medida que esta tecnología se abarata, el riesgo de que caiga en manos de grupos no estatales o actores irresponsables crece. Un enjambre autónomo no necesita lealtad, solo batería. Ya estamos viendo consecuencias con unos poco drones en Colombia, no puedo ni imaginarme lo terrible que podría ser todo un grupo de ellos!
¿Y qué se está haciendo al respecto?
Aunque hay llamados internacionales para regular el uso de armas autónomas, no existe aún un tratado global vinculante. Mientras tanto, países como EE. UU., China, Rusia y el Reino Unido siguen invirtiendo en estos sistemas. Incluso los desarrolladores de IA más reconocidos han advertido del peligro: si no se establecen límites ahora, podríamos cruzar un punto sin retorno. No se trata solo de ética, sino de seguridad global.
Estamos entrando a una era donde la guerra puede librarse sin soldados. Donde máquinas eligen a quién disparar. El problema ya no es si esto es posible (porque ya lo es), sino si estamos preparados para vivir con sus consecuencias!
