El futuro de la inteligencia artificial (IA) en el ámbito militar está tomando forma, y no precisamente de una manera que tranquilice a todo el mundo. Un funcionario del Departamento de Defensa de los Estados Unidos ha revelado que el ejército podría estar considerando el uso de sistemas de IA generativa para clasificar listas de objetivos y realizar recomendaciones sobre cuáles atacar primero. Esta información, obtenida por MIT Technology Review, surge en un momento delicado, con el Pentágono bajo escrutinio por un reciente ataque a una escuela iraní que aún está siendo investigado.

La idea, según la fuente anónima, es alimentar una lista de posibles objetivos a un sistema de IA generativa diseñado para entornos clasificados. Este sistema, aún en desarrollo, podría ser interrogado por humanos para analizar la información y priorizar los objetivos, teniendo en cuenta factores cruciales como la ubicación actual de las aeronaves. El funcionario enfatizó que la responsabilidad final recaería en los humanos, quienes verificarían y evaluarían los resultados y recomendaciones generadas por la IA.

Aunque no se especificó qué modelos de IA se utilizarían, el funcionario mencionó que, en teoría, sistemas como ChatGPT de OpenAI o Grok de xAI podrían ser empleados en el futuro para este tipo de escenarios. Esto abre un abanico de posibilidades y, al mismo tiempo, plantea serias interrogantes éticas y de seguridad.

El uso de la IA en la toma de decisiones militares no es un concepto nuevo, pero la capacidad de la IA generativa para analizar grandes cantidades de datos y generar recomendaciones complejas representa un avance significativo. La promesa es una mayor eficiencia y precisión en la selección de objetivos, lo que podría reducir los daños colaterales y mejorar la efectividad de las operaciones militares. Sin embargo, el riesgo de sesgos algorítmicos, errores de interpretación o incluso ataques cibernéticos que manipulen la IA son preocupaciones legítimas que deben abordarse con rigor.

La supervisión humana es un elemento clave en esta ecuación. La idea es que los humanos actúen como un filtro, revisando y validando las recomendaciones de la IA antes de tomar cualquier decisión final. No obstante, la dependencia excesiva de la IA podría llevar a una disminución de la capacidad crítica de los operadores humanos, o incluso a una aceptación acrítica de las recomendaciones de la máquina, especialmente en situaciones de alta presión. Los detalles del incidente en la escuela iraní, aún bajo investigación, seguramente influirán en los protocolos que se adopten en el futuro.

Este anuncio llega en un contexto de creciente debate sobre la ética y la regulación de la IA, especialmente en aplicaciones sensibles como la militar. El Pentágono se enfrenta al desafío de equilibrar los beneficios potenciales de la IA con la necesidad de garantizar la seguridad, la responsabilidad y el cumplimiento de las leyes internacionales. El desarrollo y la implementación de sistemas de IA para la toma de decisiones militares requerirán una cuidadosa consideración de los aspectos técnicos, éticos y legales, así como una transparencia y una supervisión rigurosas.