Análisis sobre el uso de sistemas de IA en operaciones militares, a partir de recientes ataques en Irán y la participación de empresas tecnológicas como Palantir.
En el contexto de la reciente escalada militar contra Irán, se ha observado la utilización de sistemas de inteligencia artificial en la identificación y selección de objetivos. Entre los blancos atacados se encontraban figuras del régimen iraní y una escuela primaria en el sur del país, donde se reportaron más de 170 víctimas fatales, en su mayoría niñas y adolescentes.
La empresa Palantir, a través de su sistema Maven Smart System, participó en el procesamiento de información para la ejecución de operaciones. Este software integra grandes volúmenes de datos y emplea técnicas de IA para priorizar objetivos. En el primer día de la acción, el sistema colaboró en la ejecución de operaciones contra más de mil blancos.
El uso de IA en conflictos bélicos no es reciente. En 2022, Alexander Karp, director ejecutivo de Palantir, publicó una columna en el New York Times titulada “Our Oppenheimer Moment: The Creation of A.I. Weapons”, donde trazaba un paralelismo entre el desarrollo de la bomba atómica y el avance de la inteligencia artificial. Karp sostenía que, al igual que los científicos del Proyecto Manhattan, los desarrolladores de IA deberían proceder aun reconociendo los riesgos.
El paralelismo también se extendía a los dilemas morales y a las consecuencias en el equilibrio de poder entre los estados. Karp citaba la desesperación de Robert Oppenheimer tras los bombardeos de Hiroshima y Nagasaki, pero omitía la advertencia de Albert Einstein al presidente Franklin D. Roosevelt en 1939 sobre la posibilidad de crear bombas de nuevo tipo.
La cronología de la Segunda Guerra Mundial muestra un contexto específico: la invasión alemana de Europa en septiembre de 1939, el ataque a Pearl Harbor en diciembre de 1941, la apertura de los laboratorios de Los Álamos en marzo de 1943, el primer ensayo nuclear en julio de 1945 y el uso de dos bombas atómicas en Japón en agosto de ese año.
En aquel entonces, los científicos eran empleados del estado, mientras que en la actualidad las empresas tecnológicas privadas mantienen vínculos contractuales con el gobierno de los Estados Unidos. Karp ha manifestado su patriotismo y el alineamiento entre los intereses de su empresa y los del país.
En cuanto a la relación de poder entre los estados, el reconocimiento del poder destructivo de las armas atómicas llevó a un consenso sobre la necesidad de prevenir su uso, mediante la estrategia de disuasión. En el caso de las nuevas tecnologías, no se ha observado un mecanismo de contención similar. El uso de la fuerza militar se ha combinado con la adopción de estas tecnologías en operaciones de agencias como la de Inmigración y Control de Aduanas (ICE) y el Departamento de Defensa.
En el ataque contra Irán, el sistema Maven Smart System procesó y ejecutó operaciones. Una investigación oficial sobre el bombardeo a la escuela primaria determinó que la información utilizada era obsoleta. La aceleración de la “kill chain” en ataques planificados con antelación plantea interrogantes sobre la capacidad de los operadores humanos para validar objetivos en segundos y sobre la responsabilidad legal en decisiones tomadas por sistemas automatizados.