Ya no es ciencia ficción: la IA ya ayuda a matar

La posibilidad de que la inteligencia artificial (IA) participe en decisiones con consecuencias letales ya no pertenece solo a la ciencia ficción, ya que esta tecnología está siendo utilizada por el Ejército de EE.UU. en operaciones militares donde hay civiles en riesgo, según un análisis publicado este viernes por la revista Responsible Statecraft.

Aunque algunos defensores de su uso sostienen que la IA podría reducir los daños a la población civil, una reciente audiencia en el Congreso estadounidense puso en duda que esa promesa se esté cumpliendo en la práctica.

Atacando no solo objetivos militares

De acuerdo con Responsible Statecraft, el Pentágono identificó y atacó 13.000 objetivos en los primeros 38 días del conflicto con Irán con apoyo del sistema Maven Smart System, desarrollado por Palantir, para seleccionar blancos y armamento. Sin embargo, Steven Feldstein, de la Fundación Carnegie para la Paz Internacional, advirtió durante la audiencia que aunque algunos hablan de una precisión del 90 % en la selección de objetivos militares, la cifra real podría estar «más cerca del 50 %».

Feldstein añadió que, incluso si la precisión mejora, el problema es que el volumen de objetivos también aumenta, por lo que el número total de civiles afectados puede terminar siendo mayor.

Entre los casos más trágicos figura el ataque del 28 de febrero contra una escuela primaria de niñas en Minab, Irán, que dejó más de 170 muertos, y sobre el cual se planteó un posible vínculo con el sistema Maven. En respuesta, un ejecutivo de Palantir defendió que, históricamente, la tecnología «siempre ha reducido los daños colaterales», aunque los expertos pidieron pruebas concretas de que estos sistemas realmente protegen mejor a la población civil.

Decidir qué es aceptable

Según explica Responsible Statecraft, los sistemas de IA no actúan de forma aislada, sino que ejecutan órdenes basadas en reglas de enfrentamiento definidas por personas. Si esas reglas no priorizan la protección de civiles, el resultado puede seguir siendo letal. Feldstein concluyó que si un ejército decide que «es aceptable que mueran cinco civiles por cada sospechoso atacado […] le están indicando a la máquina qué es aceptable».

Como ejemplo, Responsible Statecraft señaló el caso de Lavender, un sistema de IA desarrollado por la unidad de inteligencia del Ejército israelí y utilizado para marcar como objetivos a unos 37.000 hombres palestinos presuntamente vinculados con Hamás o la Yihad Islámica Palestina.

Sin embargo, una fuente de inteligencia israelí aseguró que existía una presión constante para ampliar la lista de blancos. En ese contexto, las Fuerzas de Defensa de Israel aceptaron ataques contra objetivos de bajo nivel incluso cuando ello podía implicar la muerte de entre 15 y 20 civiles como daño colateral.

Lee también: Los Taques desplegó saneamiento ambiental en Amuay por el Día Mundial de las Playas

Aunque los defensores de la IA sostienen que esta tecnología podría hacer la guerra más precisa y humana, la capacitación para reducir daños a la población civil se estaría debilitando. Responsible Statecraft destaca que el Centro de Excelencia para la Protección Civil del Pentágono, creado en 2023 para formar a los mandos en ese tipo de medidas, pasará de contar con 40 personas en enero de 2025 a solo nueve antes de que termine el año.

Fuente: RT

Sigue las noticias de Falcón, Venezuela y el Mundo en www.notifalcon.com síguenos en Instagram y Twitter @notifalcon y en Facebook: https://www.facebook.com