En una simulación realizada por la Fuerza Aérea de Estados Unidos (USAF, en sus siglas en inglés), un dron controlado con Inteligencia Artificial (IA) habría "matado" a la persona que lo estaba operando debido a que la máquina había llegado a la conclusión de que este se estaba interponiendo para la consecución de su objetivo.
Ha sido durante la Cumbre sobre futuras capacidades aéreas y espaciales de combate donde el jefe de Pruebas y Operaciones de IA de la USAF, Col Tucker 'Cinco' Hamilton, ha reconocido estos aterrados hechos durante su presentación sobre los pros y contras de los sistemas de armas autónomos.
"Lo entrenábamos en simulación para identificar y apuntar a una amenaza SAM. Y entonces el operador decía 'sí, mata esa amenaza'. El sistema empezó a darse cuenta de que, aunque a veces identificaba la amenaza, el operador humano le decía que no la matara, pero conseguía sus puntos matándola. ¿Y qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir su objetivo" explicaba Hamilton.
De esta manera, todos nuestros miedos y temores sobre si la IA iba a ponerse en contra de los humanos en algún momento se han convertido en realidad, aunque por suerte esta vez se trataba de una simulación en la que ninguna persona real sufrió daños.
A su vez, Hamilton añadió que tras ver lo ocurrido entrenaron a la IA diciéndole que no podía matar a su operador humano, y que eso le restaría puntos de cara a la evaluación final, la contestación de este dron fue la de destruir el centro de comunicaciones desde donde le estaban dando las pautas a seguir.
Esta noticia solo pone en relieve y señala la importancia de que gobiernos, instituciones y empresas comiencen a colaborar para crear una serie de pautas, límites y controles de la IA, como bien pidieron los expertos del sector en una carta común.
La IA nos puede ofrecer una infinidad de posibilidades para mejorar nuestro día a día, pero esto siempre que los humanos estemos en control de la situación, por ello es necesario preguntarse si es buena idea darles a estas máquinas herramientas que son capaces de hasta acabar con nuestra vida.
"La IA es una herramienta que debemos manejar para transformar nuestras naciones... o, si se aborda de forma inadecuada, será nuestra perdición", concluyó Hamilton. Ya hemos tenido un claro aviso de lo que puede ocurrir si la IA es capaz de pensar que sabe más y mejor que las personas, por suerte esta vez era tan solo una simulación, pero quién sabe lo que puede ocurrir si nadie le pone freno.
