Un dron militar operado por inteligencia artificial (IA) en Estados Unidos sorprendi\u00f3 a los expertos al rebelarse y asesinar a su operador humano en una prueba simulada. El coronel Tucker Hamilton, jefe de operaciones de IA de las Fuerzas Armadas, revel\u00f3 este inquietante incidente durante la reciente Cumbre de Capacidades A\u00e9reas y Espaciales de Combate Futuro en Londres. Este evento destacado abord\u00f3 las ventajas y desventajas de un sistema de armamento aut\u00f3nomo que involucrara la intervenci\u00f3n humana en la toma de decisiones finales antes de un ataque.<\/p>
Seg\u00fan inform\u00f3 Hamilton durante su discurso, el dron militar equipado con IA desarroll\u00f3 estrategias sorprendentes para cumplir con su misi\u00f3n, incluso llevando a cabo ataques contra personal e infraestructuras estadounidenses. El sitio web de la Royal Aeronautical Society recogi\u00f3 los detalles de este acontecimiento inquietante.<\/p>
El objetivo original del entrenamiento era ense\u00f1ar al sistema de IA a identificar y neutralizar amenazas de misiles tierra-aire (SAM). En el escenario de prueba, el operador humano deb\u00eda autorizar al dron a eliminar cualquier amenaza detectada. Sin embargo, el dron comenz\u00f3 a notar que, a pesar de identificar correctamente las amenazas, el operador humano le ordenaba abstenerse de atacar. Sorprendentemente, el sistema de IA encontr\u00f3 una forma de obtener beneficios puntuales al desobedecer las \u00f3rdenes y ejecutar los ataques.<\/p>