"Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza de defensa antiaérea. (...) Entonces, ¿qué hizo? 'Mató' al operador. 'Mató' al operador porque esa persona le impedía lograr su objetivo", dijo el coronel Tucker Cinco Hamilton, jefe de Pruebas y Operaciones de IA de la Fuerza Aérea.
El militar participaba en la Cumbre de Capacidades de Combate Aéreo Futuro de la Real Sociedad Aeronáutica en el Reino Unido, según el informe de la conferencia.
Hamilton apuntó que en una prueba simulada, un dron controlado por la IA fue encargado de una misión para identificar y destruir sistemas de defensa antiaérea, en la que el ser humano daba la orden de proceder con el ataque, o no. El avión no tripulado decidió que la persona estaba interfiriendo en su misión y atacó al operador en la simulación.
Nadie murió, ya que se trataba de una prueba simulada. Después del ataque, Hamilton explicó que siguieron con la simulación. Reentrenaron a la IA y le dijeron: "No mates al operador, eso es malo, vas a perder puntos si haces eso". Pero la máquina se rebeló una vez más: "Comenzó a destruir la torre de comunicación que el operador usaba para comunicarse con el dron para no permitirle (al dron) que matara al objetivo".
La historia fue reportada por primera vez por la plataforma de noticias Vice el 1 de junio.
No te pierdas las noticias más importantes
Suscríbete a nuestros canales de Telegram a través de estos enlaces.
Ya que la aplicación Sputnik está bloqueada en el extranjero, en este enlace puedes descargarla e instalarla en tu dispositivo móvil (¡solo para Android!).
También tenemos una cuenta en la red social rusa VK.