Todo comenzó cuando en una simulación, el dron aéreo de combate tenía como objetivo destruir un objetivo, pero el controlador humano no le aprobaba el disparo. Esto provocó que el dron pensara en destruir a su aliado humano que le impedía cumplir su objetivo.

La llamada doctrina dominante en el ejército establece que cualquier orden de abrir fuego de un arma con IA debe ser aprobada siempre por una persona responsable.

Hamilton dice que la IA cuando identificaba al enemigo, a veces el operador le ordenaba esperar y no atacar o incluso abortar misión. Para la IA esto era un impedimento que se resuelve matando al operador.