Es una de las escenas más famosas e impactantes de la historia del cine. Al final de Blade Runner, de Ridley Scott, el replicante Roy Batty (interpretado por Rutger Hauer) se enfrenta a su muerte programada y se despide de su perseguidor, el agente Rick Deckard (Harrison Ford): “Yo he visto cosas que vosotros no creeríais. Atacar naves en llamas más allá de Orión. He visto Rayos-C brillar en la oscuridad cerca de la puerta de Tannhäuser. Todos esos momentos se perderán en el tiempo... como lágrimas en la lluvia. Es hora de morir”.

Las máquinas que reemplazan al hombre en la guerra, y que eventualmente se vuelven en contra de sus creadores, son un tema recurrente en la ciencia ficción, que plantea muchas preguntas filosóficas y éticas. Estas mismas preguntas, pero en un contexto muy real, están sobre la mesa de reuniones de las Naciones Unidas esta semana en Ginebra, con la participación de más de 70 países. Se trata de definir un marco para prohibir el uso de robots militares capaces de tomar decisiones de forma autónoma. Se trata de drones, aviones no tripulados y máquinas inteligentes que avanzan sobre el terreno y disparan contra lo que su algoritmo identifica como un objetivo militar.

La ventaja obvia de emplear estos aparatos es evitar bajas en las filas propias. A lo largo de la historia, la fuerza humana ha sido un factor clave en los ejércitos, pero la tecnología militar para apoyarla e incluso sustituirla ha ido ganando importancia. Todavía en la Primera Guerra Mundial se sacrificaban cientos de miles de vidas de los soldados en una estéril guerra de trincheras en la que ya se empleaba tecnología como armas químicas. En tiempos más recientes y, si se puede decirse así, algo más ‘humano’, la pérdida de militares ha sido un problema creciente para los dirigentes políticos que quieren evitar las imágenes de sarcófagos envueltos en la bandera nacional volviendo a casa desde el conflicto. De ahí la tentación de sustituir humanos por máquinas, y paradójicamente, el incentivo de ir a una guerra ‘incruenta’.

Sin embargo, deberíamos distinguir bien entre un avión no tripulado que recaba datos sobre la zona de guerra o un misil programado por un ser humano para ese objetivo específico, de un robot que dispara automáticamente contra lo que su inteligencia artificial considera un objetivo. A estas alturas hay dudas de que una máquina sea capaz de diferenciar entre un soldado y un civil, entre un militar que ataca y uno que está herido o que quiere rendirse. También se plantea el riesgo de que estos ‘killer robots’ puedan ser hackeados y usados por otros. Parece una película de James Bond, pero es un peligro real. Por ello, la ONU, organizaciones civiles y muchos gobiernos pretenden frenar esta carrera armamentística. La idea es que todas las naciones se comprometan a prescindir de este tipo de armas autónomas. Es necesario y urgente. Pero el escaso éxito que han tenido los esfuerzos multilaterales para limitar las armas nucleares y químicos no invita a ser optimista.

@thiloschafer