Los expertos temen que la carrera armamentística de las superpotencias para construir robots asesinos pueda acabar con la humanidad si no se controla.
La advertencia del día del juicio final se produce después de que una conferencia de la ONU no lograra acordar una prohibición de los “robots asesinos” al estilo de Terminator, que están desarrollando China, Rusia y Estados Unidos.
Las principales potencias están invirtiendo miles de millones en la creación de armas de Inteligencia Artificial (IA) avanzadas, capaces de cazar y atacar objetivos sin la intervención de los operadores.
El año pasado, un dron kamikaze de fabricación turca realizó el primer asesinato autónomo del mundo contra objetivos humanos en Libia, según reveló un informe de la ONU.
Sin embargo, los expertos advierten que la tecnología avanza tan rápido que los gobiernos y las sociedades no han considerado adecuadamente los peligros.
Dicen que las máquinas que toman sus propias decisiones son propensas a cometer errores imprevisibles y de rápida propagación.
Estos surgen de códigos llamados algoritmos que ni siquiera los programadores entienden siempre y no pueden evitar que se desvíen.
Si en el futuro las armas de IA están equipadas con bombas biológicas, químicas o incluso nucleares, el resultado podría convertirse en un Armagedón involuntario.
“Es un mundo en el que el tipo de errores algorítmicos inevitables que plagan incluso a los gigantes tecnológicos como Amazon y Google pueden llevar ahora a la eliminación de ciudades enteras”, advierte el profesor James Dawes, de la universidad privada de Minnesota Macalester College.
“El mundo no debería repetir los errores catastróficos de la carrera armamentística nuclear. No debería caminar dormido hacia la distopía”.
El profesor del MIT Max Tegmark, cofundador del Instituto del Futuro de la Vida, lanzó esta semana una advertencia similar.
Declaró a Wired: “La tecnología se está desarrollando mucho más rápido que el debate político-militar. Y nos dirigimos, por defecto, al peor resultado posible”.
La semana pasada se debatió una supuesta prohibición de los llamados Sistemas de Armas Letales Automáticas (LAWS) en la Conferencia quinquenal de la ONU sobre Armas Convencionales.
Algunos de los 120 países participantes -entre ellos Brasil, Sudáfrica y Nueva Zelanda- argumentaron que los LAWS deberían estar restringidos por un tratado, al igual que las minas terrestres y algunas armas indiciarias.
Una creciente lista de países, entre los que se encuentran Francia y Alemania, apoyan la limitación de algunas armas automáticas, incluidas las que apuntan a los seres humanos. China dijo que apoya un conjunto reducido de restricciones.
Otros países, como Estados Unidos, Rusia, India, Reino Unido y Australia, se resisten a la prohibición, alegando que seguir desarrollando robots asesinos es esencial para no quedarse en desventaja estratégica.
Decisiones de vida o muerte
Ya se ha desplegado en todo el mundo un aterrador arsenal de armas de IA, incluidas las ametralladoras que se disparan solas en la tierra de nadie en la Zona Desmilitarizada de Corea.
Al menos 14 países cuentan con drones suicidas de IA, incluido el devastador avión de ataque no tripulado Harop de Israel, que se utilizó para perseguir a los terroristas de Hamás.
Los Harop también devastaron el ejército de Armenia durante el enfrentamiento con Azerbaiyán el año pasado, aunque no se reveló si actuaron con o sin ayuda humana.
Las mortíferas armas robóticas de Rusia incluyen el nuevo caza furtivo Checkmate, que combina sistemas de IA con un piloto humano.
Los diseñadores dicen que podría haber una versión futura sin necesidad de piloto.
China comenzó a probar hace más de una década un submarino robot diseñado para rastrear y destruir barcos enemigos de forma autónoma.
Recientemente presentó un avión no tripulado antisubmarino y enjambres de aviones no tripulados lanzados desde camiones.
China también está construyendo un buque de guerra robótico armado con torpedos, según revelaron imágenes satelitales en octubre.
Todas estas máquinas asesinas pueden programarse para solicitar la autorización humana antes de atacar los objetivos que detecten.
Sin embargo, también podrían utilizarse como la tecnología más avanzada de “disparar y olvidarse”, merodeando durante horas o días, preparadas para disparar sobre objetivos elegidos exclusivamente por un ordenador.
Matanza sin control
Los expertos afirman que los principales ejércitos se engañan a sí mismos si creen que pueden controlar la propagación de estas nuevas y avanzadas armas.
Dicen que los estados rebeldes y los terroristas tratarán inevitablemente de conseguirlas para desencadenar masacres.
Y a medida que los robots asesinos compactos se vuelvan tan baratos como las armas Kalashnikovs, bandas como los cárteles de México podrían utilizarlos en una nueva y aterradora ola de derramamiento de sangre.
“Si se pueden comprar robots asesinos por el mismo precio que un AK-47, es mucho mejor para los cárteles de la droga, porque no te van a atrapar cuando asesines a alguien”, dijo el profesor Tegmark a The Sun.
“Aunque un juez tenga muchos guardaespaldas, puedes entrar volando por la ventana de un dormitorio mientras duerme y matarlo”.
Según los expertos, los gobiernos tendrán más probabilidades de ir a la guerra en el futuro, ya que las armas robóticas suponen menos soldados en la línea de fuego.
También ofrecen la falsa promesa de ataques limpios que no dañan a los civiles, con cero responsabilidad por los inevitables crímenes de guerra que cometerán.
La amenaza de China y Rusia está convenciendo a los planificadores militares estadounidenses de la importancia de no quedarse atrás en la carrera armamentística del siglo XXI.
La Agencia de Proyectos de Investigación Avanzada de Defensa inició pruebas con un gran número de aviones no tripulados y vehículos terrestres que trabajan juntos para que los operadores se esfuercen por controlarlos.
Las Fuerzas Aéreas estadounidenses también están investigando cómo la IA podría ayudar o incluso sustituir a los pilotos de combate humanos en un nuevo panorama militar gobernado por máquinas.
En abril, un funcionario del Pentágono confirmó que están considerando si algún día será necesario retirar a los humanos de la cadena de mando en situaciones en las que no puedan responder con la suficiente rapidez contra enemigos robóticos.
La carrera armamentística de las superpotencias demuestra que puede ser demasiado tarde para detener el ascenso de las máquinas.
Traducido de New York Post
