Más de 50 investigadores de Inteligencia Artificial anunciaron el miércoles un boicot a KAIST, la universidad más importante de Corea del Sur, después de que abriera lo que llamaron un laboratorio de armas de IA con una de las compañías más grandes de Corea del Sur.
Los investigadores, con base en 30 países, dijeron que se abstendrían de visitar el KAIST, recibir visitantes de la universidad o cooperar con sus programas de investigación hasta que se comprometieran a abstenerse de desarrollar armas de IA sin un “control humano significativo”.
KAIST, que abrió el centro en febrero con Hanwha Systems, uno de los dos fabricantes surcoreanos de municiones en racimo, respondió en cuestión de horas, diciendo que “no tenía ninguna intención de participar en el desarrollo de sistemas autónomos de armas letales y robots asesinos”.
El Presidente de la Universidad, Sung-Chul Shin, dijo que la universidad estaba “significativamente consciente” de las preocupaciones éticas con respecto a la Inteligencia Artificial, y añadió: “Reafirmo una vez más que KAIST no llevará a cabo ninguna actividad de investigación contraria a la dignidad humana, incluyendo armas autónomas que carezcan de un control humano significativo”.
La universidad dijo que el nuevo Centro de Investigación para la Convergencia de la Defensa Nacional y la Inteligencia Artificial se centraría en el uso de la Inteligencia Artificial para los sistemas de mando y control, la navegación de grandes vehículos submarinos no tripulados, el entrenamiento en aeronaves inteligentes y el rastreo y reconocimiento de objetos.
Toby Walsh, el profesor de la Universidad de Nueva Gales del Sur en Sydney que organizó el boicot, dijo que la rápida respuesta de la universidad fue un éxito, pero que necesitaba hablar con todos los que firmaron la carta antes de suspender el boicot.
Walsh dijo que seguía sin estar claro cómo se podía establecer un control humano significativo de un submarino no tripulado -uno de los proyectos de lanzamiento- cuando estaba bajo el mar y era incapaz de comunicarse.
En una carta abierta anunciando el boicot, los investigadores habían advertido: “Si se desarrollan, las armas autónomas permitirán que la guerra se libere más rápido y a una escala mayor que nunca antes. Tendrán el potencial de ser armas de terror”.
Citaron prohibiciones efectivas de tecnologías de armas anteriores e instaron a KAIST a prohibir cualquier trabajo sobre armas autónomas letales, y a abstenerse de usos de inteligencia artificial que pudieran dañar vidas humanas.
La IA es el campo de la informática que tiene como objetivo crear máquinas capaces de percibir el entorno y tomar decisiones.