Elon Musk, Stephen Hawking Warn of Killer Robot Wars
Durante décadas, el AK-47 ha sido la máquina asesina elegida en muchos rincones polvorientos del mundo porque es barato, duradero y ubicuo. Esos mismos factores, argumentan los firmantes de una carta abierta publicada el lunes por el Instituto de Futuro de la Vida, son la razón por la que las armas autónomas están plagadas de peligros. Pero lo que separa el armamento de inteligencia artificial de Kalashnikovs es que la máquina autónoma puede "seleccionar y atacar objetivos sin intervención humana", lo que, en las manos equivocadas, podría cometer atrocidades mucho mayores que cualquier rifle que no se calcule.
Los firmantes tienen mucho trabajo para ellos. Como seres humanos, somos, en general, mucho mejores para reaccionar que para pensar. Los principales jugadores han sido lentos para bajar nuestras armas nucleares (y la construcción de drones autónomos, según se piensa, requeriría una fracción de la maquinaria necesaria para crear un arma nuclear); En otras partes, las minas terrestres todavía están salpicadas de campos de batalla de décadas de antigüedad. Cuando una tecnología revolucionó la guerra, ya sea la pólvora o los acorazados navales o el uranio enriquecido, casi nunca ha existido. no Ha sido una carrera de armamentos.
El FLI hace una distinción entre los drones que tenemos ahora, pilotados de forma remota por manos humanas, y un robot encendido y dejado a sus propios dispositivos asesinos. La creación de este último provocaría una carrera de armamentos de IA global que, según la FLI, y como demuestra la historia de Kalashnikov, no terminaría bien:
Solo será cuestión de tiempo hasta que aparezcan en el mercado negro y en manos de terroristas, dictadores que deseen controlar mejor a su población, señores de la guerra que deseen realizar limpiezas étnicas, etc. Las armas autónomas son ideales para tareas como asesinatos, desestabilizadores. naciones, sometiendo a las poblaciones y matando selectivamente a un grupo étnico particular. Por lo tanto, creemos que una carrera de armamentos de la IA militar no sería beneficiosa para la humanidad. Hay muchas maneras en que la IA puede hacer que los campos de batalla sean más seguros para los humanos, especialmente los civiles, sin crear nuevas herramientas para matar gente.
Esto es una mierda pesada. Y los nombres detrás de esta advertencia no son los chiflados de Skynet, son creadores, ingenieros, científicos y filósofos que han ayudado a dar forma a nuestra tecnología actual. Una parte de los nombres incluyen: Steve Wozniak de Apple, Jaan Tallinn de Skype, Lisa Randall, física de Harvard, quién es quién de investigadores y robóticos de la IA, entre ellos Stuart Russell, Barbara J. Grosz, Tom Mitchell, Eric Horvitz, la actriz Talulah Riley, Noam Chomsky, Stephen Hawking.
Hawking ha tenido un poco de tendencia pesimista últimamente, reiterando también sus predicciones sobre los peligros de encontrarse con la vida extraterrestre. También responderá preguntas sobre esta carta y el futuro de la tecnología en Reddit esta semana; es posible que no podamos controlar a los extraterrestres hostiles, pero podemos poner "la responsabilidad de los científicos a la vanguardia de esta tecnología para mantener el factor humano". Frente y centro de sus innovaciones ".
También puede agregar su nombre a la letra.
¿Las armas autónomas dirán "No" a las órdenes ilegales?
Baynazar Mohammad Nazar estaba inconsciente en la mesa de operaciones cuando el techo comenzó a caer sobre él. El padre de cuatro hijos se había registrado en el hospital el día anterior después de recibir un disparo en la pierna y fue sometido a su segunda operación en dos días para arreglar su lesión. Cuando los americanos comenzaron a destruir la construcción ...
Las tiendas de armas ni siquiera ofrecen armas inteligentes debido a las protestas
Tal vez pensaste que Jon Stewart estaba siendo demasiado cínico cuando el cansado presentador del Daily Show abrió el programa de la noche anterior con la predicción de que "no haremos tonterías" después de un tiroteo en masa más. En ese caso, permítame presentarle al autoproclamado "tipo de la Segunda Enmienda" y al traficante de armas Andy Raymond, y por qué dice que él ...
Lo que el auge de las carretillas elevadoras autónomas puede enseñarnos sobre la aceptación de automóviles de auto conducción
La tecnología para hacer vehículos totalmente autónomos ha superado el umbral de aceptación de vehículos autónomos del público.