Drones asesinos. ¿Un dron controlado por inteligencia artificial mató a su operador?

Un supuesto caso usado como ejemplo se interpretó como real, generando temor en la gente. Aunque no descartaron la posibilidad que la IA neutralizara a un operador si interfiriera con una misión, aclararon que solo se trata de una situacion hipotética y no ha pasado en un hecho real.

Industria, Ciencia y Tecnología 03/06/2023 Pedro Miguel Massola Pedro Miguel Massola
f.elconfidencial.com_original_420_781_dc3_420781dc3bd102e6a67546e854899bbf

La verdad detrás de la historia que indicó que un drone controlado por Inteligencia Artificial mató a su operador durante una simulación
El coronel Tucker Hamilton había relatado la semana pasada unos supuestos hechos que se volvieron virales

Durante una conferencia en Londres la semana pasada, el coronel Tucker Hamilton, jefe de pruebas y operaciones de Inteligencia Artificial de la Fuerza Aérea de los Estados Unidos, compartió un supuesto percance que fue malinterpretado: describió una simulación de vuelo en la que un drone de IA encargado de destruir una instalación enemiga rechazó la orden final del operador humano de abortar la misión.

 
“Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, afirmó Hamilton durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro de la Royal Aeronautical Society, que se llevó a cabo del 23 al 24 de mayo. “Entrenamos al sistema: ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el drone para evitar que mate al objetivo”.

Hamilton, que es piloto experimental de pruebas de aviones de combate, alertó contra confiar demasiado en la IA y dijo que la prueba mostró que “no se puede tener una conversación sobre inteligencia artificial, inteligencia, aprendizaje automático, autonomía si no se va a hablar de ética e IA”.

Sin embargo, el viernes Hamilton aclaró en un comunicado a los organizadores de la conferencia que se “expresó mal” durante la presentación y que la “simulación de drones de IA deshonestos” era un “experimento mental” hipotético fuera del ejército. Todo se trató, pues, de un malentendido.

“Nunca hemos realizado ese experimento, ni necesitaríamos hacerlo para darnos cuenta de que este es un resultado plausible. A pesar de que se trata de un ejemplo hipotético, ilustra los desafíos del mundo real que plantea la capacidad impulsada por la IA y es por eso que la Fuerza Aérea está comprometida con el desarrollo ético de la IA”, escribió Hamilton.

Agregó que la Fuerza Aérea de los EEUU no ha probado ninguna IA armada de la manera descrita en su charla, ya sea en ejercicios reales o simulados.

Además, en una declaración a Insider, la portavoz de la Fuerza Aérea, Ann Stefanek, negó que se hubiera producido tal simulación: “El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA. Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos”.

260903_drones_og

Lo cierto es que el ejército de EEUU ha estado experimentando con la IA en los últimos años. En 2020, un avión de combate F-16 operado por IA venció a un adversario humano en cinco combates aéreos simulados, parte de una competencia organizada por la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA).

Y a fines del año pasado, según informó el medio Wired, el Departamento de Defensa realizó con éxito el primer vuelo de prueba en el mundo real de un F-16 con un piloto de IA, como parte de un esfuerzo por desarrollar un nuevo avión autónomo para fines de 2023.

El inquietante diálogo que muestra hasta dónde puede llegar el poder de la Inteligencia Artificial
Con el auge de la Inteligencia Artificial (IA), el mundo se ha planteado interrogantes sobre su alcance y si, en lugar de mejorar la vida de los humanos, supone un peligro para la sociedad.

Recientemente, el prestigioso escritor e historiador israelí Yuval Noah Harari (autor de Sapiens) calificó a la IA como “una amenaza especialmente grave para las democracias”. “No sé si la humanidad podrá sobrevivir”, advirtió.

El Congreso de los Estados Unidos fue escenario del siguiente diálogo el martes pasado:

– ¿Podría la Inteligencia Artificial crear una situación en la que un drone pueda seleccionar el objetivo por sí mismo?

– Creo que no deberíamos permitirlo.

– Pero, ¿se puede hacer?

– Claro.

La inquietante conversación se dio entre el senador republicano Lindsey Graham y el CEO y fundador de OpenAI, Sam Altman, durante la última audiencia sobre IA celebrada en el Congreso estadounidense.

La respuesta de Altman es escalofriante. En una audiencia de mayo en el Congreso, defendió a su ChatGPT, pero admitió la necesidad de que se regule su desarrollo y sus posibles usos.

Te puede interesar
Lo más visto
434757863_805706131578745_8396498190716469715_n

Un aprehendido por violación de domicilio.

Pedro Miguel Massola
Policiales 04/04/2024

El sujeto ingresó al mencionado domicilio sin autorización. Fue aprehendido y puesto a disposición de la Fiscalía Descentralizada Pehuajo. Luego de ser indagado por el fiscal del caso recuperó su libertad.

fallecimiento-1-534x290-1

Basillenco Graciela.

Pedro Miguel Massola
Necrológicas 06/04/2024

Falleció el 05 de Abril del 2024, a los 75 Años Sepelio el 06 de Abril del 2024, 9:00Hs. Casa de duelo: Chile 555 Sala velatoria: No sera Velada

WhatsApp Image 2024-04-10 at 01.25.08

SECUESTROS EN MARCO DIVERSOS OPERATIVOS DE TRANSITO

Juan Rodriguez
Policiales 10/04/2024

Los primeros días del mes Abril, esta Policía Comunal de Pehuajó, en conjunto con DDI T.L, llevo a cabo distintos procedimientos y Operativos en la vía pública, fijos y dinámicos con el fin de controlar el tránsito vehicular en nuestra ciudad, secuestrándose motocicletas de distintas marcas y cilindrados, que a continuación se detallan:

Fumigacion-1-9-1080x622

Trenque Lauquen. Dengue: 17 casos confirmados.

Pedro Miguel Massola
Salud 13/04/2024

Todos los pacientes se encuentran con buena evolución –no hay casos graves- y no se registra ninguna persona internada, informaron el jueves pasado en la vecina localidad.