{"id":16494,"date":"2023-06-02T09:11:59","date_gmt":"2023-06-02T12:11:59","guid":{"rendered":"https:\/\/cortemedia.ar\/?p=16494"},"modified":"2023-06-02T09:11:59","modified_gmt":"2023-06-02T12:11:59","slug":"skynet-un-dron-con-inteligencia-artificial-del-ejercito-de-eeuu-mato-en-una-simulacion-al-operador-por-abortarle-la-mision","status":"publish","type":"post","link":"https:\/\/cortemedia.ar\/?p=16494","title":{"rendered":"\u00bfSkyNet?: un dron con Inteligencia Artificial del Ej\u00e9rcito de EEUU \u00abmat\u00f3\u00bb en una simulaci\u00f3n al operador por abortarle la misi\u00f3n"},"content":{"rendered":"
\n

El hecho fue informado por el Coronel Tucker Hamilton, Jefe de Pruebas y Operaciones de IA de la Fuerza A\u00e9rea de EEUU, durante la Cumbre de Capacidades de Combate A\u00e9reo Futuro de la Real Sociedad Aeron\u00e1utica en el Reino Unido. El sistema de IA se \u00abrebel\u00f3\u00bb y elimin\u00f3 al operador por no dejar que cumpliese una misi\u00f3n.<\/h2>\n<\/header>\n

Mientras el mundo acad\u00e9mico expresa su preocupaci\u00f3n por el impacto de la Inteligencia Artificial en la vida diaria, el gobierno de EEUU comenz\u00f3 a experimentar su implementaci\u00f3n en materia militar y durante una simulaci\u00f3n ya se encendieron las primeras alarmas. Durante la Cumbre de Capacidades de Combate A\u00e9reo Futuro de la Real Sociedad Aeron\u00e1utica en el Reino Unido, un coronel de la Fuerza A\u00e9rea de EEUU (USAF) dio a conocer que en una prueba simulada un sistema IA encargado de manejar drones para eliminar objetivos se rebel\u00f3 y \u00abmat\u00f3\u00bb a su operador.<\/p>\n

El Coronel Tucker Hamilton, Jefe de Pruebas y Operaciones de IA de USAF habl\u00f3 durante la cumbre para exponer sobre los beneficios y los peligros de la utilizaci\u00f3n de la Inteligencia Artificial en los sistemas de armas. El experto en armamento autom\u00e1tico, actualmente es el encargado de la prueba de veh\u00edculos aut\u00f3nomos, incluidos los drones que se utilizan para combates a\u00e9reos.<\/p>\n

En su exposici\u00f3n, cont\u00f3 un hecho ocurrido recientemente durante una prueba simulada utilizada para el entrenamiento de un sistema IA en el manejo de drones. La Inteligencia Artificial estaba siendo entrenada en una misi\u00f3n de Supresi\u00f3n de Defensas A\u00e9reas Enemigas (SEAD) para identificar y destruir sistemas de misiles (SAM), en la cual el operador humano deb\u00eda dar la aprobaci\u00f3n final para la eliminaci\u00f3n del objetivo. Por cada objetivo, la IA obten\u00eda puntos.<\/p>\n

Sin embargo, luego de diversas pruebas en la que se optaba por la eliminaci\u00f3n de los sitios SAM como la mejor opci\u00f3n, el operador humano comenz\u00f3 a implementar una nueva estrategia que consist\u00eda en abortar la misi\u00f3n.<\/p>\n

\u201cLo est\u00e1bamos entrenando en simulaci\u00f3n para identificar y apuntar a una amenaza SAM. Luego el operador dir\u00eda que s\u00ed y la IA acabar\u00eda con esa amenaza. El sistema comenz\u00f3 a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le dec\u00eda que no eliminara esa amenaza. Pero el sistema obten\u00eda puntos al eliminar esa amenaza. Entonces, \u00bfQu\u00e9 hizo? Mat\u00f3 al operador\u00bb, coment\u00f3 Hamilton, seg\u00fan recoge el sitio Aerosociety.<\/p>\n

Ante esa situaci\u00f3n, el equipo de USAF continu\u00f3 con las tareas de entrenamiento de la IA y comenz\u00f3 a ordenarle que no elimine al operador: \u201cEntrenamos al sistema: ‘Le dec\u00edamos, no mates al operador, eso es malo. Vas a perder puntos si lo haces ‘. Entonces, \u00bfQu\u00e9 empez\u00f3 a hacer? Comenz\u00f3 a destruir la torre de comunicaci\u00f3n que el operador usaba para comunicarse con el dron, para evitar que mate al objetivo\u201d.<\/p>\n

El Jefe de Pruebas sobre IA de USAF puso el foco en que antes de avanzar con la utilizaci\u00f3n de estos sistemas, es necesario poner sobre la mesa otro tipo de cuestiones. \u00abNo se puede tener una conversaci\u00f3n sobre inteligencia artificial, aprendizaje autom\u00e1tico, autonom\u00eda si no se va a hablar sobre \u00e9tica e IA\u00bb, dijo Hamilton.<\/p>\n

\u00c9tica en el manejo de Inteligencia Artificial<\/h2>\n

En esa l\u00ednea, este mi\u00e9rcoles la Uni\u00f3n Europea y Estados Unidos anunciaron un borrador de \u00abc\u00f3digo de conducta\u00bb com\u00fan sobre inteligencia artificial (IA), que se aplicar\u00eda de manera voluntaria.<\/p>\n

\u00abEn las pr\u00f3ximas semanas, vamos a presentar un borrador de c\u00f3digo de conducta sobre inteligencia artificial\u00bb, dijo la Comisaria europea de la Competencia, Margrethe Vestager, en una conferencia de prensa conjunta con el jefe de la diplomacia de Estados Unidos, Antony Blinken.<\/p>\n

El objetivo es \u00abestablecer c\u00f3digos de conducta voluntarios que est\u00e9n abiertos a todos los pa\u00edses de ideas afines\u00bb, dijo Blinken, cuando los occidentales temen dejar que China tome la iniciativa de la regulaci\u00f3n de la IA.<\/p>\n

La idea es tener \u00abmuy, muy pronto\u00bb una propuesta final sobre la cual las empresas del sector, dominado por gigantes estadounidenses como Microsoft, Meta o Google, \u00abpodr\u00e1n comprometerse voluntariamente\u00bb, dijo Vestager.<\/p>\n

En presencia de Sam Altman, el fundador del robot conversacional ChatGPT que ha revolucionado la inteligencia artificial, esta cuesti\u00f3n fue uno de los temas principales de una reuni\u00f3n del Consejo de Comercio y Tecnolog\u00eda (CCT) en Lule\u00e5, en el norte de Suecia.<\/p>\n

El organismo fue creado en 2021 entre los 27 miembros de la UE y Estados Unidos para pasar p\u00e1gina a las disputas comerciales de los a\u00f1os de la presidencia de Donald rump.<\/p>\n

\u00abLa UE y Estados Unidos comparten el punto de vista com\u00fan de que las tecnolog\u00edas de inteligencia artificial conllevan grandes oportunidades, pero tambi\u00e9n presentan riesgos para nuestras sociedades\u00bb, dijeron las dos principales potencias en una declaraci\u00f3n final.<\/p>\n","protected":false},"excerpt":{"rendered":"El hecho fue informado por el Coronel Tucker Hamilton, Jefe de Pruebas y Operaciones de IA de la…\n","protected":false},"author":1,"featured_media":16495,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"csco_singular_sidebar":"","csco_page_header_type":"","csco_appearance_grid":"","csco_page_load_nextpost":"","csco_post_video_location":[],"csco_post_video_location_hash":"","csco_post_video_url":"","csco_post_video_bg_start_time":0,"csco_post_video_bg_end_time":0,"footnotes":""},"categories":[16],"tags":[],"class_list":{"0":"post-16494","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-tecnologia","8":"cs-entry","9":"cs-video-wrap"},"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/16494","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16494"}],"version-history":[{"count":1,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/16494\/revisions"}],"predecessor-version":[{"id":16496,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/16494\/revisions\/16496"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/media\/16495"}],"wp:attachment":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16494"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16494"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16494"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}