{"id":19899,"date":"2024-06-05T12:21:02","date_gmt":"2024-06-05T15:21:02","guid":{"rendered":"https:\/\/cortemedia.ar\/?p=19899"},"modified":"2024-06-05T12:21:02","modified_gmt":"2024-06-05T15:21:02","slug":"empleados-de-openai-denuncian-imprudencia-y-secretismo-en-la-organizacion-detras-de-chatgpt","status":"publish","type":"post","link":"https:\/\/cortemedia.ar\/?p=19899","title":{"rendered":"Empleados de OpenAI denuncian \u201cimprudencia y secretismo\u201d en la organizaci\u00f3n detr\u00e1s de ChatGPT"},"content":{"rendered":"

Integrantes del grupo apuntan al CEO, Sam Altman, y aseguran que se ha priorizado la ganancia por sobre la seguridad y la transparencia.<\/h2>\n

OpenAI\u00a0<\/b>es, ahora, uno de los protagonistas con mayor visibilidad en la escena tecnol\u00f3gica, posici\u00f3n que consigui\u00f3 gracias al lanzamiento de\u00a0ChatGPT<\/b>, a fines de 2022. Como tal, la organizaci\u00f3n que dirige\u00a0Sam Altman\u00a0ha adquirido responsabilidades y por ello es esperable que se encuentre bajo el escrutinio de entes reguladores, especialistas y grandes audiencias. Sin embargo,\u00a0no era previsible el\u00a0<\/b>fuego amigo<\/b><\/i>.<\/p>\n

\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Mientras que el a\u00f1o pasado la mayor\u00eda de los empleados de OpenAI firmaron una carta solicitando la reincorporaci\u00f3n de Altman como CEO \u2014que hab\u00eda sido apartado de la firma por inconsistencias en la comunicaci\u00f3n de los proyectos\u2014; ahora,\u00a0trabajadores de la organizaci\u00f3n estadounidense levantaron su voz para denunciar pr\u00e1cticas\u00a0<\/b>non sanctas<\/b><\/i>\u00a0<\/i>en el grupo.<\/p>\n

\u201cImprudencia y secretismo\u201d: los empleados de OpenAI denuncian malas pr\u00e1cticas en la organizaci\u00f3n<\/h2>\n

En una carta titulada\u00a0Derecho a advertir sobre la inteligencia artificial avanzada<\/i>, un grupo de integrantes y exintegrantes de OpenAI denuncia a la organizaci\u00f3n por \u201cimprudencia y secretismo\u201d, y de\u00a0priorizar las ganancias por sobre la seguridad de los desarrollos y la transparencia de los procesos<\/b>. Esos\u00a0se\u00f1alamientos son similares a los que la exempleada de Facebook, Frances Haugen, mencion\u00f3 en sus recordados testimonios que apuntaron al accionar de Meta. De hecho, la agrupaci\u00f3n ha contratado al mismo abogado que aquella investigadora.<\/p>\n

\n
\"OpenAI,<\/picture><\/div>
\n
OpenAI, el creador de ChatGPT, en la mira.Por:\u00a0REUTERS<\/b><\/span><\/div>\n<\/figcaption><\/figure>\n

Retomando el caso de OpenAI, el grupo de denunciantes es encabezado por\u00a0Daniel Kokotajlo<\/b>, que en el pasado integr\u00f3 la divisi\u00f3n de gobernanza en la organizaci\u00f3n detr\u00e1s de ChatGPT. Seg\u00fan coment\u00f3, ellos est\u00e1n \u201ccorriendo en forma desenfrenada para ser los primeros\u201d en desarrollar una\u00a0AGI, en referencia a la inteligencia artificial general, una variante de estas tecnolog\u00edas con capacidades superlativas y similares (m\u00e1s todav\u00eda) a la de los humanos. De acuerdo a Kokotajlo,\u00a0los liderados por Altman no toman los recaudos necesarios para prevenir los riesgos potenciales\u00a0<\/b>asociados al uso de estos avances.<\/p>\n

Adem\u00e1s, reclaman a las organizaciones y empresas del sector, incluyendo a OpenAI, que no se silencien las voces que reclaman medidas de seguridad para estos sistemas. \u201cExigimos que la empresa no tome represalias contra empleados actuales y anteriores<\/b>\u00a0que comparten p\u00fablicamente informaci\u00f3n confidencial relacionada con riesgos despu\u00e9s de que otros procesos hayan fallado\u201d, indican en su texto, que puede consultarse completo ac\u00e1 (en ingl\u00e9s).<\/p>\n

\n
\"La<\/picture><\/div>
\n
La carta que apunta contra OpenAI tambi\u00e9n cuenta con la firma de los \u00abpadres de la inteligencia artificial\u00bb.Por:\u00a0REUTERS<\/b><\/span><\/div>\n<\/figcaption><\/figure>\n

Adem\u00e1s de las firmas de empleados actuales de OpenAI, la carta tiene la r\u00fabrica de figuras con reputaci\u00f3n en este campo, entre ellos\u00a0Yoshua Bengio y Geoffrey Hinton, conocidos como los \u201cpadres de la inteligencia artificial\u201d<\/b>.<\/p>\n

Tal como se\u00f1ala la publicaci\u00f3n\u00a0The Verge<\/i>, la carta con las denuncias se da a conocer luego de que dos investigadores de Open AI, Jan Leike e Ilya Sutskever, abandonen sus cargos en el equipo de investigaci\u00f3n se\u00f1alando problem\u00e1ticas similares.<\/p>\n

La defensa de OpenAI<\/h2>\n

\u201cEstamos orgullosos de nuestros antecedentes a la hora de proporcionar los sistemas de IA m\u00e1s capaces y seguros<\/b>, y creemos en nuestro enfoque cient\u00edfico para abordar los riesgos\u201d, se\u00f1al\u00f3 una vocera de OpenAI en respuesta a la carta. \u201cCoincidimos en que el debate riguroso es crucial dado el significado de esta tecnolog\u00eda, y continuaremos colaborando con gobiernos, sociedad civil y otras comunidades en todo el mundo\u201d, concluy\u00f3.<\/p>\n

Recientemente, una exmiembro de OpenAI sac\u00f3 m\u00e1s trapitos al sol. Tal como repasamos en\u00a0TN TEcno<\/b>, Helen Toner, que integr\u00f3 la junta directiva del grupo, apunt\u00f3 contra Altman y revel\u00f3 detalles hasta ahora in\u00e9ditos acerca de su\u00a0destituci\u00f3n en noviembre de 2023, cuando fue apartado de su cargo durante un per\u00edodo breve y tumultuoso. Las acusaciones de Toner fueron de alto calibre: habl\u00f3 de un ambiente de trabajo \u201ct\u00f3xico\u201d, de \u201cabusos psicol\u00f3gicos\u201d y de maniobras de ocultamiento por parte del actual director ejecutivo.<\/p>\n","protected":false},"excerpt":{"rendered":"Integrantes del grupo apuntan al CEO, Sam Altman, y aseguran que se ha priorizado la ganancia por sobre…\n","protected":false},"author":1,"featured_media":19895,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"csco_singular_sidebar":"","csco_page_header_type":"","csco_appearance_grid":"","csco_page_load_nextpost":"","csco_post_video_location":[],"csco_post_video_location_hash":"","csco_post_video_url":"","csco_post_video_bg_start_time":0,"csco_post_video_bg_end_time":0,"footnotes":""},"categories":[11,16],"tags":[],"class_list":["post-19899","post","type-post","status-publish","format-standard","has-post-thumbnail","category-actualidad","category-tecnologia","cs-entry","cs-video-wrap"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/19899","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=19899"}],"version-history":[{"count":1,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/19899\/revisions"}],"predecessor-version":[{"id":19900,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/19899\/revisions\/19900"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/media\/19895"}],"wp:attachment":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=19899"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=19899"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=19899"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}