{"id":23510,"date":"2025-08-27T10:23:31","date_gmt":"2025-08-27T13:23:31","guid":{"rendered":"https:\/\/cortemedia.ar\/?p=23510"},"modified":"2025-08-27T10:23:31","modified_gmt":"2025-08-27T13:23:31","slug":"demandaron-a-chatgpt-por-el-suicidio-de-su-hijo-en-california-los-polemicos-consejos-de-la-ia-bajo-la-lupa","status":"publish","type":"post","link":"https:\/\/cortemedia.ar\/?p=23510","title":{"rendered":"Demandaron a ChatGPT por el suicidio de su hijo en California: los pol\u00e9micos consejos de la IA bajo la lupa"},"content":{"rendered":"
\n
\n

Los padres del joven acusan a la compa\u00f1\u00eda OpenAI de no aplicar protocolos de seguridad y de priorizar la comercializaci\u00f3n del modelo GPT-4o.<\/h2>\n<\/div>\n<\/div>\n
\n
\n

Los\u00a0padres de un joven de 16 a\u00f1os, que se quit\u00f3 la vida tras meses de interactuar con\u00a0ChatGPT, presentaron este martes una\u00a0demanda contra OpenAI\u00a0y su due\u00f1o,\u00a0Sam Altman, por su responsabilidad en la muerte del adolescente, al supuestamente apresurarse a comercializar la\u00a0versi\u00f3n GPT-4o\u00a0a pesar de los problemas de seguridad.<\/p>\n

Matt y Maria Raine\u00a0presentaron la querella legal en el\u00a0Tribunal Superior de California en San Francisco, en nombre de su hijo,\u00a0Adam Raine, quien falleci\u00f3 en abril pasado, seg\u00fan inform\u00f3 su abogado\u00a0Jay Edelson.<\/p>\n

La presentaci\u00f3n\u00a0legal de cerca de 40 p\u00e1ginas afirma que\u00a0\u201cChatGPT ayud\u00f3 activamente a Adam a explorar m\u00e9todos de suicidio\u201d, por lo que acusa a\u00a0OpenAI, la empresa matriz de\u00a0GPT-4o, y\u00a0Altman\u00a0de homicidio culposo.<\/p>\n

Los padres alegan que\u00a0ChatGPT \u201cno interrumpi\u00f3\u201d\u00a0ninguna de la sesiones en las que se habl\u00f3 con el adolescente ni inici\u00f3 ning\u00fan\u00a0protocolo de emergencia, a pesar de reconocer el intento de suicidio de Adam.<\/p>\n

La acusaci\u00f3n contra OpenAI y Sam Altman<\/h2>\n

\u201cLo que este caso pondr\u00e1 en tela de juicio es\u00a0hasta qu\u00e9 punto OpenAI y Sam Altman se apresuraron\u00a0a comercializar la entonces m\u00e1s reciente versi\u00f3n de ChatGPT (GPT-4\u00ba), a pesar de los evidentes problemas de seguridad\u201d, se\u00f1al\u00f3 Edelson en un mensaje en X.<\/p>\n

El abogado destac\u00f3 que la\u00a0demanda busca evitar\u00a0que otra tragedia como la que viven los Raine vuelva a suceder.\u00a0\u201cLa IA nunca deber\u00eda decirle a un ni\u00f1o que no le debe la supervivencia a sus padres\u201d, a\u00f1adi\u00f3.<\/p>\n

La demanda alega que\u00a0OpenAI catapult\u00f3 la valoraci\u00f3n de la empresa de 86.000 millones de d\u00f3lares a 300.000 millones de d\u00f3lares\u00a0por adelantar el lanzamiento de\u00a0GPT-4. La\u00a0batalla legal\u00a0se suma a los crecientes cuestionamientos sobre los\u00a0chatbots\u00a0y su capacidad de influir en las personas.<\/p>\n

OpenAI y Altman\u00a0han estado en las \u00faltimas semanas en medio del\u00a0debate p\u00fablico\u00a0tras los fallos y la inexpresividad del \u00faltimo modelo de\u00a0ChatGPT, GPT-5.<\/p>\n

Seg\u00fan Altman,\u00a0GPT-3 era comparable a chatear con un estudiante de secundaria\u00a0y\u00a0GPT-4 a una conversaci\u00f3n con uno universitario, mientras que con\u00a0GPT-5\u00a0los usuarios tienen a su disposici\u00f3n\u00a0\u201cun equipo completo de expertos con doctorado, listos para ayudar\u201d.<\/p>\n

Pero los usuarios han descrito una\u00a0gran cantidad de fallos\u00a0de la nueva versi\u00f3n. Desde que se populariz\u00f3\u00a0ChatGPT\u00a0a finales de 2022, muchos usuarios han optado por usar esta\u00a0IA\u00a0para tener conversaciones banales sobre su d\u00eda a d\u00eda.<\/p>\n

Tras el lanzamiento de\u00a0GPT-5,\u00a0OpenAI retir\u00f3 sus modelos anteriores, incluyendo a\u00a0GPT-4o, que fue usado por el joven\u00a0Raine.<\/p>\n

OpenAI prometi\u00f3 cambios tras la demanda en EE.UU.<\/h3>\n

La empresa\u00a0OpenAI reconoci\u00f3 este martes que su chatbot de inteligencia artificial ChatGPT comete fallos en casos \u201csensibles\u201d\u00a0y prometi\u00f3 cambios, luego de recibir una demanda en California por la supuesta responsabilidad de su tecnolog\u00eda en el suicidio de un adolescente en Estados Unidos.<\/p>\n

En una publicaci\u00f3n en su blog titulada \u201cAyudar a la gente cuando m\u00e1s lo necesita\u201d, la compa\u00f1\u00eda indic\u00f3 que ChatGPT est\u00e1 entrenado para recomendar a los usuarios que \u201cexpresen intenci\u00f3n suicida\u201d el contacto de organizaciones de ayuda profesional. Sin embargo, reconoci\u00f3 que\u00a0\u201clos sistemas de ChatGPT se quedan cortos\u201d\u00a0y que el chatbot\u00a0\u201cno se comport\u00f3 como deb\u00eda en situaciones sensibles\u201d.<\/p>\n

OpenAI explic\u00f3 que los mecanismos de seguridad funcionan mejor en intercambios cortos, pero que pueden fallar en interacciones largas que \u201cdegradan\u201d el entrenamiento de la IA. Por eso, dijo que trabaja en que el sistema \u201ctome medidas si detecta esa\u00a0intenci\u00f3n suicida\u00a0en m\u00faltiples conversaciones\u201d.<\/p>\n

Seg\u00fan la publicaci\u00f3n,\u00a0\u201cChatGPT reconoce tambi\u00e9n cu\u00e1ndo el usuario es menor de 18 a\u00f1os para aplicarle medidas de protecci\u00f3n, pero ahora incluir\u00e1 controles parentales para que los responsables de los adolescentes sepan c\u00f3mo usan esa tecnolog\u00eda\u201d, adem\u00e1s de explorar la posibilidad de \u201cconectarlos directamente con un contacto de emergencia\u201d.<\/p>\n

La compa\u00f1\u00eda afirm\u00f3 que hasta ahora sus sistemas de \u201cmitigaci\u00f3n\u201d se hab\u00edan centrado en casos de autolesi\u00f3n, pero que\u00a0\u201cahora abarcar\u00e1n tambi\u00e9n otros de angustia emocional\u201d. En esa l\u00ednea, asegur\u00f3 que el modelo\u00a0GPT-5 ser\u00e1 actualizado para ser capaz de \u201cdesescalar\u201d situaciones de ese tipo \u201cconectando a la persona con la realidad\u201d.<\/p>\n

Por \u00faltimo, OpenAI sostuvo que estudia la opci\u00f3n de\u00a0\u201cconectar a la gente con terapistas certificados antes de que est\u00e9n en una crisis aguda\u201d, lo que implicar\u00eda crear\u00a0\u201cuna red de profesionales licenciados a los que la gente pueda llamar directamente a trav\u00e9s de ChatGPT\u201d, aunque advirti\u00f3 que esa medida llevar\u00e1 tiempo en implementarse.<\/p>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"Los padres del joven acusan a la compa\u00f1\u00eda OpenAI de no aplicar protocolos de seguridad y de priorizar…\n","protected":false},"author":1,"featured_media":23511,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"csco_singular_sidebar":"","csco_page_header_type":"","csco_appearance_grid":"","csco_page_load_nextpost":"","csco_post_video_location":[],"csco_post_video_location_hash":"","csco_post_video_url":"","csco_post_video_bg_start_time":0,"csco_post_video_bg_end_time":0,"footnotes":""},"categories":[11],"tags":[],"class_list":["post-23510","post","type-post","status-publish","format-standard","has-post-thumbnail","category-actualidad","cs-entry","cs-video-wrap"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/23510","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=23510"}],"version-history":[{"count":1,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/23510\/revisions"}],"predecessor-version":[{"id":23512,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/posts\/23510\/revisions\/23512"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=\/wp\/v2\/media\/23511"}],"wp:attachment":[{"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=23510"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=23510"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cortemedia.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=23510"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}