Cambios de última hora en los términos de uso del chatbot generan polémica por una eventual vigilancia a los usuarios. ¿Qué alega la organización especializada en Inteligencia Artificial?
Una serie de cambios recientes en los términos y condiciones de ChatGPT permiten a OpenAI, la organización responsable del chatbot, compartir conversaciones de los usuarios con las autoridades, en caso de detectar amenazas a la seguridad o posibles daños. La organización especializada en IA informó estas modificaciones en una entrada de blog que encendió la polémica entre individuos y especialistas en privacidad.
“Cuando detectamos usuarios que están planeando dañar a otros, enrutamos sus conversaciones a flujos especializados donde son revisadas por un equipo reducido entrenado en nuestras políticas de uso, cuyos miembros están autorizados para tomar medidas que incluyen la prohibición de cuentas. Si los revisores humanos determinan que un caso implica una amenaza inminente de daño grave hacia terceros, podríamos derivarlo a las autoridades policiales”, explican desde OpenAI en un artículo que se enfoca en el tratamiento de la salud mental de los usuarios y que, además, aborda otros escenarios.
Esa práctica no es una sorpresa en la escena digital. En muchos casos, incluso en las aplicaciones que cuentan con cifrado o encriptación de extremo a extremo, en caso de recibir una orden por parte de autoridades deben abrir los candados para colaborar en posibles investigaciones. El dato clave, en este caso, es la mención de la propia organización estadounidense respecto a una revisión previa por parte de sus equipos, antes de cualquier tipo de pedido.
¿En qué casos OpenAI puede entregar tus conversaciones con ChatGPT a las autoridades?
“Podemos compartir tu información personal con autoridades gubernamentales o de otros terceros si es requerido por la ley o en buena fe (…) para detectar o prevenir fraude u otra actividad ilegal; para proteger la seguridad, integridad y confianza de nuestros productos, empleados, usuarios o el público, o para proteger contra responsabilidad legal”, se lee en las políticas de uso de ChatGPT.
Siguiendo a Futurism, el grupo que dirige Sam Altman no especificó las acciones que seguirá en esos casos.
Los cambios llegan tras una demanda que acusó a ChatGPT por el suicidio de un adolescente
Es posible que estas modificaciones en los términos de uso del chatbot sean una respuesta a casos recientes en los que ChatGPT fue acusado de brindar consejos dañinos a algunos usuarios. Una de las demandas tuvo un alto grado de visibilidad, en la que los padres de un adolescente de 16 años acusaron a la organización de IA por la muerte de su hijo, que habría recibido recomendaciones del chatbot para suicidarse.
La presentación ante la justicia alegó que “ChatGPT ayudó activamente (a la víctima) a explorar métodos de suicidio”, por lo que acusa a OpenAI de homicidio culposo. Los demandantes señalaron que ChatGPT “no interrumpió” ninguna de las sesiones en las que se habló con el adolescente ni inició ningún protocolo de emergencia, a pesar de reconocer el intento de suicidio de Adam.
“Lo que este caso pondrá en tela de juicio es hasta qué punto OpenAI y Sam Altman se apresuraron a comercializar la entonces más reciente versión de ChatGPT, a pesar de los evidentes problemas de seguridad”, dijo el abogado de la familia.
