Miles de interacciones en Grok son accesibles a través de simples búsquedas en Google.
Un gran número de conversaciones privadas con el chatbot Grok está expuesto en la Web, con una simple búsqueda en motores como Google o Bing, según un informe de Forbes.
¿En qué consiste esta falla? De acuerdo con la fuente, cada vez que un usuario toca el botón “Compartir” en una charla con la IA disponible en la red social X, se crea una URL única para enviarla a través de redes sociales, aplicaciones de mensajería, SMS o correo electrónico. El problema radica en que esos enlaces son indexados por los buscadores y, en tanto, permite que terceros puedan verlos.
Grok deja al desnudo “los deseos menos respetables de los usuarios”
La publicación TechCrunch señala que el error en el chatbot de Elon Musk —dueño de X y de la división abocada al desarrollo de Inteligencia Artificial, xAI— permite espiar las conversaciones de los usuarios y, en muchos casos, sus “deseos menos respetables”.
Tal como ocurrió cuando los sistemas de OpenAI y Meta tuvieron el mismo desliz, quedan al descubierto preguntas sobre cómo preparar drogas ilícitas, conversaciones subidas de tono con avatares de IA y consultas para aprender a hackear billeteras electrónicas, entre otras charlas que los usuarios desearían mantener bajo reserva.
Una filtración que no solo “desnuda” a los usuarios: también expone al chatbot Grok
Si bien los términos y condiciones de la IA de la red social X prohíben el uso del bot conversacional para “promover daños graves”; el sistema respondió consultas y dio instrucciones sobre asuntos como la fabricación de explosivos y enumeró métodos de suicidio, revela la fuente. Incluso detalló un plan para asesinar a Elon Musk.
Al momento de la publicación de este repaso, xAI no respondió la solicitud de comentarios.
Grok, envuelto en polémicas
Recientemente, Grok protagonizó una polémica intensa tras responder a las consultas con comentarios antisemitas y elogios al dictador Adolf Hitler. Si bien no se ha confirmado, se especula que la renuncia de Linda Yaccarino a la dirección de X se debió, en parte, a las inconsistencias en el chatbot.
Luego, xAI anunció novedades en Grok, incluyendo un cuestionado “modo picante” que permite crear avatares no aptos para menores de edad. La propuesta pronto generó polémica: un grupo de organizaciones de protección al consumidor en Estados Unidos exigió una investigación urgente tras el despliegue de su controvertido “modo spicy”.
El modelo “genera videos de desnudos a partir de imágenes, que pueden utilizarse para crear fotos que parecen de personas reales”, señalaron. “Esto puede tener consecuencias perjudiciales para las personas representadas y para los usuarios menores de edad”, agregaron los denunciantes.
Los firmantes también manifestaron su preocupación por el hecho de que lo único que impide que los menores usen el “modo picante” para generar imágenes sexuales es una ventana emergente que pide indicar la edad y, en tanto, es fácil de engañar.
