xAI anunció los modelos Grok-2 y Grok-2 mini, que suma la capacidad para crear contenido visual a partir de texto. El primer despliegue profundizó discusiones y señalamientos.
No alcanzan los dedos de una mano para contar el número de empresas que lidera Elon Musk. Una de ellas, la más reciente, es xAI, que se aboca a los desarrollos basados en inteligencia artificial y, en tanto, compite con OpenAI, Google y Meta, entre otros. Y pretende hacerlo con fuerza, en función de una serie de novedades recién salidas del horno.
¿Cuál es la primicia? xAI acaba de lanzar los nuevos modelos de lenguaje Grok-2 y Grok-2 mini, que sustentan al chatbot. El paso clave: ahora pueden generar imágenes a partir de texto, tal como lo hacen otros sistemas ya conocidos, entre ellos DALL-E, Meta AI y Midjourney. En este contexto, hay una fuerte polémica debido al contenido que crea Grok. Ocurre que admite la inclusión de personas famosas en las fotos, profundizando problemáticas como la difamación a través de las deepfakes.
Grok se actualiza: 3 detalles de las nuevas capacidades del modelo de xAI
- El lanzamiento de Grok-2 y Grok-2 mini es exclusivo para los usuarios suscriptos a X Premium, la versión paga de la red social antes conocida como Twitter.
- Desde xAI señalaron que el nuevo modelo (Grok-2) supera a su antecesor y que también tiene un mejor rendimiento que GPT-4 Turbo de OpenAI en áreas como razonamiento, comprensión lectora, ciencias, matemáticas y programación.
- Por su parte, indicaron que Grok-2 mini iguala esas capacidades, aunque en un formato más reducido. En criollo, resigna algunas funciones y/o datos para operar con mayor velocidad de respuesta.
Grok-2 se lanza al fangoso terreno de la generación de imágenes
Tal como señalamos, ambos modelos tienen como principal novedad la capacidad para generar imágenes, también hiperrealistas. Para desprevenidos, la magia ocurre del siguiente modo: el usuario escribe su pedido y el sistema arroja el resultado. Por ejemplo, igual que en DALL-E y afines, es posible pedir que cree un dibujo que muestre una bola de cristal con la sigla “IA” en su interior. Las opciones son tantas como la capacidad de imaginación de las personas.
Aún no se informó si el uso de esa herramienta en Grok-2 tendrá limitaciones, por caso una cantidad máxima de imágenes en determinado período de tiempo. Tampoco se informó si los resultados del generador incluirán una indicación para explicitar su carácter sintético. En este punto, se profundiza un debate que ha recrudecido conforme circulan los contenidos elaborados con IA.
La publicación The Verge recoge numerosos casos de usos indebidos del generador de imágenes de xAI, en los que aparecen celebridades y figuras de la política en situaciones que nunca protagonizaron. El problema —uno de los tantos— es que esos contenidos tienen un alto grado de realismo y podrían derivar en desinformación y difamación.
Entre los ejemplos que menciona la fuente aparece una imagen en la que Bill Gates inhala cocaína, una en la que Donald Trump estrecha su mano con un soldado nazi, y otra en la que Barack Obama sostiene un cuchillo sobre el cuello de Joe Biden.
El principal inconveniente radica en el siguiente punto: ¿la firma de Elon Musk está dispuesta a frenar esos usos? Cabe recordar que sistemas similares, entre ellos el mencionado DALL-E, prohíben la inclusión de personas famosas en los prompts —las instrucciones, en la jerga de la IA—, precisamente para evitar difamaciones y frenar a la desinformación que podrían derivar de esos contenidos.
“Soy cauteloso a la hora de crear imágenes que puedan infringir derechos de autor o marcas registradas existentes. Esto incluye personajes conocidos, logotipos o cualquier contenido que pueda considerarse propiedad intelectual sin un elemento transformador”, señalan desde xAI. Agregan: “No generaré imágenes que puedan usarse para engañar o dañar a otros, como deepfakes destinados a engañar o imágenes que puedan provocar daños en el mundo real”. No obstante, en las redes sociales ya vimos que no cumple con esas promesas.
Siguiendo el repaso de Wired, a pesar de los señalamientos, xAI comentó que seguirá trabajando para “desarrollar innovaciones cada vez más impactantes para el futuro de la humanidad”. En ese camino, sin dudas deberá ajustar tuercas para no agravar las problemáticas que ya conocemos en la era de la IA generativa y, además, ajustarse a las regulaciones que ya se aplican en algunas regiones del mundo.
