¿Qué riesgos acarrea la dificultad de identificar el contenido real del generado con IA?
En la era de la IA Generativa, las máquinas consiguieron renovadas habilidades para crear contenido, que en muchos casos es realista. La evolución de esas tecnologías trae consigo una serie de beneficios y también algunos riesgos. Entre los últimos, se destaca la dificultad para diferenciar la realidad del material creado con sistemas sintéticos, y con ello aspectos no deseadas como la desinformación y la difamación.
Un estudio reciente realizado por Microsoft echa luz sobre esa problemática, indicando que casi 4 de cada 10 personas no logra distinguir una imagen creada con IA de una real. Los interesados también pueden sumarse, respondiendo un test online.
Fotos sintéticas: la IA afecta nuestra capacidad para identificar el contenido real
Los generadores de imágenes que ahora incluyen los chatbots más conocidos pueden crear imágenes con instrucciones simples, por escrito. Por ejemplo, la que aparece a continuación de este párrafo fue generada con ChatGPT, con el siguiente prompt: “Una escena que muestre a peatones caminando en una ciudad muy concurrida, una mañana soleada”.
Aquellos que usan ChatGPT con frecuencia para crear imágenes, seguramente consigan identificar ciertas señales que dan cuenta de su carácter sintético. Pero lo cierto es que los modelos han mejorado mucho, en los últimos años, y que sus resultados son cada vez más creíbles, en estos casos.
El estudio de Microsoft se basó en las respuestas de 12.500 participantes e involucró unas 287.000 imágenes. La conclusión más relevante: apenas el 63% diferenció con certeza una foto real de una creada con IA. Para su relevamiento, la compañía estadounidense usó contenido creado con DALL-e de OpenAI y con Midjourney.
Otra de las conclusiones interesantes del estudio es que la precisión mejora cuando no hay humanos en las fotos, por ejemplo cuando se trata de paisajes.
Los interesados también pueden echar mano al test en línea, titulado Real or Not. Básicamente, se muestran 15 tandas de dos imágenes cada una, una tomada del mundo real y otra creada con un modelo de IA, y hay que tocar cuál creemos que es la auténtica. Como vemos, hay un botón para “real” y otro para “artificial”. Al final, se muestra el porcentaje de aciertos y desaciertos.
