Una demanda colectiva apuntó a la app SafeRent, que generó perfiles en función de ingresos y etnias de los aspirantes a un alquiler.
Los sistemas de Inteligencia Artificial han evolucionado y con ello traído numerosas funciones y beneficios, aunque en ocasiones hacen estragos. En muchos casos, según hemos visto anteriormente, exhiben preocupantes sesgos. Ocurre que, a fin de cuentas, no hacen más que replicar los comportamientos y visiones de aquellas personas que los desarrollan.
Un caso reciente en Estados Unidos profundiza esta problemática, sancionando a una firma que usó algoritmos en el sector inmobiliario. ¿Qué ocurrió? Una aplicación que usaba IA para encontrar al “inquilino ideal”, denominada SafeRent, fue demandada y multada por prácticas discriminatorias.
Sancionan a una app cuya IA discriminó a inquilinos
Una demanda colectiva presentada en el año 2022 acusó a la aplicación SafeRent de prácticas discriminatorias a través de su algoritmo que calificaba a los interesados en alquilar según sus ingresos y etnias, además de por los historiales crediticios. Ese método basado en IA, se indicó en la queja judicial, perjudicó especialmente a las personas negras e hispanas.
Según informó Bloomberg Law, el pedido de los demandantes fue aprobado por la jueza federal Angel Kelley, amparándose en la Ley de Vivienda que rige en Massachusetts, Estados Unidos. En este marco, la compañía que gestiona esa herramienta acordó pagar una multa de 2.3 millones de dólares. Además, deberá dejar de usar ese sistema de puntuaciones.
La resolución de la jueza procura “reparar parte del daño causado a los usuarios que enfrentaron barreras injustas para acceder a una vivienda”. De acuerdo a la fuente mencionada, si bien SafeRent argumentó que sus prácticas se ajustan a las normativas vigentes, finalmente decidieron rubricar el acuerdo y pagar la sanción a fin de evitar mayores gastos legales.
En un comunicado, la empresa afirmó que, si bien “sigue creyendo que las puntuaciones cumplen con todas las leyes aplicables, los litigios son costosos y requieren mucho tiempo”.
Siguiendo a la publicación Genbeta, esta no es la primera vez que en Estados Unidos está bajo escrutinio un algoritmo desarrollado para el sector inmobiliario. En agosto, el Departamento de Justicia de aquel país (DOJ, por sus siglas en inglés) demandó a la plataforma RealPage por inconsistencias en su sistema automatizado para fijar precios, acusándola de inflar precios en forma artificial.
