Facebook ofrece disculpas luego de que su IA identificara como “primates” a dos personas de color.

“Como hemos dicho, aunque hemos realizado mejoras en nuestra IA, sabemos que no es perfecta y tenemos más avances que hacer. Pedimos disculpas a todos los que hayan visto estas recomendaciones ofensivas”, indicó en un comunicado Dani Lever, portavoz de la compañía

Sin embargo, éstas problemáticas no son las primeras en su tipo, pues se han presentado anteriormente casos donde la inteligencia artificial ha tenido inconvenientes de este tipo en plataformas diferentes a Facebook. Por ejemplo, las coincidencias de reconocimiento facial falsas llevaron al injusto arresto de dos hombres negros el año pasado en Detroit. En 2015, Google Photos etiquetó las fotos de personas afroamericanas como “gorilas” . Además, Wired descubrió años más tarde que la solución de la compañía fue censurar la palabra “gorila” de las búsquedas y las etiquetas de imágenes, en vez de perfeccionar su algoritmo.

Hace unos meses, Facebook compartió un conjunto de datos que creó con la comunidad de inteligencia artificial. Este trabajo contenía más de 40.000 videos de 3.000 actores pagos que la red social usó para enseñar a los sistemas de IA cómo lucen los diferentes tonos de piel de las personas en diferentes condiciones de iluminación. Claramente no fue suficiente para resolver por completo el sesgo de IA para Facebook, ya que sigue teniendo graves problemas de reconocimiento. Esto demuestra aún más que la comunidad de IA todavía tiene mucho trabajo por delante.