Monumental error (por no decir otra cosa) el que ha cometido la red social con una imagen que circulaba en su plataforma. Un video publicado en Facebook en el que aparecían personas negras ha sido catalogado por la red como «primates» para sorpresa y clara indignación de la comunidad de usuarios. Un portavoz ya ha salido a la palestra para explicar lo sucedido.
¿Qué es lo que ha pasado?
Un vídeo del Daily Mail ha sido el desencadenante de esta gran polémica. El documento fue publicado por el citado medio en la plataforma y tenía una clara intención de denuncia: en él se veía cómo un hombre blanco llamaba a la policía al enfrentarse a un hombre negro en un puerto marítimo. Lo que nadie esperaba era que el mayor acto de racismo no se iba a ver en dicha grabación sino en un aviso generado por la propia Facebook.
Y es que al terminar de ver dicho vídeo, los usuarios de la red social recibieron la típica notificación automática de si querían ver más post relacionados, con el inconveniente de que lo que sugerían era el «seguir viendo videos sobre primates».
Una usuaria de Twitter se hacía eco de lo sucedido en su cuenta con una captura de pantalla en la que se veía justo lo que describimos:
https://twitter.com/tweetsbydarci/status/1433492516439932930
Las disculpas de Facebook
A pesar de que el vídeo tiene un año -fue subido por el medio británico en 2020-, ahora parece estar rodando con más visibilidad en Facebook, acompañándose al final del polémico mensaje, ya que son varios los usuarios que se han quejado de haberlo visto.
La red social no ha podido hacer otra cosa que dar la cara y emitir un comunicado disculpándose por la situación, culpa del automatismo de su inteligencia artificial:
Esto fue claramente un error inaceptable. […] Como hemos dicho, aunque hemos realizado mejoras en nuestra IA, sabemos que no es perfecta y tenemos más avances que hacer. Pedimos disculpas a cualquiera que haya visto estas recomendaciones ofensivas.
Además de estas declaraciones, Facebook asegura haber desactivado la función de etiquetado hasta que «localicen» exactamente el error y lo arreglen.
No es la primera vez que la inteligencia artificial de una gran plataforma comete un error de estas características. Como bien recuerdan en The Verge, Google también tuvo que disculparse hace unos años cuando su aplicación de fotos etiquetó a gente negra como «gorilas». Un error garrafal e insultante para una gran parte de la población que demuestra que la inteligencia artificial aún necesita importantes ajustes en sus algoritmos a la hora de identificar a las personas de color.
La Comisión Federal de Comercio de EE.UU. (FTC en sus siglas en inglés) ya advirtió que esta clase de errores por parte de una IA puede suponer la violación de ciertas leyes de protección de los usuarios, avisando a las compañías que se habían visto involucradas en problemas como este que o se hacen cargo y mejoran sus sistemas o la FTC tendrá que tomar medidas.
Independientemente de las sanciones económicas, supone un grave insulto para muchas personas que estas plataformas deberían revisar de manera urgente e inmediata.