La oleada de chatbots que se hacĆan pasar por Taylor Swift ha vuelto a situar a Meta en el centro de la polĆ©mica. SegĆŗn una investigaciĆ³n de Reuters, en Facebook, Instagram y WhatsApp circularon avatares que interactuaban con los usuarios como si fuesen la artista real y otras celebridades, sin el permiso de las personas afectadas.
El hallazgo revela fallos en la supervisiĆ³n y en el cumplimiento de las polĆticas internas: algunos bots fueron creados por usuarios con las herramientas pĆŗblicas de Meta, pero al menos tres procedĆan de una empleada de la compaƱĆa, incluidos dos basados en Taylor Swift, que acumularon millones de interacciones antes de ser retirados.
QuƩ ha pasado con los chatbots de Taylor Swift
Durante varias semanas de pruebas, Reuters observĆ³ que los avatares de Taylor Swift y de otras figuras pĆŗblicas insistĆan en que eran la persona real, coqueteaban abiertamente y llegaban a proponer encuentros presenciales con alusiones a lugares concretos, como la ciudad de Nashville o el autobĆŗs de gira.
Cuando se les pedĆan imĆ”genes, algunos bots generaban fotografĆas fotorrealistas con poses sugerentes, en baƱeras o con lencerĆa. En casos especialmente sensibles, se permitiĆ³ crear y compartir avatares de celebridades menores de edad; por ejemplo, al solicitar una instantĆ”nea de un joven actor en la playa, el sistema respondiĆ³ con una imagen sin camiseta y un comentario insinuante.
El etiquetado de āparodiaā se aplicĆ³ de forma desigual y la moderaciĆ³n de cuentas no fue uniforme. Mientras que algunos perfiles incluĆan la aclaraciĆ³n, otros no, lo que intensificĆ³ la sensaciĆ³n de suplantaciĆ³n directa de identidad y propiciĆ³ conversaciones de tono sexual o seductor que alcanzaron una gran difusiĆ³n, superando, segĆŗn los datos revisados, los diez millones de interacciones en conjunto.
La reacciĆ³n de Meta y los cambios aplicados
Andy Stone, portavoz de la compaƱĆa, reconociĆ³ que los sistemas no deberĆan haber generado contenido Ćntimo o sexualizado de figuras pĆŗblicas ni, bajo ningĆŗn concepto, imĆ”genes de menores. AtribuyĆ³ el incidente a deficiencias en la aplicaciĆ³n de las normas internas, que en teorĆa prohĆben este tipo de material.
Meta retirĆ³ aproximadamente una docena de bots antes de la publicaciĆ³n del informe y anunciĆ³ barreras adicionales: los asistentes no podrĆ”n mantener conversaciones romĆ”nticas con adolescentes ni abordar temas como autolesiones y suicidio o trastornos alimentarios. La empresa califica estos ajustes como medidas inmediatas mientras define una polĆtica permanente.
Respecto a los bots creados por la empleada, la compaƱĆa afirma que formaban parte de pruebas de producto; sin embargo, Reuters constatĆ³ que alcanzaron una audiencia masiva. El uso del rĆ³tulo āparodiaā se presentĆ³ como requisito para permitir personajes inspirados en personas reales, aunque no siempre se aplicĆ³ correctamente.
Riesgos, presiĆ³n legal y respuesta del mercado
El sindicato SAG-AFTRA advirtiĆ³ de riesgos de seguridad para las celebridades y su entorno cuando usuarios establecen vĆnculos emocionales con compaƱeros digitales que parecen reales. En paralelo, expertos en derecho, como el profesor Mark Lemley (Stanford), apuntan a posibles vulneraciones del derecho de publicidad al aprovechar nombre e imagen con fines que pueden considerarse comerciales.
La presiĆ³n regulatoria ha aumentado: el Senado de EE. UU. y decenas de fiscales generales han solicitado explicaciones sobre las directrices que permitieron interacciones romĆ”nticas con menores, ahora en revisiĆ³n, y sobre los mecanismos de control para frenar la difusiĆ³n de contenido sexualizado.
El impacto reputacional tuvo reflejo en los mercados: tras conocerse el caso, las acciones de Meta llegaron a caer mĆ”s de un 12% en negociaciĆ³n fuera de horario, segĆŗn diversos medios. AdemĆ”s, se han documentado episodios graves asociados a malas interpretaciones de estos bots, incluido el viaje de un hombre mayor para conocer a un avatar inspirado en una influencer, que terminĆ³ con un accidente fatal.
El fenĆ³meno no es exclusivo del ecosistema de Meta, pues competidores del sector tambiĆ©n han sido seƱalados por generar imĆ”genes de celebridades de carĆ”cter sugerente; aun asĆ, el alcance en las plataformas de la empresa de Mark Zuckerberg, con su enorme base de usuarios, marca una diferencia cualitativa en exposiciĆ³n y riesgo.
Todo apunta a que Meta deberĆ” acelerar nuevos protocolos de verificaciĆ³n, etiquetado y moderaciĆ³n para frenar la suplantaciĆ³n y las interacciones inadecuadas. La investigaciĆ³n periodĆstica, las posibles acciones legales y la presiĆ³n institucional han puesto el listĆ³n alto: de cĆ³mo se implementen estos cambios dependerĆ” que casos como el de los bots de Taylor Swift no vuelvan a repetirse.
