El filtro de belleza Bold Glamour de Tiktok preocupa a los expertos en inteligencia artificial sobre la realidad

Nov 18, 2023

Un efecto especial en tiempo real ha inundado TikTok en las últimas semanas, cincelando barbillas, rellenando labios y ofreciendo contornos de maquillaje al estilo Kardashian para cualquier persona con un teléfono inteligente. Si bien se promociona como un filtro de belleza notablemente convincente, los investigadores de IA dicen que el efecto no deja pistas sobre su presencia, lo que le otorga una capacidad sin precedentes para manipular a las personas dentro y fuera de una aplicación que ha suscitado el escrutinio de los gobiernos de todo el mundo.

Bold Glamour, que ha sido descargado más de 16 millones de veces desde su lanzamiento el mes pasado, ofrece uno de los efectos más convincentes que cualquier persona con un teléfono inteligente puede usar para crear una versión mejorada o un avatar de sí mismo en tiempo real, dicen los creadores de filtros independientes. , investigadores y tecnólogos creativos.

A diferencia de otros filtros de fotos, Bold Glamour no falla cuando hay demasiado movimiento o si una mano pasa frente a la cara del usuario. Altera las caras en tiempo real y no hay pestañas postizas sueltas. Los usuarios han estado tirando de sus mejillas y tirando de sus cejas porque no pueden creer lo que están viendo.

La portavoz de TikTok, Alexa Youssefian, se negó a hablar sobre la tecnología detrás del filtro, pero los usuarios e investigadores dicen que el filtro lee los tonos de piel de las personas, el género percibido y el color del cabello, luego determina la cantidad de maquillaje, rellenos labiales y estiramiento de la piel para aplicar para un determinado SoCal. mirada de influencer. Y la IA puede estar impulsando ese proceso.

"Parece que el filtro usó la cara de Kylie Jenner como modelo para un algoritmo de aprendizaje automático y luego mezcló su cara con la mía", dijo a The Washington Post Laura Gouillon, creadora de filtros de redes sociales.

El efecto probablemente se esté enseñando a sí mismo técnicas de maquillaje, dijo. "En filtros de belleza anteriores, se superponía una malla facial en la cara del usuario, por lo que si una mano o cabello cubría la cara, el efecto fallaba", dijo Gouillon. "Este filtro probablemente esté usando tecnología de aprendizaje automático para combinar estas características en tu rostro".

Hany Farid, profesor de ciencias de la computación en la Universidad de California en Berkeley, dijo que el filtro probablemente esté usando "IA generativa", una tecnología que estudia miles de millones de imágenes y muestras de texto, a menudo extraídas de la web, para crear nuevas imágenes o palabras. (Farid fue miembro del consejo asesor de contenido de TikTok de 2020 a 2022).

Luke Hurd, que crea los filtros de Snapchat e Instagram, tuiteó que el efecto Bold Glamour está utilizando el aprendizaje automático.

"Usan algo llamado Red Generativa Adversaria", dijo. "Toman una imagen del usuario y luego la comparan con un conjunto de datos de otras imágenes y luego vuelven a dibujar su rostro, píxel por píxel, en la salida de la transmisión de su cámara".

La accesibilidad del filtro es lo que lo distingue de los medios anteriores de manipulación visual, dijo Halsey Burgund, tecnóloga creativa residente en el Open Documentary Lab del MIT.

Cómo probar la nueva tecnología de IA de la que todo el mundo habla

"La capacidad de manipularte a ti mismo de manera creíble, y pronto a otros, en los videos se ha convertido en un producto básico [a través de este efecto], y ese es el verdadero salto", dijo. "Esta tecnología ha vivido en laboratorios, empresas y en entornos más esotéricos en la web durante un tiempo, pero ahora todos pueden hacerlo de forma gratuita y ver cómo funciona".

Los videos con Bold Glamour se pueden publicar en Internet sin una etiqueta que signifique que el usuario ha aplicado el efecto hiperrealista, y los investigadores advirtieron que será cada vez más difícil creer lo que es real en línea.

"El efecto Bold Glam es una señal de que, muy pronto, la tecnología que crea deepfakes también se puede incorporar", dijo Memo Akten, profesor de arte y diseño computacional en la Universidad de California en San Diego. "Eso no significa que la tecnología se lanzará, solo que es una señal de que se puede lanzar".

Deepfakes son videos u otros medios que usan inteligencia artificial para mostrar a las personas haciendo cosas que en realidad nunca sucedieron.

Big Tech se estaba moviendo con cautela en la IA. Luego vino ChatGPT.

Los videos de Bold Glamour en TikTok se revelan con una etiqueta directamente en el video para la transparencia del usuario, pero esa etiqueta desaparece si los videos se mueven fuera de la aplicación.

El portavoz de la compañía, Youssefian, se negó a abordar las preocupaciones sobre la etiqueta de advertencia que deja videos que se exportan a otras aplicaciones. “TikTok solo puede hablar de la experiencia de los usuarios en TikTok”, dijo.

La empresa matriz de TikTok, ByteDance, ha estado bajo escrutinio durante años debido a las preocupaciones de que la recopilación de datos de la empresa de propiedad china podría representar una amenaza para la seguridad.

Recientemente, los gobiernos de EE. UU., Canadá y otros han ordenado que los empleados federales eliminen TikTok de los dispositivos gubernamentales, citando preocupaciones sobre una posible vigilancia. Al menos 28 estados de EE. UU. han prohibido la aplicación en dispositivos gubernamentales debido a riesgos no especificados para datos sensibles y confidenciales. Un grupo bipartidista de senadores presentó el martes un proyecto de ley que otorgaría poderes al Departamento de Comercio de EE. UU. para prohibir TikTok u otras aplicaciones basadas en países extranjeros.

El miércoles, la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, dijo que la administración Biden tiene "preocupaciones" sobre la seguridad nacional en lo que respecta a ByteDance.

Aparte de las preocupaciones tecnológicas que ha planteado el filtro, Bold Glamour también puede contribuir a los sentimientos de insuficiencia y expectativas poco realistas en los usuarios, especialmente en los adolescentes y otros jóvenes, dijo Linda Charmaraman, científica investigadora sénior de Wellesley Centers for Women.

El estándar de belleza sin poros y con aerógrafo que está impulsando está lejos de la norma del mundo real sin miles de dólares en cirugía plástica y maquillaje.

"Los filtros de belleza usados ​​sin supervisión y luego internalizados por personas más jóvenes son preocupantes", dijo Charmaraman. "El filtro Bold Glam es muy realista y es menos obvio que es un filtro. Y es por eso que podría ser perjudicial para la autoestima de los usuarios más jóvenes, especialmente las mujeres".

La gente ha publicado reacciones de sorpresa sobre lo "aterrador" que es el efecto Bold Glamour; algunos dijeron que el efecto les hace parecer que deberían hacer una audición para modelar, y otros bromearon diciendo que el filtro parece tan real que debería ser ilegal. "Parezco una persona completamente diferente", escribió un usuario de TikTok.

Las aplicaciones han estado mejorando rostros y filtrando apariencias durante años, pero parecía "juguetón", dijo Akten. El efecto Bold Glamour, dijo, se siente "siniestro".

"Es un paso hacia el mundo que hemos visto en las películas de ciencia ficción donde ya no podemos decir qué es real", dijo Akten. "Como resultado de eso, ya no sabremos qué creer o en quién confiar".

Heather Kelly y Tony Romm contribuyeron a este despacho.