Los videos pornográficos editados digitalmente que muestran los rostros de cientos de mujeres que no dan su consentimiento están atrayendo a decenas de millones de visitantes a los sitios web, uno de los cuales se encuentra en la parte superior de los resultados de búsqueda de Google.
Las personas que crean los videos cobran solo $ 5 por cargar miles de clips con las caras de las celebridades y aceptan pagos a través de Visa, Mastercard y criptomonedas.
Aunque tales videos, a menudo llamados deepfakes, han existido en línea durante años, los avances en inteligencia artificial y la creciente disponibilidad de tecnología han hecho que sea más fácil, y más lucrativo, producir material sexualmente explícito sin consentimiento.
Una revisión de NBC News de dos de los sitios web más grandes que alojan videos falsos profundos sexualmente explícitos descubrió que eran fácilmente accesibles a través de Google y que los creadores de los sitios web también usaban la plataforma de chat en línea Discord para anunciar los videos a la venta y la creación de videos personalizados. .
Los deepfakes se crean utilizando un software de inteligencia artificial que puede tomar videos existentes y reemplazar sin problemas la cara de una persona con las expresiones faciales de otra, incluso reflejadas. Algunos videos falsos de celebridades alegres se han vuelto virales, pero el uso más común es para videos sexualmente explícitos. Según Sensity, una empresa con sede en Ámsterdam que detecta y monitorea los medios sintéticos impulsados por IA para industrias como la banca y la tecnología financiera, el 96 % de los deepfakes son sexualmente explícitos y presentan a mujeres que no han dado su consentimiento para la creación de contenido.
La mayoría de los videos falsos son de celebridades femeninas, pero los creadores ahora también ofrecen hacer videos de cualquier persona. Un creador se ofreció en Discord para hacer un deepfake de 5 minutos de una «hija personal», es decir, cualquier persona con menos de 2 millones de seguidores en Instagram, por $ 65.
La economía de las falsificaciones profundas no consensuadas se ha mantenido en gran parte fuera de la vista, pero recientemente ha despertado un interés renovado después de que un popular transmisor en vivo admitiera este año que estaba viendo videos falsos sexualmente explícitos de otros transmisores en vivo. Justo en este momento, Tráfico de búsqueda de Google droga por «pornografía profunda».
El pico también coincidió con un aumento en la cantidad de videos subidos a MrDeepFakes, uno de los sitios web más grandes en el mundo del porno falso. El sitio web alberga miles de videos falsos profundos sexualmente explícitos que se pueden ver de forma gratuita. Recibe 17 millones de visitantes un mes, según la firma de análisis web SimilarWeb. Una búsqueda en Google de «porno falso profundo» arrojó MrDeepFakes como primer resultado.
En una declaración a NBC News, un portavoz de Google dijo que las personas que son objeto de deepfakes pueden solicitud de eliminación Páginas de búsqueda de Google que incluyen «pornografía falsa no intencional».
«Además, diseñamos fundamentalmente nuestros sistemas de clasificación para mostrar información de alta calidad y evitar sorprender a las personas con contenido dañino o inesperadamente explícito cuando no lo están buscando», continúa el comunicado.
Genevieve Oh, una investigadora independiente de Internet que ha seguido el auge de MrDeepFakes, dijo que las descargas de videos del sitio web han aumentado constantemente. En febrero, el sitio web registró la mayor cantidad de descargas hasta la fecha: más de 1400.
Noelle Martin, abogada y abogada de Australia Occidental que trabaja para crear conciencia sobre el abuso sexual facilitado por la tecnología, dijo que, según sus conversaciones con otros sobrevivientes de abuso sexual, es cada vez más común que las personas que no son celebridades sean víctimas de tales abusos. -actos consensuados. vídeos
«Cada vez más personas están siendo atacadas», dijo Martin, quien también ha sido objeto de profundos abusos sexuales. «En realidad, vamos a escuchar a muchas más víctimas de esto que son personas comunes, personas comunes, que están siendo atacadas».
Los videos en MrDeepFakes generalmente duran solo unos minutos y actúan como avances de videos falsos mucho más largos, que generalmente están disponibles para comprar en otro sitio web: Fan-Topia. El sitio web se anuncia en Instagram como «la plataforma de creación de contenido para adultos mejor pagada».
Cuando los consumidores de deepfakes encuentran videos que les gustan en MrDeepFakes, hacer clic en los perfiles de los creadores a menudo los lleva a los enlaces de Fan-Topia, donde pueden pagar para acceder a las bibliotecas de videos deepfakes con sus tarjetas de crédito. En la página de pago de Fan-Topia, los logotipos de Visa y Mastercard aparecen junto a los campos donde los usuarios pueden ingresar la información de la tarjeta de crédito. Las compras se realizan a través de un proveedor de servicios de pago por Internet llamado Verotel, que tiene su sede en los Países Bajos y se anuncia a lo que llama webmasters de «alto riesgo» que ejecutan servicios para adultos.
Verotel no respondió a una solicitud de comentarios.
Algunos creadores de deepfakes están aceptando solicitudes a través de Discord, una plataforma de chat. El creador del video más visto de MrDeepFake, según el contador de vistas del sitio web, tenía un perfil y una sala de chat en Discord donde los seguidores podían enviar mensajes directamente para hacer solicitudes personalizadas con una «chica personal». Discord eliminó el servidor por violar sus reglas con respecto al «contenido o comportamiento que sexualiza o degrada sexualmente a otros sin su consentimiento aparente» después de que NBC News solicitó un comentario.
El creador no respondió a un mensaje enviado en Discord.
Discordia Reglas de la comunidad prohibir «la coordinación, participación o fomento del acoso sexual», incluida la «sexualización no deseada». NBC News revisó otras comunidades de Discord dedicadas a crear imágenes falsas profundas sexualmente explícitas a través de un método de desarrollo de inteligencia artificial conocido como Stable Diffusion, una de las cuales presentaba imágenes no consensuadas de celebridades y se cerró después de que NBC News solicitó comentarios.
En un comunicado, Discord dijo que prohíbe expresamente «la promoción o el intercambio de falsificaciones profundas no consensuales».
“Nuestro equipo de seguridad toma medidas cuando nos damos cuenta de este contenido, incluida la eliminación de contenido, la prohibición de usuarios y el cierre de servidores”, dice el comunicado.
Además de hacer videos, los creadores de Deepfake también venden acceso a bibliotecas con miles de videos por tarifas de suscripción tan bajas como $5 por mes. Otros son gratis.
«¡Suscríbete hoy y llena tu disco duro mañana!» se lee la descripción de Fan-Topia de un creador de deepfake.
Aunque Fan-Topia no se promociona explícitamente como un espacio para creadores de deepfakes, se ha convertido en uno de los hogares más populares para ellos y su contenido. La búsqueda de «deepfakes» y términos asociados con el género en Fan-Topia arrojó más de 100 cuentas de creadores de deepfakes.
Algunos de estos creadores están contratando. En los foros de MrDeepFake, un tablero de mensajes donde los creadores y los consumidores pueden enviar solicitudes, hacer preguntas técnicas y discutir la tecnología de IA, dos creadores populares de deepfake anuncian puestos pagados para ayudarlos a crear contenido. Ambos listados se publicaron la semana pasada y ofrecen criptomonedas como forma de pago.
Desde creadores de YouTube y Twitch hasta mujeres que protagonizan franquicias de gran presupuesto, todos suelen aparecer en videos falsos en Fan-Topia y MrDeepFakes. Las dos mujeres que aparecen con más contenido en MrDeepFakes, según el ranking del sitio web, son las actrices Emma Watson y Scarlett Johansson. También aparecieron en una campaña publicitaria de Facebook sexualmente sugestiva para una aplicación de intercambio de rostros falsa que se ejecutó durante dos días antes de que NBC News informara sobre ella (después de que se publicó el artículo, Meta eliminó las campañas publicitarias y la aplicación que se presentaba allí se eliminó del Apple Tienda de aplicaciones y Google Play).
“Este no es un sitio porno. Es un sitio web depredador que no depende del consentimiento de las personas en el sitio web real”, dijo Martin sobre MrDeepFakes. «El hecho de que incluso tenga licencia para operar y se sepa es una acusación completa de todos los reguladores espaciales, todas las fuerzas del orden, todo el sistema, incluso si se permite que exista».
Visa y Mastercard ya han tomado medidas enérgicas contra su uso como procesadores de pago para videos de explotación sexual, pero siguen disponibles para su uso en Fan-Topia. En diciembre de 2020, después de un editorial del New York Times dijo que el material de abuso sexual infantil estaba alojado en Pornhub, las compañías de tarjetas de crédito dejaron de permitir transacciones en el sitio web. Pornhub dijo que la afirmación que permitió era «irresponsable y descaradamente falsa». En agosto, las empresas pagos suspendidos para anuncios en Pornhub también. pornhub prohibir las falsificaciones profundas de cualquier tipo.
Después de esta decisión, el CEO y presidente de Visa, Al Kelly dijo en un comunicado de prensa que las reglas de Visa «prohiben explícita e inequívocamente el uso de nuestros productos para pagar por contenido que represente un comportamiento sexual no consentido».
Visa y Mastercard no respondieron a las solicitudes de comentarios.
Otros sitios web falsos profundos han encontrado diferentes patrones de ganancias.
A diferencia de Fan-Topia y su modelo de pago, MrDeepFakes parece generar ingresos a través de anuncios y depende de la gran audiencia que se ha visto impulsada por su posicionamiento en los resultados de búsqueda de Google.
Establecido en 2018, MrDeepFakes ha enfrentado esfuerzos para cerrar su operación. A Petición Change.org para eliminarlo creado por la campaña #MyImageMyChoice sin fines de lucro tiene más de 52,000 firmas, lo que la convierte en una de las peticiones más populares en la plataforma, y ha sido compartida por personas influyentes específicas en la plataforma.
Desde 2018, cuando la tecnología de intercambio de rostros de los consumidores entró en el mercado, las aplicaciones y los programas utilizados para crear falsificaciones profundas sexualmente explícitas se han vuelto más refinados y generalizados. Docenas de aplicaciones y programas son gratuitos u ofrecen pruebas gratuitas.
“En el pasado, incluso hace algunos años, la forma predominante en que las personas se veían afectadas por este tipo de abuso era a través del intercambio no consentido de imágenes íntimas”, dijo Martin. «Ni siquiera eran imágenes manipuladas».
Ahora, dijo Martin, los sobrevivientes de abuso sexual, en línea y fuera de línea, han sido blanco de deepfakes. En Australia Occidental, Martin hizo campaña con éxito para prohibir las falsificaciones profundas no consentidas y el abuso sexual basado en imágenes, pero, dijo, las fuerzas del orden público y los reguladores están limitados por jurisdicción, ya que las falsificaciones profundas se pueden crear y publicar en línea desde cualquier parte del mundo.
En Estados Unidos, solo cuatro estados han aprobado legislación específica sobre deepfakes. Las víctimas también están en desventaja debido a la jurisdicción y porque algunas leyes solo se relacionan con las elecciones o la pornografía infantil.
“El consenso es que necesitamos una respuesta colaborativa global a estos problemas”, dijo Martin.