NBC News<\/i>, por Kat Tenbarge: Los v\u00eddeos pornogr\u00e1ficos editados digitalmente con los rostros de cientos de mujeres inconscientes est\u00e1n atrayendo a decenas de millones de visitantes en sitios web, uno de los cuales puede encontrarse en la parte superior de los resultados de b\u00fasqueda de Google. <\/p>\n
Los creadores de los v\u00eddeos cobran desde 5 d\u00f3lares por descargar miles de clips con los rostros de famosas, y aceptan pagos mediante Visa, MasterCard y criptomonedas.<\/p>\n
Aunque este tipo de v\u00eddeos, a menudo denominados deep fakes, existen en Internet desde hace a\u00f1os, los avances en inteligencia artificial y la creciente disponibilidad de la tecnolog\u00eda han hecho m\u00e1s f\u00e1cil -y lucrativo- crear material sexualmente expl\u00edcito no consentido.<\/p>\n
Un an\u00e1lisis de NBC News de dos de los mayores sitios web que alojan v\u00eddeos de deep fakes sexualmente expl\u00edcitos descubri\u00f3 que eran f\u00e1cilmente accesibles a trav\u00e9s de Google y que los creadores de los sitios web tambi\u00e9n utilizaban la plataforma de chat en l\u00ednea Discord para anunciar v\u00eddeos a la venta y la creaci\u00f3n de v\u00eddeos personalizados.<\/p>\n
Las falsificaciones profundas se crean utilizando software de inteligencia artificial que puede tomar un v\u00eddeo existente y sustituir sin problemas la cara de una persona por la de otra, incluso reflejando las expresiones faciales. Algunos v\u00eddeos desenfadados de falsificaciones profundas de famosos se han hecho virales, pero el uso m\u00e1s com\u00fan es para v\u00eddeos sexualmente expl\u00edcitos. Seg\u00fan Sensity, una empresa con sede en \u00c1msterdam que detecta y supervisa medios sint\u00e9ticos desarrollados por IA para sectores como la banca y la tecnolog\u00eda financiera, el 96% de los v\u00eddeos falsos son de contenido sexual expl\u00edcito y est\u00e1n protagonizados por mujeres que no dieron su consentimiento para la creaci\u00f3n del contenido.<\/p>\n
La mayor\u00eda de los v\u00eddeos de deep fake son de mujeres famosas, pero ahora los creadores tambi\u00e9n se ofrecen a hacer v\u00eddeos de cualquier persona. Un creador ofreci\u00f3 en Discord hacer un deep fake de 5 minutos de una \u00abchica personal\u00bb, es decir, cualquiera con menos de 2 millones de seguidores en Instagram, por 65 d\u00f3lares. <\/p>\n
La econom\u00eda del deep fake no consentido ha permanecido en gran medida oculta, pero recientemente ha suscitado un gran inter\u00e9s despu\u00e9s de que un popular livestreamer admitiera este a\u00f1o haber visto v\u00eddeos de deep fake sexualmente expl\u00edcitos de otros livestreamers. Justo en ese momento, el tr\u00e1fico de b\u00fasqueda en Google se dispar\u00f3 para \u00abdeep fake porn\u00bb. <\/p>\n
El aumento tambi\u00e9n coincidi\u00f3 con un repunte en el n\u00famero de v\u00eddeos subidos a MrDeepFakes, uno de los sitios web m\u00e1s destacados en el mundo del deep fake porn. El sitio alberga miles de v\u00eddeos de pornograf\u00eda falsa sexualmente expl\u00edcitos que se pueden ver gratuitamente. Recibe 17 millones de visitas al mes, seg\u00fan la empresa de an\u00e1lisis web SimilarWeb. Si se busca en Google \u00abdeep fake porn\u00bb, MrDeepFakes aparece como primer resultado.<\/p>\n
En una declaraci\u00f3n a NBC News, un portavoz de Google dijo que las personas que son objeto de deep fakes pueden solicitar la eliminaci\u00f3n de p\u00e1ginas de la B\u00fasqueda de Google que incluyan \u00abpornograf\u00eda falsa involuntaria\u00bb.<\/p>\n
\u00abAdem\u00e1s, dise\u00f1amos nuestros sistemas de clasificaci\u00f3n de forma que ofrezcan informaci\u00f3n de alta calidad y eviten sorprender a los usuarios con contenidos inesperadamente nocivos o expl\u00edcitos cuando no los est\u00e1n buscando\u00bb, a\u00f1ade el comunicado. <\/p>\n
Genevieve Oh, investigadora independiente de Internet que ha seguido de cerca el auge de MrDeepFakes, afirma que las subidas de v\u00eddeos al sitio web no han dejado de aumentar. En febrero, el sitio registr\u00f3 el mayor n\u00famero de subidas hasta la fecha: m\u00e1s de 1.400.<\/p>\n
Noelle Martin, abogada y defensora legal de Australia Occidental que trabaja para concienciar sobre los abusos sexuales facilitados por la tecnolog\u00eda, afirm\u00f3 que, seg\u00fan sus conversaciones con otras supervivientes de abusos sexuales, cada vez es m\u00e1s frecuente que personas no famosas sean v\u00edctimas de este tipo de v\u00eddeos no consentidos.<\/p>\n
\u00abCada vez hay m\u00e1s gente en el punto de mira\u00bb, dijo Martin, que ella misma fue objeto de abusos sexuales fingidos. \u00abCada vez hay m\u00e1s v\u00edctimas de este tipo que son gente normal, gente corriente, que est\u00e1n en el punto de mira\u00bb.<\/p>\n
Los v\u00eddeos de MrDeepFakes no suelen durar m\u00e1s de unos minutos, y act\u00faan como avances de v\u00eddeos de deep fake mucho m\u00e1s largos, que suelen estar a la venta en otro sitio web: Fan-Topia. El sitio web se anuncia en Instagram como \u00abla plataforma de creadores de contenido para adultos mejor pagada\u00bb.<\/p>\n
Cuando los consumidores de deep fake encuentran v\u00eddeos que les gustan en MrDeepFakes, al hacer clic en los perfiles de los creadores suelen acceder a enlaces de Fan-Topia, donde pueden pagar con sus tarjetas de cr\u00e9dito el acceso a las bibliotecas de v\u00eddeos de deep fake. En la p\u00e1gina de pago de Fan-Topia, los logotipos de Visa y MasterCard aparecen junto a los campos donde los usuarios pueden introducir los datos de la tarjeta de cr\u00e9dito. Las compras se realizan a trav\u00e9s de un proveedor de servicios de pago por Internet llamado Verotel, que tiene su sede en los Pa\u00edses Bajos y se dirige a lo que denomina webmasters de \u00abalto riesgo\u00bb que gestionan servicios para adultos.<\/p>\n
Verotel no respondi\u00f3 a la solicitud de comentarios.<\/p>\n
Algunos creadores de deep fake aceptan solicitudes a trav\u00e9s de Discord, una plataforma de chat. El creador del v\u00eddeo m\u00e1s visto de MrDeepFake, seg\u00fan el contador de visitas del sitio web, ten\u00eda un perfil y una sala de chat en Discord donde los suscriptores pod\u00edan enviar mensajes directamente para hacer peticiones personalizadas con una \u00abchica personal\u00bb. Discord elimin\u00f3 el servidor por violar sus normas sobre \u00abcontenido o comportamiento que sexualiza o degrada sexualmente a otros sin su aparente consentimiento\u00bb despu\u00e9s de que NBC News pidiera comentarios.<\/p>\n
El creador no respondi\u00f3 a un mensaje enviado a trav\u00e9s de Discord. <\/p>\n
Las directrices de la comunidad de Discord proh\u00edben \u00abla coordinaci\u00f3n, participaci\u00f3n o fomento del acoso sexual\u00bb, incluida la \u00absexualizaci\u00f3n no deseada.\u00bb NBC News ha revisado otras comunidades de Discord dedicadas a crear im\u00e1genes falsas profundas sexualmente expl\u00edcitas a trav\u00e9s de un m\u00e9todo de desarrollo de IA conocido como Difusi\u00f3n Estable, una de las cuales presentaba im\u00e1genes no consentidas de celebridades y fue cerrada despu\u00e9s de que NBC News pidiera comentarios.<\/p>\n
En un comunicado, Discord dijo que proh\u00edbe expresamente \u00abla promoci\u00f3n o el intercambio de deepfakes no consensuados.\u00bb<\/p>\n
\u00abNuestro equipo de seguridad toma medidas cuando tenemos conocimiento de este contenido, incluida la eliminaci\u00f3n de contenido, la prohibici\u00f3n de usuarios y el cierre de servidores\u00bb, dice el comunicado.<\/p>\n
Adem\u00e1s de hacer v\u00eddeos, los creadores de deepfakes tambi\u00e9n venden acceso a bibliotecas con miles de v\u00eddeos por cuotas de suscripci\u00f3n tan bajas como 5 d\u00f3lares al mes. Otros son gratuitos.<\/p>\n
\u00ab\u00a1Suscr\u00edbete hoy y llena tu disco duro ma\u00f1ana!\u00bb. dice la descripci\u00f3n de Fan-Topia de un creador deep fake.<\/p>\n
Aunque Fan-Topia no se comercializa expl\u00edcitamente como un espacio para creadores de deep fakes, se ha convertido en uno de los hogares m\u00e1s populares para ellos y sus contenidos. La b\u00fasqueda de \u00abdeep fakes\u00bb y t\u00e9rminos asociados al g\u00e9nero en Fan-Topia arroj\u00f3 m\u00e1s de 100 cuentas de creadores de deep fake.<\/p>\n
Algunos de esos creadores est\u00e1n contratando. En los foros de MrDeepFake, un tabl\u00f3n de mensajes en el que creadores y consumidores pueden hacer peticiones, plantear preguntas t\u00e9cnicas y hablar sobre la tecnolog\u00eda de IA, dos populares creadores de deep fake anuncian puestos remunerados para ayudarles a crear contenidos. Ambos anuncios se publicaron la semana pasada y ofrecen criptomoneda como pago.<\/p>\n
Desde creadores de YouTube y Twitch hasta mujeres que protagonizan franquicias de gran presupuesto suelen aparecer en v\u00eddeos de deep fake en Fan-Topia y MrDeepFakes. Las dos mujeres que aparecen en m\u00e1s contenidos de MrDeepFakes, seg\u00fan la clasificaci\u00f3n del sitio web, son las actrices Emma Watson y Scarlett Johansson. Tambi\u00e9n aparecieron en una campa\u00f1a publicitaria en Facebook de contenido sexual sugerente para una aplicaci\u00f3n de intercambio de caras falsas que funcion\u00f3 durante dos d\u00edas antes de que NBC News informara sobre ello (tras la publicaci\u00f3n del art\u00edculo, Meta retir\u00f3 las campa\u00f1as publicitarias, y la aplicaci\u00f3n que aparec\u00eda en ellas fue retirada de la App Store de Apple y de Google Play).<\/p>\n
\u00abNo es una p\u00e1gina porno. Es un sitio web depredador que no se basa en el consentimiento de la gente en el sitio web real\u00bb, dijo Martin sobre MrDeepFakes. \u00abEl hecho de que se permita su funcionamiento y se conozca es una completa acusaci\u00f3n a todos los reguladores del sector, a todas las fuerzas del orden, a todo el sistema, de que se permita su existencia\u00bb.<\/p>\n
Visa y MasterCard ya han tomado medidas contra su uso como procesadores de pagos para v\u00eddeos de explotaci\u00f3n sexual, pero siguen estando disponibles para su uso en Fan-Topia. En diciembre de 2020, despu\u00e9s de que un art\u00edculo de opini\u00f3n del New York Times dijera que el material de abuso sexual infantil estaba alojado en Pornhub, las compa\u00f1\u00edas de tarjetas de cr\u00e9dito dejaron de permitir transacciones en el sitio web. Pornhub dijo que la afirmaci\u00f3n de que permit\u00eda ese material era \u00abirresponsable y flagrantemente falsa\u00bb. En agosto, las compa\u00f1\u00edas suspendieron tambi\u00e9n los pagos por anuncios en Pornhub. Pornhub proh\u00edbe las falsificaciones profundas de todo tipo.<\/p>\n
Despu\u00e9s de esa decisi\u00f3n, el CEO y presidente de Visa, Al Kelly, dijo en un comunicado que las reglas de Visa \u00abproh\u00edben expl\u00edcita e inequ\u00edvocamente el uso de nuestros productos para pagar por contenido que representa un comportamiento sexual no consensual.\u00bb<\/p>\n
Visa y MasterCard no respondieron a las solicitudes de comentarios.<\/p>\n
Otros sitios web de deep fake han encontrado diferentes modelos de beneficios. <\/p>\n
A diferencia de Fan-Topia y su modelo de muro de pago, MrDeepFakes parece generar ingresos a trav\u00e9s de anuncios y se basa en la gran audiencia que ha impulsado su posicionamiento en los resultados de b\u00fasqueda de Google. <\/p>\n
Creado en 2018, MrDeepFakes se ha enfrentado a algunos esfuerzos para cerrar su funcionamiento. Una petici\u00f3n de Change.org para retirarlo creada por la campa\u00f1a sin \u00e1nimo de lucro #MyImageMyChoice cuenta con m\u00e1s de 52.000 firmas, lo que la convierte en una de las peticiones m\u00e1s populares de la plataforma, y ha sido compartida por influencers se\u00f1alados en la plataforma.<\/p>\n
Desde 2018, cuando la tecnolog\u00eda de intercambio de rostros para consumidores entr\u00f3 en el mercado, las apps y programas utilizados para hacer falsificaciones profundas sexualmente expl\u00edcitas se han vuelto m\u00e1s refinadas y generalizadas. Decenas de apps y programas son gratuitos u ofrecen pruebas gratuitas. <\/p>\n
\u00abEn el pasado, incluso hace un par de a\u00f1os, la forma predominante en que las personas se ve\u00edan afectadas por este tipo de abuso era el intercambio no consentido de im\u00e1genes \u00edntimas\u00bb, afirma Martin. \u00abNi siquiera eran im\u00e1genes manipuladas\u00bb.<\/p>\n
Ahora, seg\u00fan Martin, las supervivientes de abusos sexuales, tanto en la red como fuera de ella, son el blanco de falsificaciones profundas. En Australia Occidental, Martin hizo campa\u00f1a con \u00e9xito para ilegalizar las falsificaciones profundas no consentidas y el abuso sexual basado en im\u00e1genes, pero, dijo, la aplicaci\u00f3n de la ley y los reguladores est\u00e1n limitados por la jurisdicci\u00f3n, porque las falsificaciones profundas se pueden hacer y publicar en l\u00ednea desde cualquier parte del mundo. <\/p>\n
En Estados Unidos, s\u00f3lo cuatro estados han aprobado leyes espec\u00edficas sobre este tipo de falsificaciones. Las v\u00edctimas se ven igualmente perjudicadas por la jurisdicci\u00f3n y porque algunas de las leyes s\u00f3lo se refieren a elecciones o a material de abusos sexuales a menores. <\/p>\n
\u00abEl consenso es que necesitamos una respuesta global y colaborativa a estos problemas\u00bb, afirm\u00f3 Martin.<\/p>\n
Conexi\u00f3n Prof\u00e9tica:
\n\u201cmas los malos hombres y los enga\u00f1adores ir\u00e1n de mal en peor, enga\u00f1ando y siendo enga\u00f1ados.\u201d 2\u00aa Timoteo 3:13.<\/p>\n