Największe firmy technologiczne, w tym Google, Apple i Discord, umożliwiają ludziom szybkie rejestrowanie się w szkodliwych witrynach „rozbierania”, które wykorzystują sztuczną inteligencję do usuwania ubrań z prawdziwych zdjęć, aby ofiary wyglądały na „nagie” bez ich zgody. Kilkanaście takich fałszywych witryn od miesięcy korzysta z przycisków logowania oferowanych przez firmy technologiczne.
Analiza WIRED wykazała, że 16 największych, tak zwanych witryn „rozbierania się i nagości” wykorzystuje infrastrukturę logowania Google, Apple, Discord, Twitter, Patreon i Line. Takie podejście pozwala ludziom łatwo tworzyć konta w witrynach deepfake – zapewniając im pozory wiarygodności – zanim zapłacą za kredyty i wygenerują obrazy.
Chociaż boty i strony internetowe tworzące bez zgody intymne obrazy kobiet i dziewcząt istnieją od lat, ich liczba wzrosła wraz z wprowadzeniem generatywnej sztucznej inteligencji. Tego rodzaju nadużycia związane z „rozbieraniem się” są niepokojące rozpowszechnionyrzekomo z nastoletnimi chłopcami tworzenie zdjęcia swoich kolegów z klasy. Krytycy twierdzą, że firmy technologiczne zbyt wolno radzą sobie ze skalą problemów, a strony internetowe pojawiają się wysoko w wynikach wyszukiwania, promujące płatne reklamy je w mediach społecznościowych, a aplikacje pojawiają się w sklepy z aplikacjami.
„To kontynuacja trendu, który Big Tech normalizuje przemoc seksualną wobec kobiet i dziewcząt” – mówi Adam Dodge, prawnik i założyciel EndTAB (Ending Technology-Enabled Abuse). „Interfejsy API logowania to wygodne narzędzia. Nigdy nie powinniśmy traktować przemocy seksualnej jako aktu rozsądku” – mówi. „Powinniśmy stawiać mury wokół dostępu do tych aplikacji, a zamiast tego udostępniać ludziom most zwodzony”.
Narzędzia do logowania przeanalizowane przez WIRED, wdrażane za pośrednictwem interfejsów API i powszechnych metod uwierzytelniania, umożliwiają ludziom korzystanie z istniejących kont w celu dołączenia do witryn deepfake. System logowania Google pojawił się na 16 stronach, Discord na 13, a Apple na sześciu. Przycisk X znajdował się na trzech stronach internetowych, a Patreon i usługa przesyłania wiadomości Line pojawiały się w tych samych dwóch witrynach.
WIRED nie nadaje nazw stronom internetowym, ponieważ umożliwiają one nadużycia. Kilka jest część szerszych sieci i jest własnością przez te same osoby lub firmy. Systemy logowania były używane pomimo firm technologicznych rozłożysto mający zasady że deweloperzy państwowi nie mogą korzystać z ich usług w sposób, który mógłby wyrządzić krzywdę, nękać lub naruszać prywatność ludzi.
Po skontaktowaniu się z WIRED rzecznicy Discorda i Apple oświadczyli, że usunęli konta programistów połączone z ich witrynami internetowymi. Google oświadczyło, że podejmie działania przeciwko programistom, jeśli uzna, że naruszono jego warunki. Patreon oświadczył, że zabrania kont umożliwiających tworzenie wulgarnych zdjęć, a Line potwierdziła, że prowadzi dochodzenie, ale nie może komentować konkretnych witryn internetowych. X nie odpowiedział na prośbę o komentarz na temat sposobu, w jaki wykorzystywane są jego systemy.
Kilka godzin po tym, jak Jud Hoffman, wiceprezes Discord ds. zaufania i bezpieczeństwa, powiedział WIRED, że zablokował stronom internetowym dostęp do interfejsów API z powodu naruszenia polityka deweloperskajedna ze stron rozbieranych, opublikowała na kanale Telegramu informację, że autoryzacja za pośrednictwem Discorda jest „tymczasowo niedostępna” i twierdzi, że próbuje przywrócić dostęp. Ta usługa rozbierania nie odpowiedziała na prośbę WIRED o komentarz na temat jej działalności.
Szybka ekspansja
Odkąd technologia deepfake pojawiła się w kierunku koniec 2017 rokuliczba intymnych filmów i zdjęć tworzonych bez zgody osób rośnie wykładniczo. Chociaż filmy są trudniejsze do wyprodukowania, powszechne stało się tworzenie obrazów za pomocą witryn i aplikacji „rozbierania” lub „nudyfikacji”.
„Musimy jasno powiedzieć, że to nie jest innowacja, to jest wykorzystywanie seksualne” – mówi David Chiu, prawnik miejski w San Francisco, który niedawno otworzył kancelarię pozew przeciwko stronom internetowym z rozbieraniem i nagością i ich twórcy. Chiu twierdzi, że 16 stron internetowych, na których koncentruje się pozew jego biura, odnotowało około 200 milionów odwiedzin tylko w ciągu pierwszych sześciu miesięcy tego roku. „Te strony internetowe zajmują się straszliwym wykorzystywaniem kobiet i dziewcząt na całym świecie. Te obrazy służą do znęcania się, poniżania i grożenia kobietom i dziewczętom” – twierdzi Chiu.
