Kate Ruane, dyrektor projektu wolności wypowiedzi Centrum Demokracji i Technologii, twierdzi, że większość głównych platform technologicznych posiada obecnie zasady zabraniające bezsensownej dystrybucji intymnych zdjęć, a wiele z największych uzgadnianie zasad zwalczania deepfakes. „Powiedziałabym, że tak naprawdę nie jest jasne, czy tworzenie lub rozpowszechnianie intymnego wizerunku bez zgody jest zabronione na platformie” – mówi Ruane o Warunki korzystania z usługi Telegramktóre są mniej szczegółowe niż w przypadku innych głównych platform technologicznych.
Podejście Telegramu do usuwania szkodliwych treści było od dawna krytykowane przez grupy społeczeństwa obywatelskiego, przy czym na platformie od dawna gościli oszuści, grupy skrajnie prawicowe i treści związane z terroryzmem. Ponieważ w sierpniu dyrektor generalny i założyciel Telegramu, Pavel Durov, został aresztowany we Francji i postawiony w stan oskarżenia w związku z szeregiem potencjalnych przestępstw, Telegram zaczął wprowadzać pewne zmiany w swoich warunkach świadczenia usług i udostępniać dane organom ścigania. Firma nie odpowiedziała na pytania WIRED dotyczące tego, czy wyraźnie zabrania jawnych deepfakes.
Dokonaj krzywdy
Ajder, badacz, który cztery lata temu odkrył boty deepfake na Telegramie, twierdzi, że aplikacja ta jest wyjątkowo narażona na nadużycia typu deepfake. „Telegram zapewnia funkcję wyszukiwania, dzięki czemu pozwala identyfikować społeczności, czaty i boty” – mówi Ajder. „Zapewnia funkcjonalność hostingu botów, więc jest to miejsce, które zapewnia skuteczne narzędzia. Jest to także miejsce, w którym możesz się tym podzielić i faktycznie wyrządzić krzywdę, jeśli chodzi o efekt końcowy.
Pod koniec września kilka kanałów deepfake zaczęło publikować informacje, że Telegram usunął swoje boty. Nie jest jasne, co było przyczyną usunięcia. 30 września kanał mający 295 000 subskrybentów opublikował informację, że Telegram „zbanował” swoje boty, ale udostępnił użytkownikom nowy link do bota. (Kanał został usunięty po tym, jak WIRED wysłał pytania do Telegramu.)
„Jedną z rzeczy, która naprawdę niepokoi w aplikacjach takich jak Telegram, jest to, że tak trudno je śledzić i monitorować, szczególnie z perspektywy osób, które przeżyły” – mówi Elena Michael, współzałożycielka i dyrektorka #NotYourPorn, grupy kampanii działającej na rzecz ochrony ludzi przed wykorzystywaniem seksualnym opartym na wizerunkach.
Michael twierdzi, że z Telegramem „niezwykle trudno” omawiać kwestie bezpieczeństwa, zauważa jednak, że w ostatnich latach firma poczyniła pewne postępy. Uważa jednak, że firma powinna bardziej aktywnie moderować i filtrować treści.
„Wyobraźcie sobie, że jesteście ocalałymi, którzy muszą to zrobić sami, z pewnością ciężar nie powinien spoczywać na jednej osobie” – mówi Michael. „Z pewnością ciężar wprowadzenia czegoś, co będzie proaktywne, a nie reaktywne, powinien spoczywać na firmie”.
