W maju TikTok ogłosił, że tak automatycznie oznaczaj treści wygenerowane przez sztuczną inteligencję na swojej platformie. Nie dotyczy to jednak wszystkich wersji aplikacji. A nowy raport z Mozilla Foundation i AI Forensics ustaliło, że wersja Lite-Save Data TikToka, przeznaczona dla użytkowników na biedniejszych rynkach, nie tylko nie opisuje treści generowanych przez sztuczną inteligencję, ale także brakuje jej innych, podobnych zabezpieczeń.
„Etykietowanie to bardzo ważna taktyka stosowana przez platformy, aby zapewnić jakąś formę zaufania i bezpieczeństwa” – mówi Odanga Madung, współautorka raportu i pracownik Mozilli.
Na przykład użytkownicy pełnej wersji TikTok zobaczą etykiety wskazujące, że treść ma charakter graficzny lub przedstawia niebezpieczne zachowanie. Podobnie niektóre treści na tematy takie jak wybory i zdrowie zawierają powiadomienie zachęcające użytkowników do uzyskiwania dostępu do wiarygodnych informacji za pośrednictwem „centrum zasobów” w aplikacji.
W TikTok Lite nie ma żadnej z tych poręczy. Oznacza to między innymi, że w obliczu zwodniczych treści generowanych przez sztuczną inteligencję stanowiących problem w wyborach na całym świecie, użytkownicy na biedniejszych rynkach otrzymują mniej informacji o tym, co jest fałszywe, a co prawdziwe, niż użytkownicy z bogatszych rynków.
Madung zastanawia się, dlaczego spośród wszystkich funkcji, które można wyciąć w celu optymalizacji aplikacji, firma uwzględniła te, które czynią platformę bezpieczniejszą dla użytkowników. „Nie wiemy, czy jest to wybór, czy po prostu zaniedbanie” – mówi.
„W tym raporcie jest kilka nieścisłości merytorycznych, które zasadniczo błędnie przedstawiają nasze podejście do bezpieczeństwa” – stwierdził w oświadczeniu rzecznik TikTok. „Faktem jest, że treści łamiące nasze zasady są usuwane z TikTok Lite w taki sam sposób, jak nasza główna aplikacja i oferujemy liczne funkcje bezpieczeństwa”. Firma nie chciała wskazać żadnych konkretnych nieścisłości.
Wersje Lite aplikacji od dawna są dla firm sposobem na zwiększenie udziału w rynku w obszarach, w których użytkownicy ponoszą wysokie koszty transmisji danych lub mogą sobie pozwolić jedynie na mniej zaawansowane telefony. W 2015 roku firma Meta, a następnie Facebook, uruchomiła Facebook Lite, uproszczoną wersję swojej aplikacji, która była bardziej kompatybilna z sieciami danych 2G. W tym samym roku uruchomiono także usługę Free Basics, która umożliwiła użytkownikom z krajów Globalnego Południa dostęp do platformy i niektórych innych witryn internetowych bez ponoszenia opłat za wykorzystanie danych. (Aplikacja lub usługa spełniająca te kryteria nazywana jest „oceną zerową”). W tamtym czasie projekt spotkał się z powszechną krytyką, szczególnie w Indiach, za tworzenie doświadczenia drugiej kategorii dla biedniejszych klientów.
TIK Tok wystrzelony jego wersję Lite w 2018 r. w Tajlandii i szybko rozszerzył się na inne rynki w Azji Południowo-Wschodniej, w tym w Indonezji, Malezji i Filipinach. Aplikacja, która w odróżnieniu od pełnej wersji TikToka może działać w sieciach 2G i 3G, ma obecnie ponad 1 miliard pobrań– wynika z danych sklepu Google Play. (TikTok Lite jest dostępny tylko na telefony z Androidem.)
„Większość użytkowników na Globalnym Południu to osoby o niskich dochodach i ograniczonych zasobach” – mówi Payal Arora, profesor włączających kultur sztucznej inteligencji na Uniwersytecie w Utrechcie. Wersje uproszczone aplikacji pomagają firmom pozyskać tych ludzi na pokład, co jej zdaniem jest jeszcze bardziej krytyczne niż miało to miejsce w przeszłości, ponieważ „dane są walutą na tym napędzanym sztuczną inteligencją i głodnym sztucznej inteligencji rynku”.
