To prawie zbyt piękne, aby mogło być prawdziwe. Lekarz, którego widziałeś w telewizji od dziesięcioleci, opowiadający się w mediach społecznościowych za nowym, rewolucyjnym produktem, o którym wielka farmacja modli się, abyś się nie dowiedział i który mógłby wyleczyć twoje dolegliwości.
Ale nie wszystko jest takie, jakim się wydaje. Oszuści coraz częściej wykorzystują technologię sztucznej inteligencji do fałszowania filmów znanych lekarzy telewizyjnych, takich jak Hilary Jones, Michael Mosley i Rangan Chatterjee, aby rozpowszechniać swoje produkty niczego niepodejrzewającego społeczeństwa w mediach społecznościowych.
Nowy raport opublikowany w prestiżowym czasopiśmie Brytyjski dziennik medyczny (BMJ) ostrzegł przed rosnącym wzrostem liczby tzw. „deepfakes”.
Deepfaking wykorzystuje sztuczną inteligencję do mapowania cyfrowego podobieństwa prawdziwego człowieka na wideo przedstawiającego ciało, które nie należy do niego.
Wykorzystywano je do tworzenia filmów z politykami, aby sprawiać wrażenie nieudolnych, a nawet do napadów na korporacje, a teraz są wykorzystywane do sprzedawania podejrzanych „lekarstwa”.
Oszuści coraz częściej wykorzystują technologię sztucznej inteligencji do fałszowania filmów znanych lekarzy telewizyjnych, takich jak Hilary Jones, Michael Moseley i Rangan Chatterjee, aby rozpowszechniać swoje produkty w mediach społecznościowych niczego niepodejrzewającym członkom społeczeństwa
Doktor Jones to tylko jeden lekarz telewizyjny, który dał się złapać na ten trend, a na początku tego roku na Facebooku pojawiło się fałszywe wideo, na którym popiera lek na nadciśnienie.
I jak sam doktor Jones wie, nie jest to jedyny przykład.
„Niektóre produkty, które są obecnie promowane przy użyciu mojego nazwiska, obejmują te, które rzekomo leczą ciśnienie krwi i cukrzycę, a także żelki konopne o nazwach takich jak Via Hemp Gummies, Bouncy Nutrition i Eco Health” – stwierdziła.
Do generowania takich klipów wykorzystano także guru zdrowia poczty, doktora Mosleya, który zmarł w zeszłym miesiącu w Grecji, oraz doktora Chatterjee, sławnego Doktora In The House.
Chociaż technologia używana do tworzenia deepfake’ów istnieje już od lat, wczesne wersje były wadliwe i często zawierały błędy związane z uszami, palcami lub niedopasowaniem dźwięku do ruchów warg osoby badanej, co ostrzegało ludzi o ich oszukańczym charakterze.
Od tego czasu poczyniono jednak ogromne postępy i chociaż badania są ograniczone, dane sugerują, że nawet połowa ludzi ma trudności z odróżnieniem ich od rzeczywistości.
Emerytowany lekarz John Cormack, który współpracował z BMJ nad raportem, opisał oszustów wykorzystujących reputację szanowanych lekarzy i reklamujących swoje produkty jako „drukowanie pieniędzy”.
„Konkluzja jest taka, że znacznie taniej jest wydawać pieniądze na tworzenie filmów wideo, niż na prowadzenie badań, opracowywanie nowych produktów i wprowadzanie ich na rynek w konwencjonalny sposób” – stwierdził.
Organy regulacyjne również wydają się bezsilne, aby zatrzymać ten trend.
Lekarze praktykujący w Wielkiej Brytanii muszą być zarejestrowani w General Medical Council, która w przypadku stwierdzenia, że lekarz naruszył standardy wymagane od personelu medycznego, może zawiesić go w pracy lub nawet całkowicie zwolnić.
Oszuści wykorzystują także głos i wizerunek guru zdrowia Mail, doktora Michaela Mosleya, który zmarł w zeszłym miesiącu w Grecji, do promowania swoich produktów
Nie mają jednak uprawnień do podejmowania działań w oparciu o fałszywe filmy przedstawiające lekarzy i chociaż podszywanie się pod lekarza jest w Wielkiej Brytanii przestępstwem, mętny świat Internetu sprawia, że śledzenie, kto ma konto, jest prawie niemożliwe, zwłaszcza jeśli mieszkają oni za granicą.
Zamiast tego lekarze tacy jak dr Jones twierdzą, że działania muszą podjąć giganci mediów społecznościowych, którzy udostępniają te treści i ostatecznie w ten sposób zarabiają pieniądze.
„To w gestii takich osób jak Meta, firmy będącej właścicielem Facebooka i Instagrama, leży powstrzymanie tego zjawiska” – powiedział.
– Ale nie mają w tym żadnego interesu, dopóki zarabiają pieniądze.
W odpowiedzi na raport BMJ rzecznik Meta powiedział: Będziemy badać przykłady wskazane przez BMJ.
„Nie zezwalamy na treści, które celowo wprowadzają w błąd lub mają na celu oszukanie innych i stale pracujemy nad poprawą wykrywania i egzekwowania zasad.
„Zachęcamy każdego, kto zobaczy treści, które mogą naruszać nasze zasady, do zgłaszania ich, abyśmy mogli zbadać sprawę i podjąć działania”.
W tej chwili lekarze tacy jak dr Jones muszą wziąć sprawy w swoje ręce.
Doktor Jones, częsty gość programów takich jak program Lorraine, zatrudnia firmę, która śledzi fałszywe treści z jego udziałem i próbuje usuwać je z Internetu.
Dodał jednak, że skala problemu wydaje się być coraz większa.
Doktor Rangan Chatterjee z filmu dokumentalnego BBC „Doktor In The House” również został wciągnięty w ten trend
„Nastąpił duży wzrost tego rodzaju działalności” – stwierdził.
„Nawet jeśli zostaną usunięte, następnego dnia po prostu pojawią się pod inną nazwą”.
W podsumowaniu raportu stwierdza się, że deepfakes są tak podstępne, ponieważ wykorzystują zaufanie ludzi i wykorzystują znajomą twarz, która w przeszłości udzielała dobrych, a czasem zmieniających życie porad zdrowotnych, aby oszukać zmartwionych pacjentów.
Osobom, które zobaczą film, który podejrzewają o fałszywkę, zaleca się najpierw dokładne zapoznanie się z nim, aby uniknąć scenariuszy „chłopiec, który płakał wilkiem”.
Jeśli nadal są podejrzliwi, spróbuj niezależnie skontaktować się z osobą, którą rzekomo przedstawia film, na przykład za pośrednictwem zweryfikowanego konta.
Jeśli nadal jesteś podejrzliwy, rozważ pozostawienie komentarza kwestionującego jego prawdziwość, aby, miejmy nadzieję, skłonić innych do podjęcia dodatkowego kroku analizy.
Użytkownicy mogą także korzystać z wbudowanych w media społecznościowe narzędzi do raportowania, aby zgłosić zarówno film, jak i osobę, która go opublikowała, w celu usunięcia go.
