Na tym zdjęciu osoba po lewej stronie jest prawdziwa, a osoba po prawej została wygenerowana przez sztuczną inteligencję. Ich gałki oczne są przedstawione pod twarzami. Odbicia w gałkach ocznych są spójne w przypadku prawdziwej osoby, ale nieprawidłowe (z fizycznego punktu widzenia) w przypadku osoby fałszywej. Źródło: Adejumoke Owolabi
Wykorzystując metody astronomiczne do analizy odbić oka, badacze mogą potencjalnie wykryć fałszywe obrazy, chociaż technika ta wiąże się z pewnym ryzykiem niedokładności.
W epoce, w której każdy może tworzyć sztuczna inteligencja (AI) coraz ważniejsza staje się zdolność wykrywania fałszywych zdjęć, zwłaszcza fałszywych ludzi. Naukowcy twierdzą, że oczy mogą być kluczem do odróżnienia deepfakes od prawdziwych obrazów.
Wykrywanie Deepfakes poprzez analizę gałki ocznej
Nowe badania zaprezentowane na Krajowym Spotkaniu Astronomicznym Królewskiego Towarzystwa Astronomicznego wskazują, że deepfakes można zidentyfikować poprzez analizę odbić w ludzkich oczach, podobnie jak astronomowie badają zdjęcia galaktyk. Badanie prowadzone przez studenta studiów magisterskich na Uniwersytecie w Hull, Adejumoke Owolabi, skupia się na spójności odbić światła w każdej gałce ocznej. Rozbieżności w tych odbiciach często wskazują na fałszywy obraz.
Seria głęboko fałszywych oczu pokazujących niespójne odbicia w każdym oku. Źródło: Adejumoke Owolabi
Techniki astronomiczne w wykrywaniu deepfake
„Odbicia w gałkach ocznych są spójne w przypadku prawdziwej osoby, ale nieprawidłowe (z fizycznego punktu widzenia) w przypadku fałszywej osoby” – powiedział Kevin Pimbblet, profesor astrofizyki i dyrektor Centrum Doskonałości w zakresie analizy danych, sztucznej inteligencji i Modeling na Uniwersytecie w Hull.
Naukowcy przeanalizowali odbicia światła w gałkach ocznych ludzi na obrazach rzeczywistych i wygenerowanych przez sztuczną inteligencję. Następnie zastosowali metody zwykle stosowane w astronomii do ilościowego określenia odbić i sprawdzili zgodność między odbiciami lewej i prawej gałki ocznej.
Seria prawdziwych oczu wykazujących w dużej mierze spójne odbicia w obu oczach. Źródło: Adejumoke Owolabi
Pomiar niespójności i implikacji
Fałszywym obrazom często brakuje spójności w odbiciach między każdym okiem, podczas gdy prawdziwe obrazy zazwyczaj pokazują te same odbicia w obu oczach.
„Aby zmierzyć kształty galaktyk, analizujemy, czy są one centralnie zwarte, czy są symetryczne i jak gładkie są. Analizujemy rozkład światła” – powiedział Pimbblet. „Wykrywamy odbicia w sposób zautomatyzowany i sprawdzamy ich cechy morfologiczne w CAS [concentration, asymmetry, smoothness] i wskaźniki Giniego służące do porównania podobieństwa między lewą i prawą gałką oczną.
„Wyniki pokazują, że deepfakes różnią się między sobą pewnymi cechami.”
Współczynnik Giniego jest zwykle używany do pomiaru rozkładu światła na obrazie galaktyki pomiędzy jego pikselami. Pomiaru tego dokonuje się poprzez uporządkowanie pikseli tworzących obraz galaktyki w kolejności rosnącej według strumienia, a następnie porównanie wyniku z tym, czego można by się spodziewać po idealnie równym rozkładzie strumienia. Wartość Giniego wynosząca 0 to galaktyka, w której światło jest równomiernie rozłożone we wszystkich pikselach obrazu, natomiast wartość Giniego wynosząca 1 to galaktyka, w której całe światło jest skupione w pojedynczym pikselu.
Zespół przetestował także parametry CAS, narzędzie pierwotnie opracowane przez astronomów do pomiaru rozkładu światła w galaktykach w celu określenia ich morfologii, ale stwierdził, że nie jest ono skutecznym predyktorem sztucznych oczu.
„Należy pamiętać, że nie jest to skuteczny sposób na wykrycie fałszywych obrazów” – dodał Pimbblet. „Są fałszywie pozytywne i fałszywie negatywne wyniki; wszystkiego nie ogarnie. Jednak ta metoda zapewnia nam podstawę, plan ataku, w wyścigu zbrojeń mającym na celu wykrywanie deepfakes”.
