Wiele treści generowanych przez sztuczną inteligencję wykorzystano do wyrażenia poparcia lub fandomu określonych kandydatów. Na przykład wygenerowany przez sztuczną inteligencję film przedstawiający Donalda Trumpa i Elona Muska tańczących do piosenki BeeGees „Stayin’ Alive” został udostępniony miliony razy w mediach społecznościowychw tym senatora Mike’a Lee, republikanina ze stanu Utah.
„Chodzi o sygnalizację społeczną. To wszystko powody, dla których ludzie dzielą się tymi rzeczami. To nie jest sztuczna inteligencja. Widzimy skutki spolaryzowanego elektoratu” – mówi Bruce Schneier, technolog interesu publicznego i wykładowca w Harvard Kennedy School. „To nie jest tak, że w naszej historii mieliśmy doskonałe wybory, a teraz nagle pojawiła się sztuczna inteligencja i wszystko to było dezinformacją”.
Ale nie przekręcaj tego – tam był wprowadzających w błąd fałszywych informacji, które rozpowszechniły się podczas tych wyborów. Na przykład na kilka dni przed wyborami w Bangladeszu deepfakes krążyły w Internecie zachęcająco zwolenników jednej z partii politycznych w kraju do bojkotu głosowania. Sam Gregory, dyrektor programowy organizacji non-profit Witness, która pomaga ludziom wykorzystywać technologię do wspierania praw człowieka i prowadzi program szybkiego reagowania dla organizacji społeczeństwa obywatelskiego i dziennikarzy, twierdzi, że jego zespół odnotował w tym roku wzrost liczby przypadków deepfakes.
„W kontekście wielokrotnych wyborów” – mówi – „istniały przykłady zarówno rzeczywiście zwodniczego, jak i mylącego wykorzystania mediów syntetycznych w formacie audio, wideo i obrazu, które zaintrygowały dziennikarzy lub których nie mogli w pełni zweryfikować lub zakwestionować. ” Pokazuje to, jego zdaniem, że obecnie stosowane narzędzia i systemy do wykrywania mediów generowanych przez sztuczną inteligencję nadal nie nadążają za tempem rozwoju tej technologii. W miejscach poza Stanami Zjednoczonymi i Europą Zachodnią te narzędzia do wykrywania są jeszcze mniej niezawodne.
„Na szczęście w większości wyborów sztuczna inteligencja w oszukańczy sposób nie była wykorzystywana na dużą skalę ani w kluczowy sposób, ale jest bardzo jasne, że istnieje luka w narzędziach wykrywania i dostępie do nich dla osób, które tego najbardziej potrzebują” – mówi Gregory. „To nie czas na samozadowolenie”.
Jego zdaniem samo istnienie mediów syntetycznych oznacza, że politycy mogą twierdzić, że prawdziwe media są fałszywe – jest to zjawisko znane jako „dywidenda kłamcy”. W sierpniuDonald Trump stwierdził, że obrazy przedstawiające duże tłumy ludzi przybywających na wiece na rzecz wiceprezydent Kamali Harris zostały wygenerowane przez sztuczną inteligencję. (Nie były). Gregory twierdzi, że z analizy wszystkich raportów przesłanych do fałszywych sił szybkiego reagowania firmy Witness wynika, że w około jednej trzeciej przypadków politycy używali sztucznej inteligencji do zaprzeczania dowodom na istnienie prawdziwego zdarzenia – wiele z nich dotyczyło rozmów, które wyciekły.
