Czy sztuczna inteligencja może nas wyprowadzić z teorii spiskowych?

Nowe badania opublikowane w „Science”. pokazuje, że w przypadku niektórych osób wierzących w teorie spiskowe oparta na faktach rozmowa z chatbotem sztucznej inteligencji (AI) może „wyciągnąć ich z króliczej nory”. Co więcej, wydaje się, że trzyma ich z daleka przez co najmniej dwa miesiące.

Badanie przeprowadzone przez Thomasa Costello z Massachusetts Institute of Technology wraz ze współpracownikami daje nadzieję na rozwiązanie trudnego problemu społecznego: wiary w teorie spiskowe.

Niektóre teorie spiskowe są stosunkowo nieszkodliwe, jak np wierząc, że Finlandia nie istnieje (co jest w porządku, dopóki nie spotkasz Finna). Inne teorie zmniejszają jednak zaufanie do instytucje publiczne I nauka.

Staje się to problemem, gdy teorie spiskowe przekonują ludzi, aby tego nie robili zaszczepić się albo nie podjąć działania przeciwko zmianom klimatycznym. W najbardziej skrajnym przypadku wiara w teorie spiskowe jest kojarzona z ludzie umierający.

Teorie spiskowe są „lepkie”

Pomimo negatywnych skutków teorii spiskowych, okazały się one bardzo „lepkie”. Kiedy ludzie uwierzą w teorię spiskową, zmiana zdania jest trudna.

Przyczyny tego są złożone. Wierzenia teoretyków spiskowych są związane ze społecznościamii zwolennicy teorii spiskowych często zrobione obszerne badania aby osiągnąć swoją pozycję.

Kiedy dana osoba nie ufa już nauce ani nikomu spoza swojej społeczności, trudno jest zmienić jej przekonania.

Wprowadź sztuczną inteligencję

Eksplozja generatywnej sztucznej inteligencji w sferze publicznej zwiększyła obawy, że ludzie wierzą w rzeczy, które nie są prawdą. AI to robi bardzo łatwy stworzyć wiarygodne fałszywe treści.

Nawet jeśli są stosowane w dobrej wierze, systemy sztucznej inteligencji mogą mylić fakty. (ChatGPT i inne chatboty ostrzegają nawet użytkowników, że mogą się mylić w niektórych tematach.)

Systemy sztucznej inteligencji zawierają również powszechne uprzedzenia, co oznacza, że ​​mogą promować negatywne przekonania na temat niektórych grup ludzi.

Biorąc to wszystko pod uwagę, dość zaskakujące jest to, że rozmowa z systemem znanym z generowania fałszywych wiadomości może przekonać część osób do porzucenia teorii spiskowych, a zmiana wydaje się trwała.

Jednak to nowe badanie pozostawia nas z problemem dobrych i złych wiadomości.

To wspaniale, że zidentyfikowaliśmy coś, co ma pewien wpływ na przekonania zwolenników teorii spiskowych! Ale jeśli chatboty AI dobrze radzą sobie z odwoływaniem ludzi od sztywnych, antynaukowych przekonań, co to oznacza dla prawdziwych przekonań?

Co potrafią chatboty?

Przyjrzyjmy się bliżej nowym badaniom. Badaczy ciekawiło, czy można wykorzystać argumenty oparte na faktach, aby przekonać ludzi do przekonań zwolenników teorii spiskowych.

W dwóch badaniach wzięło udział ponad 2000 uczestników, z których wszyscy rozmawiali z chatbotem AI po opisaniu teorii spiskowej, w którą wierzyli. Wszystkim uczestnikom powiedziano, że rozmawiają z chatbotem AI.

Osoby z grupy „leczonej” (60% wszystkich uczestników) rozmawiały z chatbotem spersonalizowanym pod kątem ich konkretnej teorii spiskowej i powodów, dla których w nią wierzyli. Ten chatbot próbował przekonać tych uczestników, że ich przekonania są błędne, używając argumentów opartych na faktach w ciągu trzech rund rozmowy (kolejność uczestnika i chatbota, aby porozmawiać, to runda). Druga połowa uczestników przeprowadziła ogólną dyskusję z chatbotem.

Naukowcy odkryli, że po dyskusji około 20% uczestników grupy terapeutycznej wykazywało zmniejszoną wiarę w teorie spiskowe. Kiedy dwa miesiące później badacze skontaktowali się z uczestnikami, większość z nich nadal wykazywała obniżoną wiarę w teorie spiskowe. Naukowcy sprawdzili nawet, czy chatboty AI są dokładne i (w większości) były dokładne.

Widzimy, że przynajmniej dla niektórych trzyrundowa rozmowa z chatbotem może przekonać ich do teorii spiskowej.

Abyśmy mogli rozwiązać problemy za pomocą chatbotów?

Chatboty rzeczywiście oferują pewne obietnice w przypadku dwóch wyzwań związanych z rozwiązywaniem fałszywych przekonań.

Ponieważ są to komputery, nie są postrzegani jako osoby posiadające „program”czyniąc to, co mówią bardziej wiarygodnym (szczególnie dla kogoś, kto stracił wiarę w instytucje publiczne).

Chatboty potrafią także zebrać argumenty, co jest lepsze niż same fakty. Proste przytoczenie faktów jest tylko minimalnie skuteczny przeciwko fałszywym przekonaniom.

Chatboty nie są jednak panaceum na wszystko. Badanie to wykazało, że były one bardziej skuteczne w przypadku osób, które nie miały mocnych osobistych powodów, aby wierzyć w teorię spiskową, co oznacza, że ​​prawdopodobnie nie pomogą osobom, dla których spisek jest społecznością.

Czy powinienem więc używać ChatGPT do sprawdzania faktów?

To badanie pokazuje, jak przekonujące mogą być chatboty. To świetnie, gdy są przygotowani do przekonania ludzi o faktach, ale co, jeśli tak nie jest?

Jednym z głównych sposobów, w jaki chatboty mogą promować dezinformację lub spiski, jest sytuacja, gdy ich dane są błędne lub stronnicze: chatbot to odzwierciedli.

Niektóre chatboty są zaprojektowane celowo odzwierciedlać uprzedzenia Lub zwiększyć lub ograniczyć przejrzystość. Możesz nawet rozmawiać z dostosowanymi wersjami ChatGPT argumentować, że Ziemia jest płaska.

Drugie, bardziej niepokojące prawdopodobieństwo jest takie, że gdy chatboty odpowiadają na stronnicze podpowiedzi (z których osoby wyszukujące mogą nie zdawać sobie sprawy, że są stronnicze), mogą utrwalić dezinformację (w tym przekonania o spisku).

Wiemy już, że ludzie słabo radzą sobie ze sprawdzaniem faktów, a kiedy korzystają w tym celu z wyszukiwarek, wyszukiwarki te odpowiadają na ich (nieświadomie stronnicze) wyszukiwane hasła, wzmacnianie wiary w dezinformację. Chatboty są prawdopodobnie będzie tak samo.

Ostatecznie chatboty są narzędziem. Mogą być pomocne w obalaniu teorii spiskowych, ale jak w przypadku każdego narzędzia, liczą się umiejętności i intencje twórcy narzędzia oraz użytkownika. Teorie spiskowe zaczynają się od ludzi i to ludzie je zakończą.

Ten artykuł został ponownie opublikowany z Rozmowa na licencji Creative Commons. Przeczytaj oryginalny artykuł.