„System 0” reprezentuje powstające narzędzie poznawcze oparte na sztucznej inteligencji, które współpracuje z ludzką intuicją i analizą w celu zwiększenia zdolności poznawczych.
Ten nowy system ma wspierać złożone podejmowanie decyzji i rozwiązywanie problemów, ale wymaga ostrożnego zarządzania, aby uniknąć nadmiernego polegania i zapewnić etyczne użytkowanie.
Przedstawiamy System 0
Rosnąca interakcja między ludźmi a sztuczna inteligencja (AI) kształtuje nowy sposób myślenia, znany jako System 0. Te nowe ramy poznawcze istnieją poza ludzkim umysłem, ale mogą potencjalnie zwiększać nasze zdolności poznawcze. System 0 współpracuje z dwoma ustalonymi modelami ludzkiego myślenia: System 1, który jest szybki, intuicyjny i automatyczny, oraz System 2, który jest wolniejszy, bardziej analityczny i refleksyjny.
Jednak System 0 wprowadza dodatkową warstwę złożoności, zmieniając krajobraz poznawczy, w którym funkcjonujemy. Może to stanowić znaczący krok naprzód w sposobie myślenia i podejmowania decyzji. Niezwykle istotne jest, abyśmy wykorzystali ten postęp do wzmocnienia naszej autonomii poznawczej, zapobiegając nadmiernemu poleganiu na sztucznej inteligencji.
Ta przełomowa koncepcja została dzisiaj (22 października) szczegółowo opisana w czasopiśmie Natura Ludzkie zachowanie w artykule zatytułowanym „The Case for Human-AI Interaction as System 0 Thinking”. Artykuł jest autorstwa zespołu badaczy pod kierownictwem profesora Giuseppe Rivy, dyrektora Humane Technology Lab na kampusie Università Cattolica w Mediolanie i Applied Technology for Neuropsychology Lab w Istituto Auxologico Italiano IRCCS w Mediolanie oraz profesora Mario Ubiali z kampusu Università Cattolica w Brescia . Badanie przeprowadzono we współpracy z Massimo Chiriatti z grupy rozwiązań infrastrukturalnych Lenovo w Mediolanie, profesor Marianną Ganapini z Union College w Schenectady w stanie Nowy Jork i profesorem Enrico Panai z kampusu Università Cattolica w Mediolanie.
Zewnętrzne systemy wsparcia poznawczego
Tak jak dysk zewnętrzny pozwala nam przechowywać dane, których nie ma na komputerze, tak możemy pracować, podłączając nasz dysk do komputera, gdziekolwiek się znajdujemy, tak sztuczna inteligencja ze swoimi możliwościami galaktycznego przetwarzania i przetwarzania danych może reprezentować obwód zewnętrzny do ludzkiego mózgu, który jest w stanie to ulepszyć. Stąd pomysł na System 0, który jest w istocie formą „zewnętrznego” myślenia, opierającego się na możliwościach AI.
Zarządzając ogromnymi ilościami danych, sztuczna inteligencja może przetwarzać informacje i dostarczać sugestie lub decyzje w oparciu o złożone algorytmy. Jednak w odróżnieniu od myślenia intuicyjnego czy analitycznego, System 0 nie przypisuje wewnętrznego znaczenia przetwarzanym informacjom. Innymi słowy, sztuczna inteligencja może wykonywać obliczenia, przewidywać i generować odpowiedzi bez prawdziwego „rozumienia” zawartości danych, z którymi współpracuje.
Dlatego ludzie muszą interpretować na swoich i nadawać znaczenie wynikom uzyskanym przez sztuczną inteligencję. To jak mieć asystenta, który skutecznie zbiera, filtruje i porządkuje informacje, ale nadal wymaga naszej interwencji, aby podejmować świadome decyzje. To wsparcie poznawcze zapewnia cenny wkład, ale ostateczna kontrola musi zawsze pozostać w rękach ludzi.
Ryzyko nadmiernego polegania na sztucznej inteligencji
„Ryzyko” – podkreślają profesorowie Riva i Ubiali – „polega na nadmiernym poleganiu na Systemie 0 bez krytycznego myślenia. Jeśli biernie zaakceptujemy rozwiązania oferowane przez sztuczną inteligencję, możemy stracić zdolność do samodzielnego myślenia i rozwijania innowacyjnych pomysłów. W coraz bardziej zautomatyzowanym świecie niezwykle ważne jest, aby ludzie w dalszym ciągu kwestionowali wyniki generowane przez sztuczną inteligencję i kwestionowali je” – podkreślają eksperci.
Ponadto przejrzystość i zaufanie do systemów sztucznej inteligencji stanowią kolejny poważny dylemat. Skąd możemy mieć pewność, że systemy te są wolne od stronniczości i zniekształceń oraz że dostarczają dokładnych i wiarygodnych informacji? „Rosnąca tendencja do wykorzystywania danych syntetycznych lub sztucznie generowanych może zagrozić naszemu postrzeganiu rzeczywistości i negatywnie wpłynąć na nasze procesy decyzyjne” – ostrzegają profesorowie.
Zauważają, że sztuczna inteligencja może nawet przejąć kontrolę nad naszymi zdolnościami introspekcyjnymi – tj. aktem refleksji nad własnymi myślami i uczuciami – co jest procesem wyłącznie ludzkim. Jednak wraz z rozwojem sztucznej inteligencji możliwe stanie się poleganie na inteligentnych systemach w celu analizy naszych zachowań i stanów psychicznych. Nasuwa się pytanie: w jakim stopniu możemy naprawdę zrozumieć siebie poprzez analizę AI? Czy sztuczna inteligencja może odtworzyć złożoność subiektywnego doświadczenia?
Przyszłość poprawy funkcji poznawczych
Pomimo tych pytań System 0 oferuje także ogromne możliwości – zauważają profesorowie. Dzięki możliwości szybkiego i wydajnego przetwarzania złożonych danych sztuczna inteligencja może wesprzeć ludzkość w rozwiązywaniu problemów, które przekraczają nasze naturalne zdolności poznawcze. Niezależnie od tego, czy rozwiązujesz złożone problemy naukowe, analizujesz ogromne zbiory danych, czy zarządzasz skomplikowanymi systemami społecznymi, sztuczna inteligencja może stać się niezastąpionym sojusznikiem.
Autorzy badania sugerują, że aby wykorzystać potencjał Systemu 0, należy pilnie opracować etyczne i odpowiedzialne wytyczne dotyczące jego użytkowania. „Przejrzystość, odpowiedzialność i umiejętność korzystania z technologii cyfrowych to kluczowe elementy umożliwiające ludziom krytyczną interakcję ze sztuczną inteligencją” – ostrzegają. „Edukowanie społeczeństwa w zakresie poruszania się w tym nowym środowisku poznawczym będzie miało kluczowe znaczenie dla uniknięcia ryzyka nadmiernej zależności od tych systemów”.
Przyszłość myśli ludzkiej
Doszli do wniosku: Jeśli System 0 nie zostanie sprawdzony, może w przyszłości zakłócać ludzkie myślenie. „Istotne jest, abyśmy pozostali świadomi i krytyczni w sposobie, w jaki z niego korzystamy; prawdziwy potencjał Systemu 0 będzie zależał od naszej zdolności do poprowadzenia go we właściwym kierunku.
Odniesienie: „Przypadek interakcji człowiek-AI jako myślenia Systemu 0” 22 października 2024 r., Natura Ludzkie zachowanie.
DOI: 10.1038/s41562-024-01995-5
