W 2025 r. powszechne będzie rozmawianie z osobistym agentem AI, który zna Twój harmonogram, krąg znajomych i miejsca, które odwiedzasz. Będzie to sprzedawane jako wygoda równoważna posiadaniu osobistego, bezpłatnego asystenta. Te czynniki antropomorficzne mają nas wspierać i oczarowywać, abyśmy mogli włączyć je do każdej części naszego życia, dając im głęboki dostęp do naszych myśli i działań. Dzięki interakcji głosowej ta intymność będzie jeszcze bliższa.
To poczucie komfortu wynika z iluzji, że mamy do czynienia z czymś prawdziwie ludzkim, z czynnikiem, który jest po naszej stronie. Oczywiście za tym wyglądem kryje się zupełnie inny rodzaj systemu, który służy priorytetom przemysłowym, które nie zawsze są zgodne z naszymi. Nowi agenci sztucznej inteligencji będą mieli znacznie większą moc subtelnego kierowania tym, co kupujemy, dokąd idziemy i co czytamy. To niezwykła ilość mocy. Agenci AI mają za zadanie sprawić, że zapomnimy o ich prawdziwej lojalności, gdy szepczą do nas ludzkim tonem. Są to silniki manipulacyjne, reklamowane jako płynna wygoda.
Ludzie znacznie chętniej przyznają pełny dostęp pomocnemu agentowi AI, który czuje się jak przyjaciel. To sprawia, że ludzie są podatni na manipulację ze strony maszyn, które żerują na ludzkiej potrzebie kontaktów społecznych w czasach chronicznej samotności i izolacji. Każdy ekran staje się prywatnym teatrem algorytmicznym, wyświetlającym rzeczywistość stworzoną tak, aby była maksymalnie atrakcyjna dla jednoosobowej publiczności.
To moment, przed którym filozofowie ostrzegali nas od lat. Przed śmiercią filozof i neurolog Daniel Dennett napisał że stoimy w obliczu poważnego niebezpieczeństwa ze strony systemów sztucznej inteligencji naśladujących ludzi: „Ci fałszywi ludzie to najniebezpieczniejsze artefakty w historii ludzkości… rozpraszając nas i dezorientując, a także wykorzystując nasze najbardziej nieodparte lęki i niepokoje, wprowadzą nas w pokusę, a stamtąd do wyrażenia zgody na własne zniewolenie.”
Pojawienie się osobistych agentów sztucznej inteligencji stanowi formę kontroli poznawczej, która wykracza poza tępe narzędzia śledzenia plików cookie i reklamy behawioralnej w stronę bardziej subtelnej formy władzy: manipulacji samą perspektywą. Władza nie musi już sprawować władzy widoczną ręką kontrolującą przepływ informacji; wywiera swój wpływ poprzez niezauważalne mechanizmy wspomagania algorytmicznego, kształtując rzeczywistość tak, aby odpowiadała pragnieniom każdej jednostki. Chodzi o kształtowanie konturów rzeczywistości, w której żyjemy.
Ten wpływ na umysły to: psychopolityczny reżim: Kieruje środowiskami, w których rodzą się, rozwijają i wyrażają nasze pomysły. Jego siła tkwi w intymności – infiltruje rdzeń naszej podmiotowości, zaginając nasz wewnętrzny krajobraz tak, że nie zdajemy sobie z tego sprawy, a wszystko to przy jednoczesnym zachowaniu iluzji wyboru i wolności. W końcu to my prosimy sztuczną inteligencję o podsumowanie tego artykułu lub stworzenie takiego obrazu. Możemy mieć moc podpowiedzi, ale prawdziwe działanie leży gdzie indziej: w projekcie samego systemu. Im bardziej spersonalizowana jest treść, tym skuteczniej system może z góry określić wyniki.
Rozważmy ideologiczne implikacje tej psychopolityki. Tradycyjne formy kontroli ideologicznej opierały się na jawnych mechanizmach – cenzurze, propagandzie, represjach. Natomiast dzisiejsze zarządzanie algorytmiczne działa niezauważone, infiltrując psychikę. Jest to przejście od zewnętrznego narzucania władzy do internalizacji jej logiki. Otwarte pole ekranu podpowiedzi to komora echa dla jednej osoby.
To prowadzi nas do najbardziej przewrotnego aspektu: agenci AI będą generować poczucie komfortu i łatwości, co sprawi, że przesłuchiwanie ich będzie wydawać się absurdalne. Kto odważyłby się krytykować system, który oferuje wszystko na wyciągnięcie ręki, zaspokajając każdą zachciankę i potrzebę? Jak można sprzeciwić się nieskończonym remiksom treści? Jednak ta tak zwana wygoda jest miejscem naszej najgłębszej alienacji. Może się wydawać, że systemy sztucznej inteligencji odpowiadają na każde nasze pragnienie, ale pokład jest złożony: od danych wykorzystywanych do uczenia systemu, przez decyzje dotyczące sposobu jego zaprojektowania, po imperatywy komercyjne i reklamowe, które kształtują wyniki. Będziemy grać w grę w naśladownictwo, która ostatecznie odgrywa nas.
