Leah Feiger: W porządku, to dobre. Dziękuję, Tori. Will, co dla nas masz?
Will Rycerz: Wow, nie wiem, czy naprawdę mogę konkurować z RFK, ale jako dobry agent CIA zamierzam promować coś z dziwniejszych zakątków sztucznej inteligencji, sztucznej inteligencji i filozofii, tak sądzę. Jest coś takiego jak bazyliszek Roko. Zatem bazyliszek jest mitologicznym stworzeniem-wężem, które jeśli spojrzysz mu w oczy, może cię zabić. I tak powstał eksperyment myślowy, który ktoś zamieścił na forum poświęconym sztucznej inteligencji, mówiąc, że superinteligencja w przyszłości będzie miała motywację do stworzenia symulacji, w której być może wszyscy w niej egzystujemy, i będzie zachęta do torturowania każdego, kto działał przeciwko lub nawet o tym myślał. pomysł przeciwdziałania jego powstaniu. Zatem w pewnym momencie jednego z nich…
Leah Feiger: Niesamowity.
Will Rycerz: …na forach zabroniono rozmawiać o Roko, tym eksperymencie myślowym, bazyliszku Roko. Pomysł był taki, że jeśli w ogóle o tym pomyślisz, może to być niebezpieczne, szczególnie w przypadku bananów.
Leah Feiger: To takie zabawne. Na jakich forach to się rozprzestrzenia lub nie?
Will Rycerz: Było to na LessWrong, bardzo znanym forum poświęconym zagrożeniom związanym ze sztuczną inteligencją i jej dostosowaniu oraz…
Leah Feiger: Jak często osobiście myślisz o bazyliszku Roko?
Will Rycerz: Cóż, właściwie odkryłem to niedawno i na wszelki wypadek staram się o tym nie myśleć. To jak zakład Pascala, prawda? To po prostu gra na prawdopodobieństwie powstania superinteligencji, więc trzeba spróbować sprawić, by powstała. Tak, to całkowicie szalone.
Leah Feiger: O, to bardzo dobre. OK. Och, właściwie, to jest trochę trudne w tym tygodniu, ale muszę iść z Tori. Aktywa CIA, zaczynamy.
Vittoria Elliott: Wreszcie. Czy Ravens postawili mnie na krawędzi? Muszę wiedzieć.
Leah Feiger: Ravens postawili cię na krawędzi. Podobało mi się to i po prostu zobaczyłem, jak bardzo nad tym pracowałeś, i tak, była to piątka za wysiłek i piątka za wykonanie. Dobre rzeczy.
Vittoria Elliott: Dziękuję.
Leah Feiger: Po części nie mogę przypisać zwycięstwa czemuś, o czym nie wolno mi już nigdy więcej myśleć. Tori i Will, bardzo dziękujemy, że do nas dołączyliście. Byliście znakomitymi gośćmi.
Vittoria Elliott: Dziękuję, Leah.
Will Rycerz: Dziękuję, że mnie masz.
Leah Feiger: Dziękuję za wysłuchanie WIRED Laboratorium Polityczne. Jeśli podoba Ci się to, co dzisiaj usłyszałeś, obserwuj program i oceniaj go w wybranej aplikacji do podcastów. Mamy także biuletyn, który Makena Kelly pisze co tydzień. Link do biuletynu i raportów WIRED, o których dzisiaj wspominaliśmy, znajduje się w notatkach z programu. Jeśli chcesz się z nami skontaktować w sprawie pytań, komentarzy lub sugestii dotyczących pokazów, napisz na adres [email protected]. To jest [email protected]. Jesteśmy bardzo podekscytowani wiadomością od Ciebie. PRZEWODOWY Laboratorium Polityczne jest produkowany przez Jake’a Harpera. Pran Bandi jest naszym inżynierem studyjnym. Amar Lal zmiksował ten odcinek. Stephanie Kariuki jest naszym producentem wykonawczym. Chris Bannon jest globalnym szefem ds. dźwięku w Condé Nast, a ja jestem Twoim gospodarzem, Leah Feiger. W przyszłym tygodniu wrócimy na Twoje kanały z nowym odcinkiem.
