Jak AI pozbawi ludzi władzy

1 tydzień temu

Ryszard Szarfenberg

Doktor nauk o polityce, habilitacja w zakresie nauk o polityce, profesor nadzwyczajny na Wydziale Nauk Politycznych i Studiów Międzynarodowych Uniwersytetu Warszawskiego. Wicedyrektor Instytutu Polityki Społecznej (2008-2013), kierownik Pracowni Pomocy i Integracji Społecznej (2011-2019). Recenzent w International Journal of Social Welfare. Członek redakcji czasopisma naukowego Problemy Polityki Społecznej (od 2009 r.). Ekspert w sieci European Social Policy Network (od 2018 r.), przewodniczący Rady Wykonawczej Polskiego Komitetu Europejskiej Sieci Przeciw Ubóstwu (EAPN Polska, od 2011 r.), przedstawiciel EAPN Polska w EAPN EU Inclusion Strategies Group (od 2009 r.), przedstawiciel EAPN Polska w Międzyresortowym Zespole do spraw Strategii „Europa 2020” (od 2012 r.).

Z prof. Ryszardem Szarfenbergerem, ekspertem European Social Policy Network, rozmawia Rafał Górski, redaktor naczelny Tygodnika Spraw Obywatelskich.

Można sądzić, iż rodzaj ludzki nigdy nie będzie aż tak głupi, żeby oddać całą władzę maszynom. Jednak nie twierdzimy, ani iż ludzie przekażą władzę maszynom z własnej woli, ani iż maszyny z własnej woli przejmą władzę. Twierdzimy, iż sam rodzaj ludzki może skłaniać się ku stanowi takiej zależności od maszyn, iż praktycznie nie będzie mieć innego wyboru, jak tylko uznawanie wszystkich decyzji maszyn. Skoro społeczeństwo i problemy, przed jakimi staje, są coraz bardziej złożone, zaś maszyny są coraz bardziej inteligentne, ludzie pozwolą, by maszyny podejmowały za nich coraz więcej decyzji, gdyż po prostu decyzje maszyn będą przynosić lepsze wyniki niż decyzje ludzi. Kiedyś może dojść do stanu, w którym wszystkie decyzje niezbędne do utrzymania całego systemu w ruchu będą tak złożone, iż ludzka istota nie będzie zdolna ich podejmować inteligentnie. Wtedy maszyny uzyskają faktyczną władzę. Ludzie nie będą mogli po prostu ich wyłączyć, gdyż tak bardzo się od nich uzależnią, iż wyłączenie ich będzie równe samobójstwu.
Theodore Kaczynski (1995)

Krótkowzroczni recenzenci dostrzegali w tej rzeczy jedynie pamflet polityczny. To oczywiście nieprawda: ta powieść jest sygnałem niebezpieczeństwa grożącego człowiekowi, ludzkości z powodu władzy maszyn dotkniętej hipertrofią oraz władzy państwa – wszystko jedno jakiego.
Eugeniusz Zamiatin o książce „My” (1920)

Nawet stopniowy rozwój sztucznej inteligencji może doprowadzić do katastrofy egzystencjalnej poprzez stopniową erozję ludzkiego wpływu na najważniejsze systemy społeczne.
Jan Kulveit, Raymond Douglas, Nora Ammann, Deger Turan, David Krueger, David Duvenaud, „Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development”

Jak AI pozbawi ludzi władzy?
Czy Kaczynski i Zamiatin mieli rację?
Czy czeka nas bezrobocie technologiczne?

Co Pan odpowiada tym, którzy mówią, iż kiedyś ludzie bali się maszyn tkackich, elektryczności, telewizji, a potem żyliśmy dalej z tymi innowacjami?
Kto korzysta, a kto traci, na wykładniczym rozwoju technologii AI, komputerów kwantowych, NGT?
Co zrobić, żeby nie dopuścić do przejęcia władzy przez maszyny? Czego, my, obywatele, powinniśmy żądać od polityków, domagać się od ekspertów i wymagać od siebie?
Jakiego pytania nikt jeszcze Panu nie zadał w tematach, o których rozmawiamy? I jaka jest na nie odpowiedź?