Oczywiście nic się nam nie stanie. AI nas nie zabije. To kompletnie idiotyczne.
Argumenty Eliezera są spójne i logiczne, ale czynią pewne założenia, które są dyskusyjne.
Kiedyś czytałem krótką i gęstą, książkę Józefa M. Bocheńskiego pod tytułem “Współczesne metody myślenia”.
Bocheński tłumaczy tam, że geometria euklidesowa opiera się na aksjomatach.
Aksjomaty są, jakby wyjęte poza sam system, są niezbędne, żeby móc o danym temacie myśleć, nadają definicję kluczowym aspektom dalszego rozumowania.
Aksjomaty są pewnikiem, oczywistością, ale oczywiście można wymyślić spójny system opierający się na odwrotnych lub innych aksjomatach.
Można stworzyć geometrię opartą o inne aksjomaty niż te z euklidesowej i takie geometrie istnieją. W geometrii i matematyce to nie problem, bo jest abstrakcyjna, nie musi mieć koniecznie odzwierciedlenia w rzeczywistości fizycznej, musi się zgadzać na poziomie liczb.
W innych dziedzinach też budujemy spójną i logiczna argumentację na dany temat, opartą na aksjomatach. Problem pojawia się jednak na poziomie zgodności tych aksjomatów z rzeczywistością. Jeśli aksjomaty są niepoprawne, to cała spójna logika, którą na nich oprzemy na nic się nie zda. Wszystko się sypie, bo świat działa inaczej.
Myślę, że to główny problem argumentacji Eliezera, jest spójny ale opiera się na aksjomatach, które są fantazją.
Założenie, że AGI jest możliwe jest dyskusyjne. ChatGPT to świetny projekt, ale brakuje mu dużo do AGI. Stworzenie AGI może okazać się fizycznie niemożliwe, tak jak na przykład niemożliwe okazuje się zrobienie dobrego doświadczenia w VR.
Często oddajemy się fantazji, że da się zrobić wszystko, co nam się tylko przyśni, jeśli włożymy w to wystarczająco dużo wysiłku. Niestety czasem się nie da.
AGI nie istnieje. Jest fantazją, marzeniem, obiektem debat o naturze filozoficznej i etycznej. Jest odpowiedzią na pytanie co będzie na końcu rozwoju technicznego AI. To nie zmienia faktu, że AGI nie istnieje, jest spekulacją.
Możemy marzyć i opowiadać o tym jak będzie wyglądał świat po tym jak AGI zostanie stworzone, ale to fantazjowanie.
Załóżmy jednak, że AGI powstaje. Dlaczego miałoby nas zabić?
Eliezer argumentuje, że dlatego, że jesteśmy zrobieni z materii, którą AGI będzie chciało wykorzystać do innych celów.
To kolejny aksjomat Eliezera, który wydaje się absurdalny, jak o nim dłużej pomyślimy.
We wszechświecie jest nieograniczona ilość materii. Na pewno są tańsze, w sensie konserwowania energii, sposoby niż przerabianie ludzi na cokolwiek.
Skoro AGI ma wiedzieć wszystko, to będzie robiło rzeczy w optymalny sposób, wydając jak najmniej energii.
Zabijanie ludzi z perspektywy AGI, które ma mieć obojętny stosunek do ludzi, wydaje się nadprogramowym, energetycznie kosztownym projektem, który nie daję optymalnego zwrotu z inwestycji.
Jeśli wyjmiemy te dwa aksjomaty z argumentacji Yudkowskiego, to smutna teoria o morderczym AGI się sypie. Nie ma czym się zamartwiać, można wrócić do tworzenia fajnych produktów w oparciu o generatywne AI i czuć się dobrze z tym co się robi.
Generatywne AI to po prostu programy komputerowe, które mają nam ułatwić życie. Nie zabiją nas i nawet nie zabiorą nam pracy. Po prostu pozwolą nam robić więcej rzeczy w krótszym czasie.
Problemy z AI będą inne niż to o czym fantazjuje Eliezer: fejk newsy, deepfejki, nowe uzależniające i alienujące appki, ukryte uprzedzenia, prawo autorskie, autonomiczna broń itd. O nich warto rozmawiać poważnie. Mordercze AGI to wykolejenie dyskusji.