“Heaven banning” to teoretyczny koncept bycia zablokowanym w serwisie społecznościowym w taki sposób, że trafiamy do jego alternatywnej wersji gdzie wszystko wygląda podobnie, tylko nasze komentarze dostają dużo pozytywnych “głasków”.
Dalej możemy być niemili, agresywni, szerzyć dezinformację tylko czytają to tylko modele uczenia maszynowego.
Dostajemy lajki, inni użytkownicy nas popierają i chwalą nasze poglądy i zdolności rozumowania. Jednak ci inni użytkownicy to tylko duże modele językowe.
Heaven ban daje iluzję bycia częścią społeczności, a w rzeczywistości jest narcystyczną pułapką, która pochłania nas do tego stopnia, że nie szukamy drogi do prawdziwej wersji.
Wizja pociągnięta dalej ma w sobie element resocjalizacji. Może istnieje algorytmiczny sposób oduczenia agresji słownej lub rasizmu? Może cierpliwy wychowawca algorytm, może zmienić trolla w szczęśliwego człowieka?
Idąc jeszcze dalej, może heaven ban to ostateczna wersja social media. Może to co sprawia, że czujemy się nieszczęśliwi po długim kontakcie z social media to fakt, że są tam inni ludzie, ze wszystkimi swoimi wadami. Może każdy z nas powinien po prostu trafić do nieba, siedzieć tam z dużym, skrojonym pod nas, modelem językowym i czuć satysfakcję?
Jak bawię się GPT-3 to jestem pod wrażeniem jak koherentnie odpowiada na pytania. GPT-3 to dopiero początek. Model GPT-3 ma 175 miliardów parametrów. GPT-4, który ma wyjść niebawem, ma 100 bilionów (angielski trilion) parametrów. W tym aspekcie im więcej tym lepiej.
Są już serwisy randkowe, które wysyłają abuzywnych użytkowników by rozmawiali z GPT-3.
Modele dyfuzyjne służące do generowania obrazów już dziś można dostroić tak by generowały tylko obrazy w oparciu o jakiś schemat. Czemu nie moglibyśmy dostroić GPT-3 lub GPT-4, żeby brało pod uwagę naszą historię w social media i dostosowywało odpowiedzi pod nasz confirmation bias?
Stworzenie takiego heaven bana nie jest odległe. Dzieli nas od tego spory koszt GPU i odkrycie wydajniejszych sposobów na generowanie treści w oparciu o duże modele językowe. No i oczywiście chęć kogoś żeby takie niebo zbudować.