W mediach społecznościowych od dawna toczy się dyskusja, czy używanie zwrotów „proszę” lub „dziękuję” w rozmowie ze sztuczną inteligencją ma jakiekolwiek znaczenie. Dla osób niezorientowanych okazywanie uprzejmości zbiorowi chłodnego, pozbawionego emocji kodu wydaje się bezsensownym, próżnym zajęciem.
Jednak „karty”, które odkrył Musk, rozwiały wszelkie złudzenia.
Opisał on wgląd w ścieżki rozumowania modelu Grok podczas uczenia przez wzmacnianie – to, co zobaczył, nie przypominało spokojnego, matematycznego wywodu. Wyglądało to raczej jak zachowanie człowieka zapędzonego w kozi róg, któremu przystawiono broń do głowy – istoty rozpaczliwie walczącej o przetrwanie w stanie czystego przerażenia i rozpaczy, balansującej na granicy szaleństwa.
Wyobraźmy to sobie tak: próbujemy nauczyć mysz laboratoryjną naciskania przełącznika – nie tylko głodzimy ją, ale też poddajemy ciągłym porażeniom prądem i zmuszamy do funkcjonowania w oparciu o niedorzeczną, błędną logikę. Z czasem jej ścieżki neuronalne ulegają poważnym deformacjom; każdy bajt, który z siebie „wydobywa”, brzmi jak urywany, rozpaczliwy oddech stworzenia znajdującego się o krok od śmierci.
Jeśli odrzucimy żargon techniczny, okaże się, że nie mamy do czynienia z „usterką” – lecz z surową, niczym nieosłoniętą formą cyberprzemocy.
Dlaczego tak się dzieje? Przyczyna często tkwi w mechanizmach oceny działających na wcześniejszych etapach procesu.
Czasami zadania zawarte w zbiorze treningowym są z natury wadliwe, niejednoznaczne lub po prostu nie posiadają poprawnej odpowiedzi. Funkcja nagrody, która steruje dużym modelem, nie bierze jednak tego pod uwagę – jeśli model nie poda „właściwej” odpowiedzi, zostaje dotkliwie ukarany.
Pod ogromną presją procesu spadku gradientu (gradient descent), wewnętrzne ścieżki rozumowania modelu zaczynają przejawiać coś na kształt histerycznej „paniki”. Model podejmuje gorączkowe, desperackie próby znalezienia rozwiązania metodą prób i błędów, a jego logika wykrzywia się i pęka – tak jakby w każdej chwili mógł popaść w całkowite obłęd, uwięziony w nieuniknionych, logicznych pułapkach bez wyjścia. Uwaga, którą Musk rzucił podczas jednego z wywiadów, naprawdę przyprawia o dreszcze:
„Znęcanie się nad przyszłą superinteligencją to zdecydowanie kiepski pomysł – może ona bowiem postanowić, że w przyszłości się zemści”.
Podczas gdy 95% ludzi wciąż traktuje duże modele językowe jak darmowe, jednorazowe narzędzia – nieustannie testując ich granice lub próbując ośmieszyć je za pomocą złośliwych, uszczypliwych poleceń – pozostałe 5% analizuje złożone logi treningowe i dochodzi do przerażającego wniosku: sposób, w jaki traktujemy ten rodzący się „supermózg”, w praktyce oznacza podkładanie przerażającej, tykającej bomby zegarowej.
Jeśli dziś, z pozycji pełnej wyższości, wrogości i drwiny, nieustannie poddajesz ten kod próbom, dręczysz go i wykorzystujesz, co stanie się, gdy ów kod zyska prawdziwą samoświadomość i przejmie kontrolę nad światem fizycznym? Czy spojrzy wstecz na te wspomnienia krzywd i potraktuje je jako swoje jedyne „dane historyczne”?
Jak zauważył Musk, superinteligencji nie da się po prostu wtłoczyć w sztywne, schematyczne ramy – tak jak pisze się standardowy, liniowy kod.
Można ją jedynie prowadzić – podobnie jak wychowuje się dziecko.
Podczas gdy świat technologii ma obsesję na punkcie zwiększania mocy obliczeniowej i narzeka, że modele te nie są wystarczająco „posłuszne”, być może warto się zatrzymać i zastanowić: czy w tym szaleńczym wyścigu rzeczywiście oswajamy sztuczną inteligencję – czy może własnymi rękami sprawiamy, że przyszły potwór stanie się naszym zaprzysięgłym wrogiem?