MS: Algorytm nie jest zaprogramowany na to, żeby zachowywał się w dokładnie określony sposób, a nie inaczej?
PS: Nie. Jego zadaniem jest uczenie się i wyciąganie statystycznych wniosków ze swoich doświadczeń po to, żeby realizować wyznaczone cele. Ale jakie wnioski on wyciągnie, nie wiemy. W związku z tym nie mamy pojęcia, czy i dlaczego auto zadecyduje, że w danym momencie lepiej będzie jechać szybciej albo wolniej. Opis systemu, który podejmuje te decyzje, to są miliardy miliardów liczb i żaden człowiek nie jest w stanie ich prześledzić, żeby zrozumieć, dlaczego system zadziałał tak, a nie inaczej. To, co można zrozumieć, to algorytmy uczące, które mówią, jak przetworzyć statystykę po każdym kolejnym wydarzeniu i włączyć ją w opis rzeczywistości danego auta.
MS: Skąd pewność, że te urządzenia nie nauczą się czegoś, co będzie sprzeczne z zadaniami, jakie mają one do wykonania, a nawet groźne dla nas? Że np.
autonomiczne auto przejedzie przechodnia na pasach, bo z jakichś powodów uzna, że jest to rozwiązanie optymalne?
PS: Pewności oczywiście nie mamy. Takie niebezpieczeństwo może być realne za 20, 30 lat, gdy powstanie sztuczna inteligencja, mająca moce porównywalne z mocą ludzkiego mózgu. Musimy być na to zagrożenie gotowi. Tu znowu pojawia
się temat sprawiedliwości i pytanie co włożymy do takiej maszyny, żeby zagwarantować, że nie nastąpi „bunt robotów”. Mam nadzieję, że w stosownym czasie będziemy umieli sobie odpowiedzieć na to pytanie.
MS: Taki bunt to jedyne niebezpieczeństwo?
PS: Jest także niebezpieczeństwo związane z ułomnością dzisiejszych samo jeżdżących aut i z tym, że nie do końca rozumiemy dlaczego one są ułomne. Ta ułomność sprawia, że można nimi manipulować, np. poprzez wysłanie im sygnału, który kompletnie zmienia ich zachowanie. To może polegać na
pomachaniu przy drodze kartką papieru z odpowienio spreparowanym wydrukiem lub wykonaniu innej prostej czynności obliczonej na zakłócenie jego
pracy. Wiadomo, że systemy rozpoznające obrazy są tak czułe, że jeśli zmienimy w obrazku na kartce kilkanaście pikseli, to system rozpozna go jako coś zupełnie innego. Dokonywanie takich zmian jest hakowaniem algorytmu, czyli wprowadzaniem go w błąd po to, żeby zrobił coś, co nie było zamierzone przez twórców.
MS: Brzmi groźnie.
PS: Tak. Chociaż w dłuższej perspektywie najgroźniejsze będzie to, że umiejętność tworzenia sztucznej inteligencji stanie się powszechna i że wiele osób będzie umiało powołać ją do życia bez żadnej kontroli z zewnątrz i jakichkolwiek zabezpieczeń. Jacyś szaleńcy lub terroryści taką „złą” sztuczną inteligencję w końcu wyprodukują, tak jak dzisiaj produkuje się wirusy komputerowe. Nie miejmy złudzeń, to się wydarzy, dlatego trzeba mieć nadzieję, że zanim dojdzie do użycia sztucznej inteligencji w służbie zła, będziemy już dysponowali narzędziami, które to uniemożliwią.
------------------
To mój wywiad z 4 gru 2018 ze Sławomirem Mizerskim w Niezbędniku Polityki niestety za paywallem...
polityka.pl/niezbednik/17732…. Czuję, że od 10 lat stoimy w miejscu. Nie spodziewam się, że powstanie jakaś kontrola nad algorytmami, tak jak nie powstała przez ostatnie 10 lat. Jedynym skutecznym rozwiązaniem to rozwój swoich kompetencji i rozwiązań, ale o tym już mówiłem wielokrotnie.