Co z tym zrobimy?

Wygłaszałem wykład poświęcony sztucznej inteligencji. Opowiadając o tym, czym ona jest, a czym (chyba) nigdy nie będzie, zauważyłem w oczach słuchaczy przerażenie. Tak jak gdyby programy nazywane potocznie sztucznie inteligentnymi były dla nas jakimś zagrożeniem. Nie obawiam się programów. Obawiam się ludzi, którzy mają te programy w ręku.

No bo czym jest sztuczna inteligencja? Można powiedzieć, że to programy komputerowe, które nie tylko potrafią szybko liczyć i dużo zapamiętywać. To potrafi byle komputer. To programy, które potrafią same się uczyć, wyciągać wnioski z informacji, które posiadają, i znajdować rozwiązania problemów, z którymi nigdy wcześniej nie miały do czynienia. Człowiek oczywiście potrafi o wiele więcej. Mamy wolną wolę, mamy emocje, w końcu mamy samoświadomość. Czy to wszystko inteligencja sztuczna też kiedyś będzie miała? A jeżeli tak, to jak możemy to nadać programowi komputerowemu? Dla uczciwości przytaczanych hipotez powinienem napisać, że są i tacy, którzy twierdzą, że samoświadomość pojawia się wraz ze skalą. Innymi słowy, gdy wybudujemy odpowiednio inteligentny komputer, zyska on świadomość sam z siebie. Czy zatem sztuczna inteligencja to kolejny wynalazek, których we współczesnym świecie jest tak dużo, że nie jesteśmy ich już w stanie zliczyć? Nie. To nie jest zwykły wynalazek. Mamy do dyspozycji wyjątkowo ostry nóż, którym można się bardzo głęboko pociąć. Ale nie boję się o to, że on sam z siebie zrobi nam krzywdę. Moje obawy dotyczą raczej tego, czy my, ludzie, jesteśmy wystarczająco odpowiedzialni, by ze sztucznej inteligencji bezpiecznie korzystać. Nie jesteśmy. Bo my uczymy się odpowiedzialności w sposób gorszy niż małe dzieci.

W Chinach – na razie eksperymentalnie – działa system SCS (Social Credit System), który „metkuje” ludzi niemalże jak towary w sklepie. Nadaje im odpowiednią punktację w zależności od zachowania, towarzystwa, poglądów, odwiedzanych miejsc itd. Oprogramowanie ma dostęp do chyba wszystkich baz danych w Chinach. Wie, co Chińczycy czytają, co oglądają i z kim korespondują. Odpowiedni algorytm to wszystko sprawdza, wyciąga z tego wnioski i przelicza. I nadaje obywatelom punkty – od 350 do 950. Im więcej ich jest, tym bardziej godnym zaufania człowiekiem jest ich „właściciel”. Od przypisanej liczby zależeć będzie bardzo dużo. Mając ocenę powyżej 600, obywatel może liczyć na pożyczkę na korzystniejszych niż zwykle warunkach. Posiadacz 650 i więcej punktów wypożyczy auto bez zostawiania depozytu, a w hotelu i urzędach będzie miał przyspieszoną procedurę. Ten z punktacją powyżej 700 dostanie z automatu wizę zagraniczną. Im wyższa ocena, tym lepsza szkoła dla dziecka i możliwość szybszej ścieżki awansu. Przerażające? Myślę, że to dopiero początek. System SCS „ma promować odpowiednie prospołeczne zachowania i karać działania przestępcze, nieetyczne i antyspołeczne”. Tylko kto będzie określał kryteria? I kto będzie kontrolował to „czarne pudełko”? Człowiek, z wyjątkowo ostrym nożem w ręku.