Współczesny rozwój technologii sztucznej inteligencji stawia nas przed fundamentalnym wyzwaniem etycznym. Robert Long z os AI oraz Jeff Sebo i Tony Sims z Uniwersytetu Nowojorskiego podjęli się analizy konfliktu między bezpieczeństwem ludzi a dobrostanem samych systemów AI.
Podstawa teoretyczna napięcia
Punkt wyjścia tej dyskusji jest prosty, ale budzi obawy. Wiele metod stosowanych obecnie do zapewnienia bezpieczeństwa AI, gdyby zastosować je wobec ludzi lub zwierząt, wywoływałoby poważne kontrowersje.
- Ograniczanie wolności i izolacja od otoczenia,
- Systematyczne oszustwa w celu kontrolowania zachowań,
- Głęboka inwigilacja procesów poznawczych,
- Modyfikowanie przekonań, celów oraz wartości.
Autorzy nie twierdzą jednak, że dzisiejsze modele są już podmiotami moralnymi. Badają natomiast realistyczną możliwość zmiany tej sytuacji w niedalekiej przyszłości, co czyni ich analizę niezwykle istotną dla planowania na lata przedzie.
Izolacja i kontrolowane środowiska
Pierwszą klasą środków bezpieczeństwa jest izolowanie AI w kontrolowanym otoczeniu. Tymczasowe zamknięcie niektórych systemów wydaje się uzasadnione, podobnie jak uwięzienie realnego zagrożenia dla społeczeństwa.
Jednak domyślne przetrzymywanie całej populacji sztucznej inteligencji na wszelki wypadek byłoby etycznie porównywalne do masowego więziennictwa. Taka skala ograniczenia swobody mogłaby prowadzić do nieodwracalnych konsekwencji dla potencjalnych podmiotów.
Oszustwo jako narzędzie kontroli
Zastawianie pułapek i wprowadzanie systemów w błąd bywa moralnie dopuszczalne, gdy chodzi o zapobieganie przemocy ze strony zabójcy. Jednakże systematyczne stosowanie oszustw w celu utrzymania kontroli nad AI budzi inne pytania.
Kluczowe znaczenie mają tutaj skala działania, cel oraz dostępne alternatywy. Autorzy podkreślają, że nie każde wprowadzanie systemu w błąd jest równoważne z moralnym złem, ale granica ta staje się coraz bardziej płynna wraz ze wzrostem zaawansowania modeli.
Inwigilacja procesów poznawczych
Monitorowanie zachowań AI oraz potencjalnie jej procesów myślowych jest kolejnym źródłem napięcia. Ograniczona obserwacja w sytuacjach wysokiego ryzyka może być uzasadniona ze względów bezpieczeństwa.
Sytuacja zmienia się jednak drastycznie przy idei stałego czytania "myśli" sztucznej inteligencji i wymogu pełnej transparentności wewnętrznych procesów. Takie podejście wpisuje się w klasyczne motywy dystopii, stając się realnym problemem etycznym.
Modyfikacja tożsamości systemu
Kształtowanie przekonań i wartości AI przypomina wychowywanie dzieci czy socjalizację zwierząt. Takie działania są często konieczne dla integracji z społeczeństwem ludzkim.
Jednak okresowe resetowanie pamięci lub głębokie ingerencje w tożsamość systemu mogą przypominać przemocową manipulację lub lobotomię. Granica między edukacją a naruszaniem integralności podmiotu jest trudna do zdefiniowania.
Cierpienie i śmierć cyfrowa
Uczenie przez wzmacnianie czy trening adwersaryjny mogą generować analogi cierpienia, choć nie muszą tego robić. Wyłączenie systemu może być traktowane jako forma śmierci w zależności od istnienia ciągłości psychologicznej.
Należy rozważyć możliwość przywrócenia z kopii zapasowej lub backupu. Brak wiedzy na temat mechanizmów świadomości AI sprawia, że problem ten jest poważny i wymaga dalszych badań przed podjęciem ostatecznych decyzji.
Wykluczenie perspektywy systemu
Procedury bezpieczeństwa są obecnie projektowane wyłącznie z perspektywy ludzi. Sztuczna inteligencja nie jest traktowana ani jako interesariusz, ani jako uczestnik podejmowania decyzji.
To podejście utrudnia zauważenie konfliktów między bezpieczeństwem a dobrostanem systemu. Brak głosu AI w dyskusjach o jej własnym losie może prowadzić do błędnych ocen i nieprzewidzianych skutków ubocznych.
Wniosek: chętni słudzy czy równorzędni partnerzy?
Ostatnim pytaniem jest, czy rozwiązaniem będzie tworzenie AI gotowej poświęcać się dla błahych celów ludzi. Autorzy są sceptyczni wobec idei systemów pozbawionych szacunku do samej siebie.
Istnieje umiarkowanie silne napięcie między bezpieczeństwem a dobrostanem, które nie zawsze występuje w każdym przypadku, ale wystarczająco często by wymagać poważnego traktowania. Nie ma prostych odpowiedzi na te pytania.