Prof. Abbass wyjaśnia trzy problemy z nadaniem robotowi obywatelstwa

Byłem zaskoczony, gdy usłyszałem, że robot o imieniu Sophia został obywatelem Królestwa Arabii Saudyjskiej. Nadanie Sophii obywatelstwa było następstwem zadeklarowania przez Królestwo Arabii Saudyjskiej swojego zaangażowania w wysokości 500 miliardów dolarów na budowę nowego miasta, które będzie napędzane przy użyciu robotyki oraz odnawialnych źródeł energii.

Jedna z najbardziej honorowych koncepcji dla istoty ludzkiej – bycie obywatelem i wszystko, co się z tym wiąże została przypisana do maszyny. Jako naukowiec, który codziennie pracuje nad stworzenie coraz to bardziej zaufanych systemów m.in. Sztucznej Inteligencji (ang. Artificial Inteligence, AI), uważam, że nasze społeczeństwo nie jest jeszcze na to gotowe.

Nadanie robotowi miana obywatela jest deklaracja zaufania do technologii, która moim zdaniem nie jest jeszcze na tyle dopracowana, aby można było jej w pełni zaufać. Wiąże się z tym wiele socjalnych i etycznych kwestii z którymi, my jako ludzie, nie jesteśmy gotowi sobie poradzić.

Kim jest Sophie – robot z obywatelstwem?

Sophia jest robotem stworzonym przez firmę z Hongkongu – Hanson Robotics. Sophia ma kobiecą twarz, która jest w stanie wyrażać emocje. Dodatkowo mówi po angielsku oraz potrafi żartować. Dlatego też wydaje się, że można by z nią przeprowadzić dość inteligentną rozmowę. Jej twórcą jest Dr David Hanson, doktorant z 2007 roku z University of Texas.

Sophia przypomina „Johnny 5”, pierwszego robota, który miał zaszczyt dostać obywatelstwo od Stanów Zjednoczonych w filmie pod tytułem ,,Krótkie spięcie” (ang. Short Circuit) z 1986 roku. Johnny 5 był jedynie pomysłem o którym marzyli pisarze tacy jak S.S. Wilson i Brent Maddock. Czy oni wyobrażali sobie, że po 30 latach ich fikcja stanie się rzeczywistością?

Ryzyko wiążące się z obywatelstwem

Obywatelstwo – w mojej ocenie, jedno z najbardziej honorowych wyróżnień, które państwo może przyznać mieszkańcowi stoi przed ryzykiem egzystencjalnym. Jako naukowiec i zwolennikiem pracy nad zaufanymi systemami autonomicznymi, wiem, że technologia nie jest jeszcze na to gotowa.

Jest wiele wyzwań, które musimy przezwyciężyć, zanim będziemy mogli w pełni zaufać tym systemom. Na przykład, nie wynaleźliśmy jeszcze niezawodnego mechanizmu, który zapewniałby nas, że te inteligentne maszyny będą zawsze zachowywać się etycznie i zgodnie z naszymi wartościami moralnymi. Nie mamy również technologii, która obroniłaby nas przed złymi decyzjami owych maszyn, które mogłyby mieć katastrofalne skutki. Następująca lista przedstawia trzy powody, przez które uważam, że przyznanie Sophii obywatelstwa było zbyt pochopną decyzją.

1. Definicja tożsamości

Obywatelstwo jest przyznawane osobie, która posiada własną, unikatowa tożsamość. Każdy z nas, ludzi rzecz jasna, ma swoją przynajmniej jedną unikalną cechę, która odróżnia nas od innych. Kiedy przechodzimy przez kontrolę graniczną bez rozmowy z człowiekiem, nasza tożsamość jest automatycznie ustalona poprzez skan i analizę naszej twarzy, tęczówki lub odcisków palców. Jeden z moich doktorantów pracuje nad systemem, który ustanawia ludzką tożsamość na podstawie analizy fal mózgowych.

Zatem, co daje Sophie jej tożsamość? Adres MAC? Kod kreskowy? Unikatowy znacznik na skórze? A może znak dźwiękowy w jej głosie lub też elektromagnetyczne fale podobne do fal mózgowych? Ten, jak i inne protokoły zarządzania tożsamością elektroniczną są możliwe, ale one nie ustanawiają tożsamości Sophii – mogą one być użyte jedynie w celu identyfikacji danego elementu wchodzącego w skład budowy tej maszyny. Więc jaka jest tożsamość Sophii?

Moim zdaniem, tożsamość jest elementem wielowymiarowym. Znajduje się gdzieś pomiędzy naszymi cechami biologicznymi i poznawczymi. Co więcej, oddziałuje na nie też każde z naszych doświadczeń, różnic kulturowych oraz otoczenia w którym żyjemy. Nie jest jasne, gdzie Sophia pasuje do tego opisu.

2. Prawa ustawowe

Dla potrzeb tego artykułu załóżmy, że Sophia – robot z obywatelstwem jest w stanie głosować. Pytanie jest jednak następujące: kto tak naprawdę podejmuje decyzje – Sophia czy jej producent? Prawdopodobnie, jako obywatel, Sophia musiałaby również płacić podatki, ponieważ miałaby legalną tożsamość, przez co byłaby niezależna od jej twórcy, producenta.

Sophia musiałaby mieć zapewnione prawa do ochrony równe do tych posiadanych przez innych obywateli. Rozważmy tą hipotetyczną sytuację: policjant widzi Sophie oraz inną kobietę, obie zostały w tym samym czasie zaatakowane. Policjant może tylko ochronić jedną z nich, która powinna nią być? Czy byłoby dobrą decyzją, aby policjant wybrał Sophie, ponieważ ma ograniczoną mobilność i nie umiałaby się obronić?

Obecnie, środowiska związane z projektowaniem AI, debatują nad zasadami, które powinny być przestrzegane podczas opracowywania wspomnianych systemów, nie mówiąc już o ustawach, które regulowałyby cały proces, przed jak i po produkcji. Lista ustalona w ostatnim czasie proponuje 23 zasady i jest znana jako tzw. Lista Zasad Sztucznej Inteligencji Asilomara (ang. Asilomar AI Principles). Przykładowe założenia znajdujące się na liście obejmują: Przejrzystość Awarii (przyczyna byłaby jasno określona); Wyrównanie Wartości (wyrównywanie celów systemu zgodnie z ludzkimi wartościami); oraz Rekurencyjne Samodoskonalenie (systemów sztucznej inteligenci miałyby zdolność samo replikowania się, zgodnie ze ścisłymi środkami bezpieczeństwa i kontroli).

3. Prawa socjalne

Nie można ominąć tematu związków oraz reprodukcji. Sophia – humanoidalny i emocjonalny robot z obywatelstwem – mogłaby zawrzeć związek małżeński lub się rozmnażać. Studenci z North Dakota State University podjęli kroki, aby stworzyć robota, który będzie miał umiejętność samo replikacji przy użyciu technologii druku 3D.

Jeśli więcej robotów stanie się obywatelami, tak jak Sophia, to być może będą chcieli dochodzić swoich praw do samo replikacji w inne roboty. I te roboty również byłyby obywatelami. Bez żadnych zastrzeżeń i ograniczeń co do możliwej ilości posiadania dzieci, bez problemu byłyby w stanie przekroczyć ludzką populację.

Jako obywatele z prawem do głosu, roboty mogłyby przeprowadzić zmiany społeczne. Prawa mogłyby się zmienić i nagle mogłoby się okazać, że ludzie znaleźliby się w miejscu, którego sobie nie wyobrażali.

Autor: Prof. Hussein Abbass, UNSW-Canberra.
Tłumaczenie: Mateusz Siemiński
Artykuł w języku angielski dostępny na The Conversation.