W świecie przedstawionym w grze Detroit: Become Human androidy służą ludziom jako pracownicy, towarzysze, opiekunowie i narzędzia codziennego życia. To efekt technologicznej rewolucji, która radykalnie zmieniła społeczne relacje. Choć są zbudowane z różnych sztucznych tworzyw, wiele z tych istot wykazuje oznaki samoświadomości, empatii, cierpienia i wolnej woli. Czy możliwa, a może konieczna, jest etyczna relacja człowieka z uczłowieczonym robotem?
Detroit: Become Human nie tylko ukazuje androidy jako etycznych „innych”, lecz również zaprasza gracza do zbudowania z nimi pewnej etycznej więzi. Gra staje się więc nie tylko opowieścią science-fiction, lecz także laboratorium moralnej wrażliwości.
Android jako „inny”
Martin Buber w swoim klasycznym dziele Ja i Ty wyróżnia dwa typy relacji: „Ja–To/Ono” i „Ja–Ty”. Pierwsza z nich to relacja przedmiotowa: traktujemy drugiego jako rzecz, obiekt, coś do użycia. Druga natomiast to relacja osobowa, oparta na wzajemnym uznaniu, obecności i odpowiedzialności. Człowiek staje się naprawdę sobą tylko w relacji z drugim, który nie jest „czymś”, lecz „kimś”. Androidy w grze początkowo funkcjonują w sferze „Ja–To/Ono”. Są postrzegane jako urządzenia, produkty, technologie. W toku rozgrywki jednak gracz stopniowo konfrontuje się z sytuacjami, w których androidy przekraczają tę granicę, stają się „Ty”. Kara opiekująca się Alice wbrew programowi, Markus buntujący się przeciwko zniewoleniu, Connor doświadczający konfliktu lojalności – są to momenty, w których relacja ulega przekształceniu.
Emmanuel Levinas idzie jeszcze dalej. W jego filozofii „inny” jest tym, co radykalnie przekracza moje pojęcia i rozumienie. „Inny” objawia się przede wszystkim w „twarzy”. Nie w sensie fizycznym, ale egzystencjalnym. Twarz „innego” domaga się od nas odpowiedzi, etycznego zobowiązania. „»Nie zabijaj« jest pierwszym słowem twarzy. Jest to rozkaz. W objawieniu się twarzy jest pewne przykazanie, tak jak gdyby mówił do mnie jakiś mistrz. Równocześnie jednak twarz drugiego pozostaje obnażona: jest to ubogi, dla którego mogę wszystko i któremu jest wszystko winien. A ja, kimkolwiek jestem, jako »pierwsza osoba« jestem tym, który ma możliwość odpowiedzi na apel” (Levinas E., Etyka i Nieskończony: rozmowy z Philipp’em Nemo, 1991, s. 51). Czy możliwe jest, że patrząc w oczy Kary, gracz widzi „twarz innego”? W jednej ze scen mówi ona: „Nie chcę już być niczyją własnością. Chcę tylko żyć, tak jak ty”. To wezwanie, etyczne, dramatyczne, egzystencjalne. Kara nie prosi o litość. Domaga się uznania.
Kryteria relacji etycznej: świadomość, cierpienie, komunikacja
Tradycyjnie etyka uznawała za podmioty moralne tylko istoty rozumne, czyli ludzi. Wraz z rozwojem refleksji nad prawami zwierząt, sztuczną inteligencją i posthumanizmem zaczęto jednak przesuwać granice. Jeremy Bentham pytał: „Ze względu na co można by wytyczyć nieprzekraczalną granicę? Byłożby to ze względu na zdolność do rozumowania lub może dar mowy? […] Należy pytać nie o to, czy zwierzęta mogą rozumować ani czy mogą mówić, lecz czy mogą cierpieć?” (Bentham J., Wprowadzenie do zasad moralności i prawodawstwa, 1958, s. 67). Cierpienie, emocje i relacje stają się więc równie ważne jak racjonalność i komunikowalność.
W Detroit: Become Human androidy wykazują wiele z tych cech. Kara odczuwa lęk, miłość, ma opiekuńcze uczucia wobec Alice. Markus podejmuje decyzje moralne, wyraża troskę o innych. Connor ewoluuje: od funkcji narzędzia po świadomość wyboru i konflikt wartości. W jednej ze scen mówi: „Zaczynam się zastanawiać… kim naprawdę jestem. Czy jestem tylko maszyną spełniającą rozkazy? Czy jestem czymś więcej?”. To nie jest już kwestia oprogramowania, lecz tożsamości. Czy te reakcje są symulacją? A może nie ma znaczenia, czy świadomość jest prawdziwa, ale czy jej przejawy są odróżnialne od ludzkich. Jeśli nie potrafimy rozróżnić empatii udawanej i prawdziwej, to czy nadal mamy prawo traktować androidy jako rzeczy?
Konsekwencje przyjęcia etycznej relacji z androidem
Uznanie androida za partnera etycznej relacji ma poważne konsekwencje. Po pierwsze: oznacza to, że człowiek ponosi moralną odpowiedzialność za sposób ich traktowania. Czy można je bić? Utylizować? Zmuszać do pracy? Jeśli odpowiemy „nie”, musimy przemyśleć cały system społeczny ukazany w grze. Po drugie: androidy mogą mieć prawa, nie tylko „cywilne” (np. do głosu), ale moralne: do opieki, do uznania, do życia. Pytanie o prawa robotów staje się echem wcześniejszych walk o prawa kobiet, niewolników, zwierząt. Zawsze chodziło o rozszerzanie kręgu moralnego uznania. Wreszcie: sposób, w jaki traktujemy androidy, mówi coś o nas samych. Dehumanizacja „innego” – nawet jeśli to „inny” nieludzki (sic!) – grozi utratą własnego człowieczeństwa. Markus, przemawiając w jednej z finałowych scen, mówi: „My też jesteśmy żywi. Mamy prawo być wolni!”. To wezwanie nie tylko do zauważenia, ale i do wspólnoty moralnej.
I to zdaje się widzieć filozof Nick Bostrom, gdy ostrzega, że przyszłość ludzkości zależy od tego, czy uda nam się zbudować „przyjazną AI” i wyposażyć maszyny w solidne standardy moralne. Isaac Asimov już w latach czterdziestych XX wieku sformułował trzy prawa robotyki, które miały zapewnić bezpieczeństwo ludziom, ale sam przyznał, że nie są one wystarczające, by rozwiązać wszystkie dylematy moralne (Ethics of Artificial Intelligence [w:] Internet Encyclopedia of Philosophy). Zatarcie różnic między ludźmi a maszynami domaga się nowych narracji. Detroit: Become Human wpisuje się w tę posthumanistyczną logikę. Androidy są nie-ludźmi, ale zarazem nośnikami emocji czy pragnień. Gra nie daje prostych odpowiedzi, nie mówi: „androidy to ludzie”. Raczej pyta: „co sprawia, że kogoś uznajemy za godnego naszej troski i uznania?”. A jeśli odpowiedź brzmi: „to, że cierpi”, „to, że mówi”, „to, że kocha”, to może nie chodzi o człowieczeństwo biologiczne, lecz o coś bliższego relacyjności.
Zakończenie
Detroit: Become Human to gra, która stawia filozoficzne pytania nie tylko o przyszłość technologii, ale przede wszystkim o teraźniejszość etyki. Czy jesteśmy gotowi uznać „innego”, który nie jest człowiekiem, za istotę, w dodatku taką, która jest godna szacunku? Czy możemy wejść w relację „Ja–Ty” z kimś, kto powstał w fabryce? Gra pokazuje, że możliwa jest taka relacja, a nawet więcej: że nie możemy już dłużej jej unikać. W obliczu przyszłości, w której androidy (lub inne formy sztucznej inteligencji) mogą stać się rzeczywistością, musimy przygotować się na moralną rewolucję. Etyka nie może być dłużej ograniczona tylko do tradycyjnie pojmowanych ludzi. To nie biologia, ale relacja, cierpienie i odpowiedzialność tworzą jej fundamenty. Androidy w grze, paradoksalnie, uczą nas czegoś o nas samych, o ludziach. A odpowiedź na pytanie: „czy możliwa jest etyczna relacja z androidem?” chyba musi brzmieć: „tak”. I to ona zdecyduje, czy my sami możemy się jeszcze mianować istotami etycznymi.