Autoportret 3 [38] 2012, "Postciało"

1. ˇ
Giuseppe O. Longo
ilustracja: anna zabdyrska

2. Gall: Roboty prawie wcale nie odczuwają fizycz- inteligencji naśladującej symboliczne i abstrak- Tak odbyło się przejście, w planie epistemo-
nego bólu. Młody Rossum za bardzo zreduko- cyjne funkcje biologicznego mózgu, a zarazem logicznym, od funkcjonalistycznej SI do SI
wał ich system nerwowy. To nie dało dobrych unikającej wszelkiej interakcji z otoczeniem, wcielonej w roboty. Robot pod tym względem
wyników. Musimy, proszę pani, wprowadzić do ich traktowanym jako element zakłócający. Działa- przedstawia się jako sztuczne ciało wyposażone
organizmu wrażliwość na cierpienie [...] nie owej bezcielesnej, sztucznej inteligencji dało w sztuczny umysł, a nie jako sztuczny umysł
Helena: Czy będą szczęśliwsze, kiedy zaczną dobre wyniki w dziedzinach operujących kodem bezcielesny i odizolowany od świata. Przyszłość
odczuwać cierpienie? symboliczno-formalnym, ale kiedy próbowano ją najbardziej ambitnej SI, tej mianowicie, która
Gall: Wręcz przeciwnie, ale za to będą technicznie zastosować w sytuacjach codziennych, napo- dąży do zbudowania maszyn obdarzonych
doskonalsze. tykano bardzo poważne trudności, wynikające inteligencją, emocjami, być może świadomo-
Karel Capek, R.U.R. (Rossum’s Universal Robots)
ˇ właśnie z braku interakcji ciała z otoczeniem. ścią, może zatem zależeć od zrozumienia roli
Postanowiono zatem wyposażyć sztuczny umysł poznawczej naszych cielesnych czynności.
w sztuczne ciało, dysponujące narządami zmysłu
i organami wykonawczymi, zdolnymi do inte- Robot i cyborg
S
ystem albo aparat poznawczy rakcji ze światem zewnętrznym. Doprowadziło to
człowieka działa na dwa podstawo- do konstrukcji robota obdarzonego inteligencją Wprowadzenie robotów w obręb społeczeń-
we sposoby. Pierwszy, najbardziej szerszą i bardziej giętką od funkcjonalistycznej stwa stawia wiele pytań natury technicznej,
archaiczny zarówno z punktu wi- SI oraz dysponującego pewną autonomią decyzji społeczno-kulturalnej, ale też etycznej. Na
dzenia gatunku, jak i jednostki, to poznanie i działania. SI uświadomiła nam, że mogą istnieć przykład: czy rozpowszechniona wrażliwość
niedyskursywne, globalne i bezpośrednie, struktury poznawcze inne od ludzkiej, również przejawiana w stosunku do ludzi i zwierząt
osiągane przez ciało i w ciele, w jego struk- pozbawione świadomości oraz komponentów zostanie prędzej czy później przeniesiona
turze i w jego funkcjach biologicznych, oraz emocjonalnych i uczuciowych. Ponadto umoż- również na roboty, czy też ich natura maszy-
kierujące się uczuciami i emocjami. Drugi, liwiła nam refleksję nad naszą inteligencją: ny oraz ich funkcja służebna będą cały czas
nowszy z punktu widzenia ewolucji i później- różnice i podobieństwa między nimi odsłoniły wysuwać się na pierwszy plan? Czy wysiłki,
szy w rozwoju jednostki, to poznanie świado- wiele cech naszej inteligencji, które przedtem jakie wkładamy w to, by obdarzyć je inteli-
me, dyskursywne i racjonalne. Innymi słowy, nam umykały. Uzmysłowiła nam znaczenie ciała, gencją, autonomią, zdolnością uczenia się
i w znacznym uproszczeniu: po jednej stronie emocji, świadomości, podważając dualistyczną oraz docelowo również wrażliwością, emocjo-
poznanie cielesne, po drugiej – rozumowe. koncepcję oraz tradycyjne pierwszeństwo res nalnością i świadomością, zaowocują kiedyś
cogitans nad res extensa. uczynieniem ich czymś szlachetniejszym
Historia zachodniej nauki jest długą historią i bliższym człowiekowi? Ale nasuwa się jeszcze
prób zmierzających do przeniesienia treści Innymi słowy, uświadomiliśmy sobie, że inne, bardziej niepokojące pytanie: jakim
poznawczych z pierwszego do drugiego obsza- także „maszyny inteligentne”, jeśli chcą prawem budujemy maszyny, które są istotami
ru, czyli z wiedzy biologicznej, zakorzenionej odtworzyć mniej lub bardziej wiernie ludzką do tego stopnia inteligentnymi i wrażliwymi,
w ciele (ciele zanurzonym z kolei w środowisku) inteligencję, nie mogą się obyć bez odpowied- że kiedyś mogłyby zdać sobie sprawę z tego, że
do racjonalności bezcielesnej. Inaczej rzecz nika ciała – z całą jego aktywnością poznaw- nie są nimi jeszcze do końca? Po co wywoływać
ujmując, chciałoby się przełożyć na oschły czą głęboką, po części być może niealgoryt- z nicości twory tak do nas podobne, że wręcz
język mentalnej abstrakcji (w szczególności: miczną. Bezcielesna inteligencja jest zbyt zdolne do cierpienia? Ich cierpienie, wynikają-
matematycznej symboliki) bujne struktury krucha i ograniczona. Próba przełożenia na ce ze świadomości własnej nieprzystawalności
ciała, przyrody i świata; chciałoby się uczynić wiedzę wysoką, racjonalną i dyskursywną do człowieka, byłoby smutną konsekwencją
dyskursywnym, świadomym i czytelnym to, co masy wiadomości materialnych, cielesnych naszej demiurgicznej władzy: tworząc cały ród
jest niedyskursywne, nieświadome i niejasne. i niedyskursywnych napotyka przeszko- „cierpiących maszyn”, bralibyśmy na siebie
dę charakterystyczną dla każdego procesu nader trudną odpowiedzialność.
Próba ta zaowocowała dyskursem funkcjonali- tłumaczenia, czyli nieadekwatność. Pozostaje
stycznym sztucznej inteligencji (SI), dążącym ciągle jakaś reszta, niesforna i uporczywa, Te same pytania można zadawać – i są ku temu
do zbudowania bezcielesnego umysłu, czyli niedająca się przełożyć. być może jeszcze mocniejsze podstawy – w od-
autoportret 3 [38] 2012 | 31

3. Elektromechaniczny prototyp tytułowego bohatera
Rossums Universal Robots K. Capka z praskiej
ˇ
inscenizacji z 1921 roku
Budowa sztucznego człowieka może zatem Zmieszanie porządków naturalnego i sztucz-
odbywać się na dwa sposoby: możemy nego doprowadzi prędzej czy później do
uczyć się od przyrody, usiłując ją naśla- niemożności rozróżnienia między tym, co
dować (robot), albo współdziałać z nią, ludzkie, a tym, co nieludzkie, i poruszy
przetwarzając ją i uzupełniając (cyborg). delikatne zagadnienie definicji osoby: jak
W robotach spływają, łączą się i scalają określić „rekwizyty minimalne”, które
protezy ruchowe i wykonawcze, protezy istota powinna posiadać, by zostać uznana
recepcyjne oraz protezy poznawcze. Robot za osobę i cieszyć się należną jej godnością?
odznacza się poza tym pewną autonomią Czy istnieje jakiś stopień naśladowania
oraz określoną zdolnością do nauki, które funkcjonalnego, powyżej którego już można
czynią z niego wiarygodnego kandydata do albo wręcz trzeba mówić o ludzkim charak-
ewolucji cielesno-umysłowej typu zarówno terze, a zatem o godności ludzkiej arte-
humanoidalnego, jak i alternatywnego faktu? I z drugiej strony, czy istnieje jakiś
względem modelu ludzkiego. Ewolucja, stopień substytucji protetycznej, po którego
która kierowałaby się modelem ludzkim, przekroczeniu cyborg przestaje być osobą?
mogłaby doprowadzić do powstania ma- W toku tych rozważań rodzi się kolejne
szyn potencjalnie niedających się odróżnić pytanie: czy artefakty naśladowcze mogą
od nas z punktu widzenia funkcji (intelek- wprowadzić zmiany w naszym pojmowaniu
tualnych, wykonawczych, percepcyjnych, ciała i natury ludzkiej (podobnie jak sztucz-
emocjonalnych…), choć rozpoznawalnych na inteligencja zmieniła nasze rozumie-
z racji odmienności materiałów oraz po nie inteligencji)? Konstrukcja sztucznego
części struktury i wyglądu. człowieka mogłaby podnieść artefakty do
godności ludzkiej lub też sprowadzić ludzi
fot.: flickr
Zbieżność funkcji i struktur robota z funk- do poziomu maszyn.
cjami i strukturą człowieka zapowiada
zmieszanie natury z techniką. Ich krzy- Dlaczego budujemy roboty?
niesieniu do cyborgów, będących wynikiem żowanie jeszcze bardziej niż w robotach
hybrydycznego połączenia ludzkich istot ujawnia się jednak w cyborgach, czyli W naszych narracjach literackich lub kino-
z artefaktami. Czy cyborg zasługuje na miłość w stworzeniach cyb(ernetyczno)organicz- wych roboty, androidy czy też cyborgi prawie
i współczucie, czy też wystąpił definitywnie nych, pochodnych daleko posuniętej hy- zawsze ujawniają rozdzierające pragnienie,
ze społeczności ludzkiej, by wejść w sferę brydyzacji, która wychodząc od człowieka, by stać się w pełni ludźmi. Pragnienie to
nieokreśloną i trudną do zdefiniowania, gdzie dąży do tego, by zastąpić coraz to bardziej kryje w sobie bolesne „poczucie niższości”.
jest wydany na pastwę naszych kaprysów? Czy rozbudowane i złożone organy oraz apara- Jest ono jednak n a s z ą projekcją: z jakiego
replikanci z Łowcy androidów, cudowne androidy ty człowieka – ramiona, ręce, oczy, uszy, bowiem powodu tak bardzo od nas odmienne
i androidki o wątpliwym statusie, powinni na- mózg – syntetycznymi komponentami. (oraz być może lepsze) twory miałyby chcieć
prawdę zostać wyeliminowani tylko dlatego, że Dążenie do stopniowej wymiany wynika, upodobnić się do nas, jeśli nie po to, by przy-
dążą do długowieczności? I czy dążenie to nie przynajmniej częściowo, ze świadomości, że podobać się swoim próżnym twórcom?
jest również cechą ludzką? Krótko mówiąc, kto ciało i jego części ulegają zużyciu i że walkę
decyduje, co to znaczy być istotą ludzką i komu tę, prędzej czy później, przegrają. Robot Niektórzy uważają, że kiedyś roboty będą lep-
godność ta się należy? Być może wkrótce trzeba znajduje się już na starcie w sytuacji całko- sze od ludzi wskutek procesu ewolucji, który,
będzie napisać na nowo Powszechną Deklarację witej sztuczności i dąży do naśladowania choć rozpoczęty przez człowieka, miałby się
Praw Człowieka, obejmując nią również istoty, funkcji. Punktem dojścia zarówno jednego, rozwijać niezależnie od nas. Agresja i ludzkie
których definicja na razie wymyka się wszelkiej jak i drugiego pozostaje ten sam sztuczny zło są konsekwencją walki o przetrwanie,
próbie klasyfikacji… człowiek. którą człowiek musiał toczyć w ciągu swojej
autoportret 3 [38] 2012 | 32

4. ewolucji. Roboty będą jednak ewoluować ca, gdy przeglądamy się w lustrze naszego Helena: Po cóż w takim razie panowie je pro-
w otoczeniu bardzo od naszego odmiennym: wyobcowującego alter ego, jakim staje się dukujecie?
otoczeniem robotów w dużym stopniu j e - robot? Przedsięwzięcie robotyki – zbudowa- Busman: Ha, ha, hea, a to dobre! Po co produ-
s t e ś m y m y. Dlatego właśnie, jeśli chcemy, nie prawdziwego s z t u c z n e g o c z ł o w i e k a kuje się Roboty!
żeby ten nowy gatunek był lepszy od nas, – może, na zasadzie analogii lub kontrastu, Fabry: Żeby pracowały, droga pani. Jeden
a nawet pomógł nam polepszyć nas samych dostarczyć nam cennych wskazówek doty- Robot zastąpi niemal trzech robotników.
(skoro otoczeniem człowieka mogłyby kiedyś czących nas samych, podobnie jak działo Maszyna, jaką jest człowiek, okazała się sza-
być o n e), powinniśmy bardzo uważać na się to w wypadku SI. Czy w tej perspek- lenie niedoskonała. Trzeba ją było wreszcie
to, jakie „sztuczne usposobienie” nadajemy tywie wzajemnego przyglądania się sobie usunąć1.
tym stworzeniom – przy równoczesnym robot może stanowić laboratorium (sztucz-
zastrzeżeniu, że kiedy ma się do czynienia nej) etyki? To jednak nie odpowiada na podstawowe
z istotami autonomicznymi, nie wszystko da pytanie: po co budować maszyny tak do nas
się przewidzieć. W perspektywie tej wpaja- Wreszcie można sobie zadać pytanie: d l a - podobne? Można by powiedzieć, że budowa-
nie w roboty pragnienia naśladowania nas c z e g o b u d u j e m y r o b o t y? W wielu nie sztucznego człowieka odpowiada ludzkiej
może się okazać regresem lub przynajmniej wypadkach odpowiedź jest oczywista: żeby ambicji stworzenia sztucznego człowieka
przeszkodą na drodze ich ewolucji etycznej wykonywały zadania ciężkie, niebezpieczne, – gotowej pogwałcić tajemnice przyrody, by
ku dobroci. nużące; albo po to, by zastąpiły ludzką siłę móc naśladować mechanizmy jej działania.
roboczą, powiększając w ten sposób zysk Jest jednak inna, bardzo subtelna i niepo-
Coraz szybszy postęp tak wyrafinowanej i su- i wydajność; albo wreszcie po to, by pomagać kojąca odpowiedź: ludzkość gra pierwsze
gestywnej technologii, jaką jest robotyka, nie specjalistom podczas delikatnych operacji skrzypce w szóstym masowym wymieraniu
może nie mieć głębokiego wpływu na obraz chirurgicznych. W dramacie R.U.R. Karel i robi wszystko, by wejść do grona zanikają-
nas samych i tego, co to znaczy być człowie- Čapek rozwiązał to zagadnienie w sposób cych gatunków. Czując zbliżający się koniec
kiem. Jaki obraz nas samych do nas powra- bardzo pragmatyczny: przygody, chce pozostawić po sobie ślad wła-
snej wielkości, dlatego buduje maszyny, które
mogą ją przeżyć i będą przypominać tym,
którzy przyjdą (komu? maszynom samym?),
przeszłość pełną chwały. Tak jak sugeruje
następujący epizod.
13 maja 2004 roku przed liczną, bardzo młodą
publicznością tokijska orkiestra filharmo-
niczna zagrała V Symfonię Beethovena pod ba-
tutą Qrio, robota humanoidalnego produkcji
Sony, który – po pierwszej chwili niepewno-
ści – nie najgorzej się wykazał, dodając kolej-
ny kamyczek do mozaiki ludzkich czynności
wykonywanych (lub naśladowanych) przez
maszyny. Wykonam teraz małe ćwiczenie
fantasocjologii – i wyobrażę sobie wnuka
Qrio, który dyryguje orkiestrą robotów
przed publicznością robotów. Jeśli zabraknie
1
K. Čapek, R.U.R. Rossums Universal Robots, przeł. A. Siecz-
kowski, [w:] tegoż, Dramaty, Warszawa: PIW, 1956, s. 35.
W roku 2004 robot Qrio dyrygował w Tokio V Symfonią
Beethovena, cztery inne zatańczyły w wideoklipie
fot.: leo cocca
Hell Yes Hansena Becka. Qrio wystąpiły również
w amerykańskim serialu science fiction pt. Battlestar
Galactica.

5. ludzi, kto będzie zadawał sobie wszystkie te rwanej regeneracji oprogramowań – będzie w której czuje się usytuowanym. Gdyby kon-
pytania? Gdzie się podzieje sens? Kto będzie mógł faktycznie osiągnąć coś możliwie trolę nad płatami mózgu, które odpowiadają
pytał siebie, o co? Co stanie się z szaleństwem najbardziej zbliżonego do nieśmiertelności. za świadomość, przejął interfejs mózg–robot,
ludzkim? Co stanie się ze sztuką, z poczuciem Będzie to wprawdzie nieśmiertelność tylko wtedy nie tylko granica między człowiekiem
humoru, z transgresją, z kreatywnością, z racji niezmienności struktury i funkcji a maszyną stałaby się płynna, lecz sama toż-
z zabawą i nonsensem? Kto wyczuje różnicę przy zmienności materialnych nośników, ale samość indywidualna mogłaby ulec modyfi-
między łzą a kroplą deszczu? będzie to zawsze une espèce d’immortalité. kacjom, skoro sygnały cielesne mają kluczowe
znaczenie w świadomej definicji tego, czego
Jakiejkolwiek odpowiedzi udzielimy na pod- Cyborg a problemy tożsamości doświadczamy jako „ja”. Krótko mówiąc, sym-
stawowe pytanie: dlaczego budujemy roboty bioza człowiek–maszyna, która zarysowuje
humanoidalne?, nie ulega wątpliwości, że Cyborg – jak mówiliśmy wyżej – jest rezulta- się na horyzoncie, stawia subtelne problemy
zrodzi się z niej natychmiast wiele nowych tem wszczepienia sztucznych protez w ludzki natury tożsamościowej i etycznej: wzmocnie-
pytań, ujawniających naturę kulturowo-spo- organizm: narządów zmysłu, organów wyko- nie poznawcze osiągnięte wskutek cyborga-
łeczną i etyczną pierwszego pytania: jakie nawczych, a nawet implantów mózgowych nicznej fuzji mogłoby spowodować utratę toż-
społeczeństwo projektujemy, budując roboty? i interfejsów mózg–komputer. Nie są to tylko samości, której konsekwencje psychologiczne
Jakie wartości chcemy wzmocnić, a jakie osła- protezy przeznaczone do wykonywania czyn- (lub psychopatologiczne) mogłyby być bardzo
bić? Wielu badaczy nie wykazuje najmniejsze- ności, których organizm nie jest już w stanie poważne. Problem świadomości i samoświa-
go zainteresowania tymi problemami i kroczy wykonywać, czy też kompensujące ewentualne domości przestrzenno-cielesnej cyborga jest
dalej, spokojnie lub wręcz entuzjastycznie, okaleczenia. Najbardziej charakterystyczną niepokojący i – jak dotąd – nierozwiązany,
drogą innowacji technicznych. Inni wolą cechą protez cyborganicznych jest zdolność do nawet w perspektywie przyszłości.
krótszą perspektywę, stosując się do kodeksów wzmacniania i rozszerzania funkcji natu-
podobnych do praw Asimova. Inni wreszcie ralnych – czy chodzi o zmysły, ruchy czy też Tłumaczenie z włoskiego:
– ale to mniejszość – wybierają perspektywę zdolności poznawcze. Emiliano Ranocchi
średnio- i długoterminową, próbując sobie
wybrana literatura:
wyobrazić możliwe scenariusze tego, co już Wśród protez warto wymienić interfejsy
• A.G. Biuso, La mente temporale. Corpo Mondo Artificio, Roma:
powoli zarysowuje się jako prawdziwa inwazja człowiek-maszyna, w szczególności te łączące Carocci, 2009.
robotów. mózg z komputerem. Technologie te znajdują • O. Blanke, J.E. Aspell, Brain Technologies Raise Unprecedented
się jeszcze w fazie eksperymentowania, ale Ethical Challenges, „Nature”, 9.04.2009.
Implikacje robotyki i etyki robotów mieszają rozwijają się w zawrotnym tempie. Przyrzą- • N. Bonifati, G.O. Longo, Homo immortalis. Una vita (quasi)
infinita, Milano: Springer Italia, 2012.
się ze scenariuszami wypracowanymi w tej dy obiecują znaczne korzyści terapeutyczne, • F. Fukuyama, Koniec człowieka, przeł. B. Pietrzyk, Kraków:
zasobnej pracowni hipotez o przyszłości, na przykład w wypadku niektórych chorób Znak, 2004.
jaką jest fantastyka naukowa. Budowa coraz neurodegeneracyjnych, lecz stawiają również • G.O. Longo, Il nuovo golem: come il computer modifica la nostra
bardziej złożonych i podobnych do nas robo- nowe pytania. Już dziś sygnały wychwytywa- cultura, Roma-Bari: Laterza, 1998.
• G.O. Longo, Homo technologicus, Roma: Meltemi, 2001.
tów wiąże się w szczególności z perspektywą ne przez elektrody wszczepione w korę rucho-
nieśmiertelności. Podobnie jak słynni dyry- wą mogą służyć do kierowania ruchami rąk
genci, artyści, poeci i wybitni matematycy i nóg robotycznych. W przyszłości implanty
dążyli do nieśmiertelności tylko w pamięci korowe mogłyby być stosowane do tego, by
potomności, tak i my, zwykli śmiertelnicy badać ludzką świadomość cielesną, czyli
(jakże okrutne to określenie!), próbujemy percepcję, że ma się ciało, albo że jest się cia-
przynajmniej przekazać najintymniejszą łem. Niektórzy badacze studiują możliwości
istotę naszego ducha, naszej duszy, naszego manipulacji ową percepcją, z którą wiążą się
umysłu sztucznemu człowiekowi, który – przecież fundamentalne aspekty świadomości
dzięki ustawicznej zamianie uszkodzonych siebie, jak na przykład właśnie ciało, z któ-
części, skrupulatnej konserwacji i nieprze- rym człowiek się utożsamia, oraz przestrzeń,
autoportret 3 [38] 2012 | 34