Cywilizacja

Czy za zbrodnie wojenne będzie trzeba sądzić komputerowe algorytmy? Sztuczna inteligencja jest skuteczna, ale niemoralna

Współczesne metody prowadzenia działań zbrojnych, przede wszystkim podejmowanie wielu decyzji przez komputery, powodują, że coraz trudniej jest dokonywać moralnej oceny tych działań.

Wszystko co lata w polskiej armii

Potrafią zrobić dobrą fotografię każdego samolotu. Tysiące metrów nad ziemią sprawy się jednak komplikują.

zobacz więcej
Wojna wymyka się coraz częściej tradycyjnemu nauczaniu moralnemu, które od wieków głosił Kościół. Nic nie wskazuje jednak na to, by Kościół miał pomysł na to, jak owo nauczanie uadekwatnić i dostosować do obecnych warunków.

Postępująca technicyzacja i automatyzacja działań wojennych, a także częściowe zastąpienie państw przez organizacje (często sieciowe) terrorystyczne w roli podmiotów prowadzących wojny sprawia, że dotychczasowa teoria wojny sprawiedliwej, a szerzej w ogóle chrześcijańskie myślenie o wojnie zaczyna być trudne do zastosowania do obecnych działań militarnych.

Niemoralne algorytmy

Kościół dostrzega to i coraz częściej o tym mówi, czego doskonałym przykładem jest ostatnie wystąpienie arcybiskupa Ivana Jurkovica, obserwatora Stolicy Apostolskiej przy Organizacji Narodów Zjednoczonych, podczas spotkania ekspertów dotyczącego nowych metod prowadzenia walk.

Wykład poświęcony był tak zwanej broni autonomicznej, to znaczy takiej, która zdolna jest do samodzielnego, bez udziału człowieka, wykrywania, identyfikowania, śledzenia i atakowania (a co za tym idzie niszczenia, neutralizowania) celów militarnych. Pierwszym rodzajem takiej broni były miny, jednak obecnie są to o wiele bardziej skomplikowane systemy, które stosowane są w nowoczesnej wojnie.

I właśnie przed nimi przestrzegał arcybiskup Jurkovic wskazując, że masowe wprowadzenie do użytku tego rodzaju broni prowadzi nieuchronnie do odczłowieczenia walki, pozbawienia jej jakiegokolwiek wymiaru etycznego. - Świat, w którym systemy autonomiczne zarządzają, rygorystycznie lub według kryteriów przypadkowości, fundamentalnymi kwestiami związanymi z życiem ludzi i narodów, doprowadzi nas niezauważalnie do dehumanizacji i osłabienia więzi prawdziwego i trwałego braterstwa rodziny ludzkiej - zaznaczył hierarcha.

Sztuczne, pozbawione kontroli ludzkiej systemy militarne - uzupełniał arcybiskup - prowadzą nieuchronnie do „nieodwracalnej zmiany charakteru działań wojennych, które staną się jeszcze bardziej nieludzkie, stawiając pod znakiem zapytania człowieczeństwo naszych społeczeństw”.
Pierwszym rodzajem broni, która zdolna była do samodzielnego, bez udziału człowieka, wykrywania, identyfikowania, śledzenia i atakowania były miny. Na zdjęciu miny przeciwpiechotne wykrytei zneutralizowane na granicy jordańsko-syryjskiej, lipiec 2008 roku. Fot. REUTERS/Majed Jaber
Skąd tak ostra ocena nowych, zautomatyzowanych metod zarządzania konfliktem? Odpowiedź jest prosta. Otóż sztuczna inteligencja kieruje się w procesach decyzyjnych wyłącznie algorytmami skuteczności, a nie kategoriami moralnymi. To zaś oznacza, że jeśli odkryje ona skuteczną metodę działań wojennych, to w ogóle nie będzie oceniała ich (bo jest z definicji do tego niezdolna) moralnej dopuszczalności.

- W obliczu dzisiejszych wyzwań zadania te stają się coraz bardziej złożone i zbyt skomplikowane, aby można je było powierzyć maszynie, która na przykład byłaby nieskuteczna w obliczu dylematów moralnych lub pytań wynikających z zastosowania tzw. zasady podwójnego skutku - mówił arcybiskup. Zasada ta, przypomnijmy stanowi, że… moralnie dopuszczalne są działania, które prowadząc do dobrego celu mogą mieć - potencjalnie - złe, choć niezamierzone, skutki.

Nieludzka wojna

Automatyzacja podejmowania decyzji w procesie działań militarnych prowadzi także do wymazania, a przynajmniej rozmycia odpowiedzialności konkretnych osób za konkretne decyzje, co bardzo utrudni jakiekolwiek późniejsze pociąganie do odpowiedzialności zbrodniarzy wojennych (bo trudno będzie za masowy mord osądzić komputer). Nie bez znaczenia jest także to, że takie uprzemysłowienie wojny w istocie odbiera jej ludzki (nawet jeśli jest to człowieczeństwo zdegenerowane) charakter.

Te słowa powinny być traktowane śmiertelnie poważnie, choć można oczywiście wskazywać, że są one wyrazem utopijnego czy przynajmniej idealistycznego założenia, że pewne procesy dają się w sposób prosty, za pomocą słów czy wystąpień odwrócić.

Arcybiskup, nawet jeśli automatyzacja i komputeryzacja działań wojennych staje się powoli standardem, zwraca bowiem uwagę na fundamentalny, nie tylko dla Kościoła, ale w ogóle dla oceny moralnej pewnych działań fakt, że nie ma jej tam, gdzie nie ma wolnej woli, możliwości moralnej oceny, i zgody na dramatyczne (a nie tylko pragmatyczne) decyzje.
03.10.2015
Algorytmy komputerów, jeśli zastąpią moralne decyzje dowódców czy przywódców, zniszczą ostatecznie możliwość budowania jakiejkolwiek spójnej doktryny moralnej dotyczącej wojny. Wszystko zostanie sprowadzone do kategorii interesów, sukcesu, pragmatyzmu.

Nie jest to jednak jedyny problem związany ze współczesnymi wojnami, które wymykają się klasycznym rozróżnieniom etyki. W katolickiej (ale podzielanej przez wieki także przez luteran czy chrześcijan reformowanych) teologii wojny sprawiedliwej ta ostatnia ma miejsce, kiedy jest to wojna obronna, prowadzona co więcej na swoich, a nie wrogich terenach, istnieje realna szansa na jej wygranie, celem ataków nie jest nigdy ludność cywilna, a przemoc stosowana jest jedynie w przypadkach uzasadnionych.

Czas na kościelny pacyfizm?

Takie wojny toczone są jednak obecnie o wiele rzadziej, niż w przeszłości, na co zwrócił uwagę już w 2003 roku w znakomitym eseju „Moral Clarity in a Time of War” George Weigel.

Amerykański filozof pokazuje, że w przypadku wojny z islamskim terroryzmem czy fundamentalizmem nie ma i nie może być mowy o walce z organizmami państwowymi - a to właśnie państwo w klasycznym myśleniu o wojnie sprawiedliwej powinno być podmiotem, przed którym się bronimy.

I wreszcie kwestia ostatnia, o której Weigel nie wspomina, ale która ma także ogromne znaczenie, a mianowicie trudność w odróżnieniu, kto jest a kto nie jest „armią”. Jasne granice między cywilami, zapleczem dla terrorystów i samymi terrorystami są w przypadku wielu współczesnych wojen nieostre.

Problematycznym pozostaje także mocne założenie, że wojna sprawiedliwa powinna być wojną obronną i toczyć się na własnym terenie. Atak uprzedzający bowiem, na co wskazuje Weigel, na przykład na kraj posiadający broń masowego rażenia może także być w istocie skuteczną i usprawiedliwioną metodą prowadzenia wojny sprawiedliwej.
Atak uprzedzający na kraj posiadający broń masowego rażenia może także być skuteczną i usprawiedliwioną metodą prowadzenia wojny sprawiedliwej - twierdzi amerykański filozof George Weigel. Na zdjęciu siedzi w środku podczas konferencji prasowej w kwietniu 2007 roku w Watykanie. Fot. Getty Images/Franco Origlia
Jakie wnioski należy wyciągnąć z tej sytuacji? Część z chrześcijańskich teologów uznaje, że kategoria „wojny sprawiedliwej” w ogóle powinna zostać odrzucona, a chrześcijański zdrowy rozsądek w kwestii wojny i pokoju, zastąpiony powinien zostać jakąś nową formą chrześcijańskiego pacyfizmu, a przynajmniej jednoznacznego potępienia każdej wojny.

Taką propozycję zdają się formułować uczestnicy ubiegłorocznej watykańskiej konferencji zorganizowanej przez Papieską Radę Iustitia et Pax oraz Pax Cristi International, którzy zaapelowali do Franciszka o napisanie encykliki, w której odrzuciłby on samą teorię wojny sprawiedliwej.

„W czasach pełnych ustrukturalizowanej, rozpowszechnionej przemocy Jezus głosił zupełnie nowy porządek, oparty na odrzucaniu przemocy i bezwarunkowej miłości Boga. Jezus wzywał swoich uczniów do miłości nieprzyjaciół (Mt 5,44) […]; do odrzucenia przemocy w oporze wobec czyniących zło (Mt 5,39); do budowania pokoju; do wybaczania i skruchy; oraz do bycia bogatymi w miłosierdzie (Mt 5–7). Jezus praktykował odrzucenie przemocy poprzez aktywny opór wobec systemowej dehumanizacji, jak wtedy gdy – wbrew regułom szabatu – uzdrowił mężczyznę z uschłą ręką (Mk 3,1–6); gdy przeciwstawił się możnym i kupcom na dziedzińcu świątynnym (J 2,13–22); gdy pokojowo, lecz zdecydowanie stanął w obronie kobiety oskarżanej o cudzołóstwo (J 8,1–11); gdy – w noc przed swoją śmiercią – nakazał Piotrowi schować miecz do pochwy (Mt 26,52)” - napisali uczestnicy konferencji. „Dla naszego Kościoła nadszedł czas, aby był żywym świadkiem i inwestował znacznie większe środki ludzkie i finansowe na rzecz promowania duchowości i praktyk czynnej rezygnacji z przemocy oraz formowania i szkolenia naszych wspólnot katolickich w skutecznych działaniach odrzucających przemoc” – uzupełnili.

Zniszczyć broń

Sam Franciszek na razie wydaje się podtrzymywać w tej sprawie stanowisko poprzedników, którzy bardzo ostrożnie wypowiadali się na temat wojny sprawiedliwej, niekiedy podkreślali jednak konieczność interwencji militarnych w obronie pokoju. Takich, które powinny się kierować ściśle określonymi zasadami moralnymi.

Bał się kosmitów i sztucznej inteligencji. Tomasz Rożek komentuje słynne sentencje Stephena Hawkinga

Wiedział, że w przyszłości człowiek wyruszy odważnie w kosmos, bo to jedyna droga do przetrwania naszego gatunku.

zobacz więcej
Jan Paweł II podkreślał, że jeśli już mowa o działaniach militarnych to powinny być one obronne i mieć „na celu ochronę ludności i pomoc humanitarną oraz rozbrojenie agresora”, nie mogą powodować „większego zła od tego, jakie przyniosła tocząca się wojna” i wreszcie „prowadzona być powinny przez ONZ, czyli przez organizację reprezentującą wszystkie narody świata”.

Wspólne papieżom ostatniego półwiecza jest także mocne ostrzeganie przed widmem globalnej wojny, która może zmieść świat z powierzchni ziemi. Mówili o tym i bł. Paweł VI i św. Jan Paweł II, a obecnie mówi o tym w niezmiernie ostrych słowach Franciszek. I nie chodzi tylko o słynny obraz „III wojny światowej w kawałkach”, ale także o obawy, jakie ma żywić papież przed wybuchem wojny jądrowej.

- Znajdujemy się na krawędzi. Wystarczy incydent, by rozpętać wojnę. Po takim kroku sytuacja grozi upadkiem. Dlatego należy zniszczyć broń, poczynić starania na rzecz rozbrojenia nuklearnego - mówił papież w samolocie lecącym do Santiago.

Czas apokalipsy?

A w czasie modlitwy w Dzień Zaduszny na cmentarzu żołnierzy amerykańskich w Nettuno pod Rzymem papież jeszcze mocniej podkreślał konieczność odrzucenia wojny. - Prosimy, Panie, nigdy więcej wojny, nigdy więcej, nigdy więcej tej daremnej masakry - mówił papież, odwołując się do słynnych słów papieża Benedykta XV z czasów I wojny światowej. - Nigdy więcej, Panie, a my musimy to powiedzieć dzisiaj w tym miejscu specjalnie dla tych młodych ludzi; dziś, gdy świat jest znów w stanie wojny i jeszcze bardziej się przygotowuje do wojny – uzupełniał.
Papież Franciszek na amerykańskim cmentarzu wojennym w Nettuno niedaleko Rzymu. Listopad 2017. Fot. REUTERS/Stefano Rellandini
Tych słów, doskonale wpisujących się w nauczanie Kościoła, nie należy jednak traktować jako pacyfizmu, a raczej jako świadomość, że każda kolejna wojna, szczególnie jeśli toczy się ona w jednym z kluczowych geopolitycznie miejsc, może stać się, właśnie z powodu stopniowej dehumanizacji sposobów jej prowadzenia, wojną ostatnią.

Apokaliptyczne tony słychać w nauczaniu Kościoła przynajmniej od czasów św. Jana Pawła II i nie należy ich lekceważyć. Dlatego na ten element nauczania papieskiego spoglądajmy raczej z perspektywy wiary, niż czystej polityki.

– Tomasz P. Terlikowski
Zdjęcie główne: Roboty, które będą miały możliwość bez udziału człowieka atakowania celów na polu walki powinny być zakazane - twierdzą organizatorzy kampanii "Zatrzymać roboty zabójców". W kwietniu 2013 roku ustawili wielki model robota przed gmachem brytyjskiego parlamentu w Londynie. Fot. REUTERS/Luke MacGregor
Zobacz więcej
Cywilizacja Najnowsze wydanie
Maszyny i… klapki japonki. Czym Chińczycy podbijają Afrykę
Pracownicy z Chin odmawiali siadania przy wspólnym stole podczas lunchu z Afrykanami i obrażali ich dając do zrozumienia, że źle wykonują swoją pracę.
Cywilizacja Najnowsze wydanie
Wzywał arcybiskupów do dymisji, będzie uczyć kleryków w Holandii
Po zakonniku kolejne upomnienia, kary, zakazy wypowiedzi spływały jak po kaczce.
Cywilizacja Najnowsze wydanie
Partia związana z antybrytyjskimi terrorystami wraca na salony
W ciągu 40 lat zginęło 3500 osób. Połowa to ofiary IRA. Do dzisiaj mnóstwo jest spraw niewyjaśnionych: kto i dlaczego zginął, kto wydał rozkaz, kto go wykonał, gdzie spoczywają ofiary skrytobójczych morderstw?
Cywilizacja Najnowsze wydanie
Do czego Putinowi są potrzebni „terroryści” z Sieci?
W Rosji zaczyna się rodzić zapotrzebowanie na lewicową alternatywę wobec obecnej władzy, która postrzegana jest jako ultraliberalna.
Cywilizacja Poprzednie wydanie
Obserwujmy anglikanów. Bo Kościół katolicki idzie ich śladem
Wielka Brytania dokonała brexitu. Ale metody funkcjonowania Kościoła Anglii nadal podbijają europejski katolicyzm.