Leon XIV: Ryzyko jest ogromne. Sztuczna inteligencja może nas zwieść

Według Ojca Świętego chatboty wkraczają w najbardziej intymną sferę życia człowieka, sztuczna inteligencja może przywłaszczać nasze twarze czy głos. Przestrzegł przed jej bezkrytycznym zawierzaniem. 

Wszystko to może jeszcze bardziej osłabić naszą zdolność do analitycznego i kreatywnego myślenia, rozumienia sensów, rozróżniania między składnią a semantyką - ocenił.

Zdaniem Leona XIV już teraz systemy sztucznej inteligencji coraz częściej przejmują kontrolę nad produkcją tekstów, muzyki i filmów, „przemieniając osoby w biernych konsumentów nieprzemyślanych idei, anonimowych produktów, pozbawionych autorstwa i miłości”, podczas, gdy arcydzieła ludzkiego geniuszu w dziedzinie muzyki, sztuki i literatury są sprowadzane do roli pola treningowego dla maszyn. Wezwał do mądrego wykorzystania tych nowych narzędzi.

Rezygnacja z procesu twórczego i przekazanie maszynom własnych funkcji umysłowych i wyobraźni oznacza jednak pogrzebanie talentów, które otrzymaliśmy, aby wzrastać jako osoby w relacji z Bogiem i innymi ludźmi. Oznacza to ukrycie naszej twarzy i wyciszenie naszego głosu - napisał.

Skradziona tożsamość

Ojciec Święty zaapelował o strzeżenie własnych twarzy i głosów.

Od chwili stworzenia Bóg pragnął człowieka jako swojego rozmówcę i – jak mówi św. Grzegorz z Nyssy  – odcisnął na jego twarzy odblask miłości Bożej, aby mógł w pełni przeżywać swoje człowieczeństwo poprzez miłość. Strzeżenie ludzkich twarzy i głosów oznacza zatem strzeżenie tej pieczęci, tego nieusuwalnego odblasku miłości Boga. Nie jesteśmy gatunkiem złożonym ze zdefiniowanych z góry algorytmów biochemicznych. Każdy z nas ma niezastąpione i niepowtarzalne powołanie, które wynika z życia i objawia się właśnie w komunikacji z innymi - zauważył.

Jeśli nie będziemy przestrzegać tej zasady, technologia cyfrowa może radykalnie zmienić niektóre z fundamentalnych filarów cywilizacji ludzkiej, które czasami uważamy za oczywiste. Symulując ludzkie głosy i twarze, mądrość i wiedzę, świadomość i odpowiedzialność, empatię i przyjaźń, systemy znane jako sztuczna inteligencja nie tylko ingerują w ekosystemy informacyjne, ale także wkraczają na najgłębszy poziom komunikacji, czyli ten dotyczący relacji międzyludzkich - podkreślił.

Wyzwanie to nie ma zatem charakteru technologicznego, ale antropologiczny. Ochrona twarzy i głosów oznacza ostatecznie ochronę nas samych. Przyjęcie z odwagą, determinacją i rozeznaniem możliwości oferowanych przez technologię cyfrową i sztuczną inteligencję nie oznacza ukrywania przed nami samymi punktów krytycznych, niejasności i zagrożeń - wskazał.

Ucieczka od rzeczywistości

 Papież zwrócił też uwagę na to, jak mocno sztuczna inteligencja, poprzez rozmaite czatboty itp. potrafi symulować prawdziwe relacje itd. 

W ten sposób pozwalamy się okraść z możliwości spotkania z drugim człowiekiem, który zawsze jest inny od nas i z którym możemy i musimy nauczyć się konfrontować. Bez akceptacji odmienności nie może być ani relacji, ani przyjaźni - ocenił.

Ryzyko jest ogromne. Potęga symulacji jest tak wielka, że sztuczna inteligencja może nas zwieść, wytwarzając równoległe ‘rzeczywistości’ i przywłaszczając sobie nasze twarze i nasze głosy. Jesteśmy zanurzeni w wielowymiarowości, w której coraz trudniej jest odróżnić rzeczywistość od fikcji - ostrzegł.

Narzędzie do kontroli nad ludźmi czy szansa?

Leon XIV zwrócił uwagę na zagrożenia płynące za tym, że za systemami sztucznej inteligencji stoi w zasadzie kilka podmiotów.

Za tą ogromną, niewidzialną siłą, która nas wszystkich ogarnia, stoi tylko garstka firm, których założyciele zostali niedawno przedstawieni jako twórcy „osoby roku 2025”, czyli architekci sztucznej inteligencji. Budzi to poważną obawą oligopolistyczną kontrolę nad systemami algorytmicznymi i sztuczną inteligencją, które są w stanie subtelnie ukierunkowywać zachowania, a nawet na nowo pisać historię ludzkości – włącznie z historią Kościoła – często w taki sposób, że nie jesteśmy w stanie naprawdę sobie z tego zdać sprawy- podkreślił.

Papież przedstawił swoje wnioski wobec tych zagrożeń.

Stojące przed nami wyzwanie nie polega na zatrzymaniu innowacji cyfrowej, ale na kierowaniu nią, mając świadomość jej ambiwalentnego charakteru. Każdy z nas powinien zabrać głos w obronie osób, tak aby narzędzia te mogły zostać przez nas naprawdę zintegrowane jako sprzymierzeńcy - napisał.

Jego zdaniem potrzebne są odpowiednie regulacje.

Treści generowane lub manipulowane przez sztuczną inteligencję należy wyraźnie oznaczać i odróżniać od treści tworzonych przez osoby. Konieczna jest ochrona autorstwa i suwerennego prawa własności do dzieł dziennikarzy i innych twórców treści. Informacja jest dobrem publicznym - podkreślił.

Zwrócił też uwagę na wagę edukacji,

Jako katolicy możemy i musimy wnieść swój wkład, aby ludzie – zwłaszcza młodzi – nabyli umiejętność krytycznego myślenia i wzrastali w wolności ducha. Ta alfabetyzacja powinna być również włączona w szersze inicjatywy kształcenia ustawicznego, obejmujące również osoby starsze i marginalizowanych członków społeczeństwa, którzy często czują się wykluczeni i bezsilni w obliczu szybkich zmian technologicznych - stwierdził.