Hogyan gondolkodjunk a technológiai világvégepánikokról?
A technológiai apokalipszisnek hosszú az előélete: az emberiség szinte minden nagyobb technológiai ugrás mellé megtermelte a maga végítélet-forgatókönyvét. A történelem folyamán számtalan vallási és morális világvégepánikot láttunk, amelyek árnyékában jelentek meg a technológiai hátterű pánikok. Az 54 vizsgált, vélt vagy valós alapokon nyugvó pánik több tengely mentén osztályozható.
Az első tengely a kimenetel kérdése: lehet beigazolódott – például a nukleáris fegyverek és az ózonlyuk –, részben beigazolódott, de rosszul specifikált – mint Malthus és a Római Klub erőforrás-kimerülés prognózisai –, megcáfolódott – például a 2012-es Nibiru/Planet X pánik, amely miatt a NASA-nak külön cáfolóoldalt kellett üzemeltetnie, és a tudósok riadt emberek, köztük gyerekek és öngyilkosságot fontolgatók leveleinek és hívásainak áradatát kapták –, önmagát meghiúsító jóslat – például a Y2K és a zöldforradalom Paul Ehrlich ellenében –, végül eldöntetlen, mint a jelenlegi MI-kihalási vita.
A második tengely a riadó forrása: lehet tudományos/technológiai bennfentes, felháborodott moralizáló, geopolitikai vagy piaci versenytárs, illetve politikai vagy médiaszélhámos. A legnagyobb probléma, hogy idővel e kategóriák összemosódnak, és az aggódó technológiai bennfentes könnyen megélhetési pánikkeltővé válik.
A harmadik tengely a feltételezett katasztrófamechanizmus: fizikai megsemmisülés (atombomba okozta légkörgyulladás, szürke nanomaszlag), ökológiai összeomlás (Malthus, Római Klub, klímaválság), irányításvesztés egy cselekvő entitás javára (Butler gépei, Bostrom szuperintelligenciája, a mai ügynökraj), erkölcsi-antropológiai hanyatlás (Platón írása, Csuang-ce gépi szíve, degenerációelmélet, médiapánikok), gazdasági kiszorítás (Vespasianus, ludditák), információs zűrzavar (Gessner információs túlterhelése, ma a dezinformáció).
A negyedik tengely a fenyegetés episztemológiai státusa: előre, nagy biztonsággal kiszámítható (a nukleáris kísérlet okozta légkörgyulladás hipotézise, az LHC által gerjesztett mini fekete lyukaktól való félelem), statisztikai vagy számítógépes modelleken alapuló (Malthus, klímaválság), illetve pusztán spekulatív. Az utóbbi két kategória között a határvonal nem mindig egyértelmű.
Az ötödik tengely a fenyegetett értékek kérdése: a totális kihalástól a civilizációs összeomláson és erkölcsi hanyatláson át bizonyos iparágak és munkahelyek elvesztéséig terjedhet. A hatodik tengely a válaszlépéseké: a világkormány megalapításától az államon belüli drákói tiltásokig és a személyes szabadságjogok korlátozásáig, a moratóriumokon és szabályozáson át a szimbolikus nemzetközi egyezményekig. A legfontosabb kérdés, hogy a javasolt megoldás kárai nem haladják-e meg a technológiai válság által gerjesztett károkat.
A történelmi tapasztalat sem a megnyugtató „mindig túléltük”, sem a riasztó „ezúttal biztosan végünk” következtetést nem támasztja alá. A helyes olvasat közepesen bizonytalan, feltételes és a konkrét, megfigyelhető mérföldkövektől függ. Az első tanulság a megelőzési paradoxon: ahogy a sikeres tűzoltás után sosem tudjuk, mekkora lett volna a tűz, úgy a sikeres megelőzés önmagát teszi feleslegesnek látszóvá. A Y2K-nál épp azért nem lett katasztrófa, mert sokat költöttek rá – ez cáfolhatatlanná teszi mind az „álpánik volt”, mind a „megmentettük magunkat” állítást.
A második a bennfentes riadó jelzésértéke: minél szűkebb szakterületről van szó, a döntéshozók annál jobban rá vannak szorulva a domén szakembereire. Két csapda leselkedik ránk: néha a szakma nagy nevei is tévednek, és a szakértő is csak ember, érdekekkel, ideológiákkal, előítéletekkel. Az sem teszi valakit nemzetbiztonsági, gazdasági vagy morális tekintéllyé, hogy az MI úttörői közé tartozik.
A harmadik a túlreagálás ára. A legjobb példa az atomerőművek népszerűtlensége Nyugaton annak ellenére, hogy bizonyítottan biztonságosabb energiaforrásról van szó (0,03 haláleset/TWh), mint például a szén (24,62 halál/TWh).
A negyedik tanulság, hogy a domináns hibaforma a rossz specifikáció. A történelmi jóslatok ritkán teljesen tévesek, sokkal gyakrabban rosszul specifikáltak: jó a mechanizmus, rossz az időzítés, a mérték vagy a forma. Malthus logikája nem volt buta, csak nem számolt a termelékenységi ugrással. Valószínűbb, hogy a mai MI-jóslatok nem a határesetekben, a kihalásban vagy a semmiben, hanem a részletekben tévednek: a fenyegetés valós, de a károk lassabbak és diffúzabbak lesznek.
Az MI sok tekintetben sui generis kihívás – egy gyakran hangoztatott klisé szerint 1945-ben az atombomba nem volt ott minden zsebben. Ez a nehézség azonban nem jelent felmentést a kötelezettség alól, hogy megpróbáljunk nem érzelmek és indulatok, hanem a rendelkezésünkre álló tapasztalatok és tudásanyag alapján gondolkodni módszeresen erről a kérdésről.
