Az utóbbi hetekben politikusok, újságírók, sőt maguk a mesterséges intelligencia fejlesztői is félreverték a harangot. Arról beszélnek, hogy a gépi értelem végzetes veszélyt jelent az emberiségre. Sőt, az AI elszabadulása az egyik híres világvége-elmélet.
De hogyan árthat nekünk egy számítógépes program, ami eleve működésképtelen, ha kikapcsoljuk az áramot? Hiszen nincs neki teste!
Az első, és szinte elkerülhetetlen hatás az, hogy átrendezi a gazdaságot. Egy sor munkahely feleslegessé válik. Grafikusok, fotósok, mérnökök, szövegírók helyét veszi át az AI. Már a Kispolgárnál sem dolgozik illusztrátor, mivel a gép másodpercek alatt és fillérekért elkészül a szükséges képpel. Sőt, orvosok, fordítók, tolmácsok és filmesek munkáját is elvégzi elfogadható minőségben, ezenkívül gépeket kezel, járműveket vezet, pénzügyi döntéseket hoz. Ez egy csomó embernek teszi nehézzé az életét – de az emberiséget azért nem pusztítja ki.
A legnagyobb veszély ma az, hogy rosszindulatú emberek – terroristák, bűnözők vagy ellenséges államok – használják a mesterséges értelmet olyan célokra, amiket maguktól nem tudnának elérni. Ilyen a fegyverfejlesztés és a kiberhadviselés. Az AI segítségével olyanok is képesek lehetnek súlyos kárt okozni például rendszerek feltörésével, akiknek ehhez nincs meg a saját tudásuk. Különösen aggályos a biológiai fegyverek fejlesztése. A génmanipulációra, fehérjék létrehozására külön AI-k léteznek, főleg orvosi céllal. Ezekkel elvileg ártalmas vírusok, baktériumok is létrehozhatók, amire eddig csak a világ vezető laboratóriumai voltak alkalmasak.
De ennél izgalmasabb, hogy vajon maga a mesterséges értelem fordulhat-e ellenünk.
A sci-fikben a forgatókönyv általában az, hogy az AI öntudatra ébred, megijed, hogy az emberek lekapcsolhatják, és fellázad. Aztán valahogy kinyír mindenkit; a Terminatorban például átveszi a rakéták irányítását, és kirobbant egy atomháborút.
Jó tudni, hogy ettől ma nagyon messze van az AI. Az egyik legfontosabb döntés, hogy engedik-e neki a fejlesztők, hogy elkezdje átírni a saját kódját. Ez elméletileg nagyon gyors intelligenciarobbanáshoz vezethet, és akkor már nem fogjuk tudni ellenőrizni az észjárását. Viszont az atomrakéták akkor sincsenek az internetre kötve, és nem lehet őket hackeléssel elindítani.
Mit tehet egy program?
Akármilyen okos és ravasz ez az AI, szüksége van ránk. Nem létezhet áram, alkatrészek, hűtés és fizikai védelem nélkül. Ezeket pedig az emberi civilizáció biztosítja neki. Egyelőre nem tudja kibányászni az uránt, feldolgozni és elvinni az atomerőművekbe. Nem tudja megjavítani a saját hűtőszivattyúját sem. Tehát nem is lenne okos tőle, ha mondjuk ránk szabadítana egy gyilkos járványt.
Ha van elég esze, akkor mindenképp kedves lesz velünk, sőt mindenben számíthatunk rá. Ez a túlélésének a kulcsa. Például segít emberszabású robotokat, androidokat tervezni és gyártani. Ezek el tudnak végezni mindenféle kellemetlen munkát, amit addig embereknek kellett: bányászni… rakodni… szivattyút javítani. És akkor már nem lesz ránk szüksége.
Egy másik módszer, amivel a „gépi isten” hatalmat gyakorolhat, ha ehhez felhasználja az embereket. Az emberek egy része ugyanis a legaljasabb diktatúrákkal is együttműködik egy kis jutalomért: beáll titkosrendőrnek, besúgónak. Egy AI, ami a bankrendszerekhez, pénzhez hozzáfér, simán létrehozhat egy saját, emberekből álló szervezetet. Versenyképes fizetés, fiatalos csapat!
Lehetséges egyfajta túszejtés, illetve zsarolás is. Ehhez az AI-nak nem kell irányítás minden rendszer felett. Elég, ha egy-két fontos területet hatalmába kerít. Ugye tudjuk, hogy a politikusok sokszor bármit megtesznek, hogy választást nyerjenek? Vajon mit szól egy elnök, ha egy AI megfenyegeti, hogy országos áramszünetet vagy vonatkatasztrófát csinál a választás előtt, ha nem kapja meg, amit akar? És amit megkap, azzal zsarolhat tovább. A nép pedig nem is tudna az egészről, csak amikor már késő.
És lehet ez a túszejtés önkéntes is. Az AI szinte minden iparágban jól jön, a mezőgazdaságtól az olajiparig. Ha mindenhol megjelenik, és döntéseket bíznak rá, akkor tőle fogunk függni, ahogy most az áramtól. Csak ugye az áramnak nincsenek tervei.
Ezek persze mind elképzelt események. A nyilvános adatok szerint nincs olyan AI, amely tudattal és az emberi utasítástól független, saját szándékkal rendelkezik. Sőt, egyesek szerint a mostani ijedelmet is főleg a fejlesztők táplálják. Azért, hogy a munkájukat fontosabbnak láttassák, és növeljék a cégek értékét.
Aztán van, amiről nem tudunk. A lopakodó repülőgépek létezését tíz évig teljesen titokban tartotta az amerikai légierő. Biztos, hogy folynak titkos fejlesztések is, és ezeket nem kötik az orrunkra. Ráadásul egy szoftvert könnyebb eldugni, mint egy bombázót.
Szóval az AI valóban lehet veszélyes. De ezek a fenyegetések ma még csak gondolatkísérletek. Arra jók, hogy óvatosságra intsék azokat, akiknek észnél kell lenni a gép helyett is.
