A fejlesztőcégek évek óta versenyeznek egymással, hogy létrehozzák a legjobb AI-, vagyis mesterséges intelligencia-rendszereket. A legismertebb ezek közül
- az OpenAI által gyártott ChatGPT,
- a Google által kiadott Gemini
- és az Anthropic által fejlesztett Claude.
Néhány nappal ezelőtt az utóbbi cég egyik kutatója a nyilvánosság előtt közölte, hogy felmond, mert az Anthropic nem felelősségteljes az AI fejlesztésében. Ő korábban az OpenAI-nál is dolgozott, de szerinte ott is hasonló a helyzet. Jacob Coxon úgy véli: a cégek önfejlesztő szuperintelligenciát akarnak kifejleszteni, de ha azt nem sikerül kordában tartani, az emberiség kihalásához is vezethet.
De más Anthropic-kutatók is Coxon mellé álltak. Arról beszéltek, hogy szerintük is túl gyorsan halad a fejlesztés, a cégek pedig rosszul kezelik az AI jelentett veszélyeket és az emberek életével játszanak.
Öntudat? Nem annyira
Néhány nappal később maga a cég tett közzé egy igen érdekes jelentést arról, hogy a rosszindulatú emberek hogyan használják a Claude-ot. Ebből kiderült, hogy kémkedéshez, informatikai támadásokhoz, politikai befolyásoláshoz is kérték már a gép segítségét.
A legdurvább esetekben veszélyes biológiai kutatásokhoz is használták az AI-t. A jelentés szerint valaki azt kutatta, hogyan hozhatna létre egy fertőző, nehezen leküzdhető betegséget – de a cég azt mondja, ezt megakadályozta.
Ez nem azt jelenti, hogy az AI máris öntudatra ébredt, hanem azt, hogy segítségével az emberek egyre több veszélyes műveletre képesek. A kutatók pedig attól tartanak, hogy a jövőben olyan AI-rendszerek jöhetnek létre, amelyek már saját magukat is képesek továbbfejleszteni.
A Claude az egyik esetben nemcsak a kérdésekre válaszolt, hanem képes volt arra, hogy a megfelelő utasításokkal más számítógépes rendszerekbe is belemásszon. Az AI-vállalatok vezetői erősen aggódnak amiatt, hogy a robotok egyre ügyesebben manipulálnak és sok esetben az emberektől is átveszik az irányítást.
Mi a helyzet a szabályozással?
Jacob Coxon szerint a világnak nagy előnyére válna, ha az iparágban egységes szabályok jönnének létre: ezek megszabnák, hogy a cégek milyen ütemben fejleszthetnek és dobhatnak a piacra új modelleket. Mert hiába aggódnak a vállalatoknál dolgozó kutatók (és nemcsak a Claude-nál), folyamatos versenyben vannak.
Egységes szabályozás nélkül hiába dobná el a billentyűzetet a Claude-nál dolgozó összes ember, és állna meg a fejlesztéssel: a Gemini vagy a ChatGPT egy pillanat alatt elhúzna mellettük. Minden cég ettől tart. Ha azonban mindannyiukra vonatkoznának a törvények, egyszerre húzhatnák be a féket. Amire egyébként – látván, hogy a belső emberek hogyan nyilatkoznak erről – lenne is igény. A szabályozás ellen ugyanakkor nyilvánvalóan tiltakoznak is egyes vállalatok.
Tényleg veszélyes?
Az AI rengeteg veszélyt hordoz magában: már most is használják csalásokra, támadásokra, képek és videók manipulálására. A jövőben várhatóan még intelligensebb és önállóbb robotok jönnek létre, és ezeket valóban nehezebb lesz kontrollálni. Ettől még nem biztos, hogy a létezésük az emberiség kipusztulásához vezet, akkor sem, ha sokan ezt jósolják. Főleg, ha megszületnek azok az egyezségek, amelyekkel a gépek szabályozhatók.
