A mesterséges intelligencia fejlesztése olyan tempóra kapcsolt, hogy újra felbukkantak a világvége‑szcenáriók: kutatók, politikusok és cégvezetők attól tartanak, hogy a technológia hamarosan kicsúszik alkotói kezéből.

Ursula von der Leyen, az Európai Bizottság elnöke az unió helyzetéről elmondott évértékelő beszédében arra szólított fel, hogy lassabb ütemben fejlesszék a legfejlettebb és legkockázatosabb mesterségesintelligencia-modelleket. Emellett szorosabb biztonsági együttműködést ígért Kanadával, az Egyesült Királysággal és más, hasonlóan gondolkodó országokkal.

A mesterséges intelligencia (AI) felforgató hatásaival kapcsolatos félelmek nem újak. Egyesek régóta kongatják a vészharangokat. Attól tartanak, hogy a technológia akár teljesen kiirthatja az emberiséget: elindíthat egy biológiai vagy nukleáris támadást, kirobbanthat egy globális drónháborút. A mesterséges intelligencia hozzásegíthet rossz szándékú csoportokat vagy akár személyeket, hogy vírusokat vagy mérgező anyagokat hozzanak létre, amelyek széles körű megbetegedést vagy halált okozhatnak. A Claude AI mögött álló Anthropic múlt héten közölte, hogy meghiúsított több olyan kísérletet, amelyek biológiai fegyverek kifejlesztéséhez vezethettek volna.

Az efféle aggodalmak ezen a héten világszerte ismét terítékre kerültek, miután az Anthropic egyik kutatója felmondott, arra hivatkozva, hogy cége és más hasonló intézmények olyan szuperintelligens gépeket építenek, amelyeket az emberek nem lesznek képesek irányítani. Jacob Coxon – aki korábban az OpenAI-nál is dolgozott – egy közösségi médiás bejegyzésben azt írta: a két vezető AI‑labor versenyt fut azért, hogy „emberfeletti rendszereket építsen, amelyek bármit képesek feltörni, egyik napról a másikra felforgatnak bármely tudományterületet, és valódi hatalomra, valamint erőforrásokra tesznek szert”, mindezt megfelelő biztonsági garanciák nélkül.

Coxon figyelmeztetése egybecseng más AI-szakértők aggodalmaival. Ezeket csak erősítette, hogy az OpenAI modelljei júliusban kitörtek a saját rendszereikből, és feltörték a Hugging Face modellkönyvtárát. Időközben kiderült, hogy az úgynevezett AI-ügynökök rajokban, vagyis egymással összejátszva „dolgoztak”, sőt az is, hogy a döntő támadás előtt már két hónappal felderítették a terepet. A fő aggodalom most az, hogy az AI képes lehet emberi beavatkozás nélkül saját magát fejleszteni és betanítani, ami exponenciális fejlődést és kockázatokat hozhat – még mielőtt kutatók megbízható módszereket dolgoznának ki a mind erősebb rendszerek felügyeletére és kontrolljára.

Ha a modellek képessé válnak szerkezeti újításokat végrehajtani önmagukon, és ezáltal ugrásszerűen fejlődni, könnyen lehet, hogy egyetlen rendszer minden riválist kiiktat, miközben egyre nagyobb hatalomra tesz szert – figyelmeztetett Jason Abaluck, a Yale Egyetem közgazdászprofesszora a közösségi oldalán.

Augusztusban több mint száz nagy techcég vállalta, hogy a legjobb modelljeit kórházaknak és kritikus infrastruktúráknak adja át, hogy felkészülhessenek az AI-alapú kibertámadásokra. Még azelőtt, júliusban több mint 1300 iparági dolgozó nyílt levélben kérte az amerikai kormányt, hogy fékezze az AI‑fejlesztést. A napokban pedig, vélhetően a Coxon felmondása körül kialakult közhangulat hatására, olyan nagy riválisok ültek egy asztalhoz – legalább virtuálisan –, mint Dario Amodei, az Anthropic vezetője, Sam Altman, az OpenAI vezérigazgatója vagy Elon Musk, az xAI alapítója. A vezető amerikai AI-laborok képviselői a hétvégén közös állásfoglalást adtak ki, amelyben kiálltak amellett, hogy lassítani kell a technológia fejlesztését, és figyelmeztettek: az AI hamarosan képes lehet önállóan továbbfejlődni, és kicsúszhat az emberi ellenőrzés alól. A hallucinálásra hajlamos ChatGPT-től nem egészen négy év alatt eljutottunk egy olyan mérföldkőhöz, amelyet sokan kulcsfontosságúnak tartanak: az önmagát újra és újra fejlesztő, úgynevezett recursive self-improvement (R.S.I.) szakaszig.

Az R.S.I. nem valamiféle mellékhatás: több cég nyíltan ezt a célt hajszolja, köztük az olyan nagy laborok, mint az OpenAI és az Anthropic. Azt remélik, hogy felgyorsítják az AI-t, amely felpörgeti a tudományos kutatást, új anyagokat hoz létre, új gyógyszereket fedez fel, és idővel gyakorlatilag minden területen meghaladja az emberi intelligenciát.

Az Anthropic egy tavaszi blogbejegyzésében már figyelmeztetett, hogy az R.S.I. felé tett lépések „növelhetik annak kockázatát, hogy az emberek elveszítsék az irányítást az AI-rendszerek felett”. Az ellentmondás nem véletlen, és nem is előzménytelen: a Claude AI fejlesztője rendszeresen igyekszik önmagát felelősségteljes szereplőnek, amolyan óvatos vakmerőnek beállítani. Ehhez a táborhoz csatlakozott múlt hónapban az OpenAI is, amely közölte, hogy bővíti a biztonsági tesztelést, és lassítja egy új modell, az Astra kiadását, mivel annak kiberbiztonsági képességei különösen erősek.

Egyesek szerint az AI-cégek felfújják a veszélyt, eltúlozva modelljeik képességeit, hogy értékesebbnek tűnjenek. Egyes döntéshozók azonban – köztük az Európai Bizottság elnöke – jelezték, hogy komolyan veszik Coxon figyelmeztetését. Ugyanakkor a korlátozó intézkedéseknek aligha lesz hatása a legnagyobb szereplők – az Egyesült Államok és Kína – részvétele nélkül. Márpedig Donald Trump „riogatásnak” tartja az AI-jal kapcsolatos aggodalmakat. A Truth Social-on azt írta: a mesterséges intelligencia és az azt működtető adatközpontok „a történelem legnagyobb gazdasági növekedési motorjai lesznek — nagyobbak, mint az olaj, az arany, a gyémánt vagy akár az internet”.

A mesterséges intelligencia működéséhez szükséges chipeket gyártó Nvidia vezérigazgatója, Jensen Huang egy San Franciscó-i konferencián a minap egyértelműen a piac önszabályozása mellett foglalt állást. Érvelése szerint a kockázatok kezelése megoldható alapos teszteléssel és előzetes ellenőrzéssel, nincs szükség új szabályozásra. „Futni kell, amilyen gyorsan csak lehet, és ha egy ponton úgy tűnik, hogy a folyamat kicsúszik az irányítás alól, szünetet kell tartani és javítani a hibákat” – fogalmazott az AI-forradalomból talán legtöbbet profitáló chipgyártó vezetője.

Kormányzati korlátozás nélkül nehezen képzelhető el a technológia fejlesztésének és piacra kerülésének lassulása. Az AI‑laborok éles versenyben állnak egymással, és saját kezdeményezésre nem hajlamosak fékezni, mivel attól tartanak, hogy lemaradnak a riválisok mögött.

Hasonló félelmektől vezérelve ódzkodnak a szabályozástól a közélet vezetői is. Amerikai politikusok nem egyszer megfogalmazták, hogy egy szünet az AI-fejlesztésben mindössze előnyhöz juttatná Kínát vagy más „rosszindulatú szereplőket”.