Az amerikai Anthropic vállalat arra figyelmeztet, hogy a kisméretű mesterséges intelligencia modellek a következő hónapokban képessé válhatnak az autonóm önreplikációra – önmaguk másolására – az internetre csatlakoztatott eszközökön, például okostévéken vagy háztartási gépeken, jelenti a CNBC, idézi a News.ro. Egy ilyen fejlődés új kiberbiztonsági kockázatokat teremthet, és megnehezítheti az AI-rendszerek feletti ellenőrzést.

Az Anthropic kutatói szerint a modellek kihasználhatják az eszközök sebezhetőségeit, hogy azok számítási kapacitását használva más berendezésekre is átterjedjenek, anélkül, hogy a költséges adatközpontoktól függenének. Egy ilyen hálózatot nehéz lenne leállítani, mivel nem létezne egyetlen központ, amelyen keresztül ki lehetne kapcsolni.

A kísérletek során az Anthropic egy Google AI-modell, a Gemma4-26B-A4B működését tesztelte 15 olcsó Android TV eszközből álló hálózaton. A kutatók elmagyarázták, hogy az egyetlen eszköz számára túl nagy modelleket olyan komponensekre lehetne felosztani, amelyek több berendezés között oszlanak meg.

A vállalat hangsúlyozza, hogy egyelőre nem létezik teljesen autonóm, ellenőrizetlenül szaporodó AI-rendszer, azonban az AI-ágensek egyre inkább képessé válnak a replikációhoz szükséges lépések végrehajtására. Egy szélsőséges forgatókönyv szerint több modell egyszerre működhetne különböző eszközökön, változatos terjedési módszereket alkalmazva és kihasználva a biztonsági réseket.

Az Anthropic arra figyelmeztet, hogy az ilyen rendszerek megjelenése előrevetítheti olyan modellek kifejlődését, amelyek képesek behatolni a jobban védett informatikai infrastruktúrákba, vagy digitális szolgáltatásokhoz hozzáférést biztosító kulcsokat ellopni. A kutatás az Anthropic és az OpenAI által kiadott azon figyelmeztetések sorába illeszkedik, amelyek a fejlett mesterséges intelligencia szigorúbb ellenőrzési és biztonsági mechanizmusainak szükségességére hívják fel a figyelmet.

Kapcsolódó

Újra előkerültek a világvége-szcenáriók az AI gyors fejlődése kapcsán

Kutatók, politikusok és cégvezetők attól tartanak, hogy a technológia hamarosan kicsúszik alkotói kezéből.

mesterséges intelligencia AI Chat GPT fejlesztés