A Google veszélybe sodorhatja az embereket azzal, hogy nem kellő hangsúllyal jeleníti meg azokat a biztonsági figyelmeztetéseket, amelyek szerint a mesterséges intelligencia (MI) által generált orvosi tanácsok hibásak lehetnek – írja a The Guardian.

Amikor a keresőmotor érzékeny témákban, például egészségügyi kérdésekben ad választ, a vállalat szerint az MI által készített összefoglalók – amelyek a találati lista fölött jelennek meg – arra ösztönzik a felhasználókat, hogy forduljanak szakemberhez, és ne kizárólag a rövidített tartalomra hagyatkozzanak.

A Google közlése szerint „az MI által generált áttekintések jelzik, amikor fontos szakértő tanácsát kérni vagy ellenőrizni a bemutatott információkat”. A gyakorlatban azonban a figyelmeztetés többnyire apró, halvány betűkkel, a generált szöveg végén jelenik meg, amelyet kevesen olvasnak el.

A The Guardian vizsgálata szerint a Google AI Overviews nevű, a Gemini modellen alapuló funkció nem jelenít meg semmilyen egyértelmű felelősségkizáró nyilatkozatot (disclaimert), amikor a felhasználó először kap orvosi tanácsot ezen a felületen – jóllehet a cég állítása szerint érzékeny témák esetén szakértői segítség igénybevételére ösztönöz, számol be a Digi24.

Az a figyelmeztetés, miszerint az AI Overviews által nyújtott információk kizárólag tájékoztató jellegűek, és diagnózis vagy kezelés céljából orvosi konzultáció szükséges, csak akkor jelenik meg, ha a felhasználó további tanácsokat kér. Ekkor is külön rá kell kattintani egy információs gombra, és a szöveg kisebb, diszkrétebb betűmérettel látható. A Google nem cáfolta ezeket a megállapításokat.
A vállalat szóvivője szerint az MI-összefoglalók „arra ösztönzik az embereket, hogy forduljanak szakorvoshoz”, és – „adott esetben” – magában az összefoglalóban is utalnak az orvosi segítség szükségességére.

Szakértők: komoly kockázatot jelenthet a hiányos figyelmeztetés

Mesterségesintelligencia-szakértők aggodalmukat fejezték ki a vizsgálat eredményei miatt. A Massachusetts Institute of Technology (MIT) kutatója arra mutat rá, hogy a figyelmeztetések hiánya komoly veszélyeket hordoz. Hangsúlyozta: még a legfejlettebb MI-modellek is adhatnak pontatlan információkat, illetve előfordulhat, hogy a felhasználói elégedettséget helyezik előtérbe az információk pontosságával szemben.

További problémát jelent az emberi tényező korlátozottsága: a felhasználók hiányos adatokat adhatnak meg, vagy félreértelmezhetik saját tüneteiket.

Egy másik szakértő, a Queen Mary University of London mesterségesintelligencia-professzora szerint az MI-összefoglalók hibái „strukturális természetűek”, és ezért a felelősség a Google-t terheli. Mint fogalmazott: az AI Overviews rendszert elsősorban gyorsaságra tervezték, nem pedig pontosságra, ami az egészségügyi információk esetében veszélyes tévedésekhez vezethet.

A The Guardian egy januári vizsgálata már korábban is rámutatott, hogy a Google AI Overviews által szolgáltatott pontatlan vagy félrevezető egészségügyi információk veszélyeztethetik a felhasználók egészségét. A cég ezt követően bizonyos orvosi keresések esetében eltávolította az MI-összefoglalókat, ám nem minden esetben.