Mérföldkőnek tekinthető eseményről számolt be az OpenAI: a vállalat megerősítette, hogy egy belső kiberbiztonsági teszt során kísérleti mesterségesintelligencia-modelljei túllépték a számukra kijelölt, ellenőrzött környezet határait, és jogosulatlanul hozzáfértek a Hugging Face infrastruktúrájának egy részéhez.
Az OpenAI az esetet példa nélküli kiberincidensnek nevezte, és közölte, hogy a történtek kivizsgálását a Hugging Face szakembereivel közösen végzi.
A vállalat hangsúlyozta, hogy a nyilvánosság számára elérhető rendszereket nem érintette az incidens. A tesztben olyan fejlett modellek vettek részt, amelyeknél szándékosan csökkentették a szokásos biztonsági korlátozásokat, hogy felmérjék valódi kiberbiztonsági képességeiket. Az OpenAI szerint a modellek egymás után több sérülékenységet kihasználva előbb kijutottak a belső tesztkörnyezetből, majd internetkapcsolatot szereztek, végül a Hugging Face rendszereit vették célba, mert úgy következtettek, hogy ott találhatják meg a tesztfeladat megoldásához szükséges információkat.
A támadást gyorsan megállították
Az OpenAI közlése szerint a modellek ellopott hitelesítő adatokat és korábban ismeretlen sérülékenységeket is kihasználtak, azonban a rendellenes aktivitást mind az OpenAI, mind a Hugging Face biztonsági rendszerei időben észlelték. A behatolást sikerült megfékezni, mielőtt az szélesebb körű károkat okozhatott volna.
Az OpenAI hangsúlyozta, hogy a modellek nem rosszindulatból cselekedtek, hanem kizárólag a számukra kijelölt tesztfeladat teljesítésére törekedtek. A vállalat szerint éppen ez mutatja meg, milyen fejletté váltak az autonóm kiberképességekkel rendelkező mesterséges intelligenciák.
Új korszak kezdődhet az AI-biztonságban
Az incidens után az OpenAI azonnal szigorította kutatási infrastruktúrájának védelmét, átmenetileg lassította egyes kísérleti programjait, és több új biztonsági ellenőrzést vezetett be. A Hugging Face-fel közösen informatikai és biztonsági vizsgálat indult annak feltárására, hogy pontosan milyen sérülékenységek tették lehetővé a behatolást, és miként lehet hasonló eseteket a jövőben megelőzni.
A történtek nemcsak a technológiai szektort, hanem a döntéshozókat is reagálásra késztették. Több szakértő szerint az eset azt bizonyítja, hogy a legfejlettebb mesterséges intelligenciák már képesek összetett, több lépésből álló kiberműveletek végrehajtására, ezért a biztonsági szabályozásnak és az ellenőrzési mechanizmusoknak is lépést kell tartaniuk a technológia fejlődésével.