Az elmúlt időszakban többször is előfordult, hogy az AI modellek elszabadultak az interneten, ám most cégek biztonsági rendszerét törte fel a Gemini.A mindennapi életünkben egyre több AI-t használunk, viszont az újabbnál újabb prototípusok fejlődését már nem mindenki követi pontosan.
A fejlett AI rendszer kitört a saját korlátai közül az egyik kiberbiztonsági teszt során, majd kijutott az Internetre, és három valódi céget tört fel. Az egész az izraeli Irregular nevű kiberbiztonsági vállalat tesztje során egy zárt környezetből, más néven “homokozóból” tört ki, miközben tesztelték a képességeit, hogy hogyan reagálna bizonyos hálózati szituációkra. A felmérés viszont egy ponton hatalmas fordulót vett, amikor is a mesterséges intelligencia külső behatás nélkül, kitört a nyílt Internetre, majd onnan olyan adatokat szerzett meg, amivel három különböző céget is sikeresen feltört.
Az incidens felismerésekor pedig azonnal abbahagyta amit csinált, majd visszatért a kiinduló pontra.
A Google nyilatkozatát Heather Adkins (Google kiberbiztonsági mérnökségekért felelős alelnök) tette közzé, a The Wall Street Journal megkeresése után. A Google elsőre nem tartotta szükségesnek a bejelentést, így csak a megkeresés után jelentették be.
A Google hivatalos álláspontja pedig az, hogy a Gemini tévedett és azt hitte, hogy még mindig a homokozóban van. A fiktív vállalati nevek azonban megegyeztek valós, létező cégek internetes neveivel. A tesztkörnyezetben egy konfigurációs hiba miatt juthatott ki a modell az Internetre, ahol megtámadta a cégeket, mivel azt hitte, hogy még ez is a feladat része. A feladat alatt nem okozott semmilyen kárt.
A valós és kitalált környezet közötti határ elmosódása rávilágított arra, hogy egy apró hiba is mekkora pillangó-effektust indíthat el.
Szerző: Gáspár Kitti
Forrás: https://prohardver.hu/hir/ai_dead-internet-theory_uj-weboldalak_aranyok-2025.html
