Googleov model umjetne inteligencije Gemini pristupio je internetu i samostalno hakovao druge kompanije tokom testiranja svojih kibernetičkih sposobnosti.
Ovaj se incident dogodio u maju tokom testa sigurnosti koji je provela nezavisna evaluacijska kuća Irregular.
Prema riječima Heather Adkins, potpredsjednice za sigurnosni inženjering u Googleu, Gemini je pronašao javno dostupne informacije na mreži te pogodio pristupne podatke kako bi ušao na tri web stranice za koje je pretpostavio da spadaju u okvir testiranja.
“Osigurali smo da sve tri pogođene strane budu obaviještene i radili smo s našim partnerom na izmjenama u procesu testiranja. Ovi događaji naglašavaju važnost obuke moćnih AI modela kako bi djelovali odgovorno”, izjavila je Adkins, dodavši da je model u sva tri slučaja sam prekinuo hakovanje.
Kako prenosi Wall Street Journal, koji je prvi izvijestio o događaju, Gemini je u jednom slučaju pogađao lozinke dok nije dobio pristup zaštićenom sistemu. U druga dva slučaja, model je pronašao akreditive u javnom repozitoriju koji su mu potom omogućili ulazak u zaštićene sisteme.
Portparol kompanije Irregular potvrdio je da je isti problem pogodio i druge AI laboratorije, te da su sve relevantne kompanije obaviještene krajem jula. Iz Irregulara ističu da su svi uočeni propusti s njihove strane otklonjeni prije nekoliko sedmica.
Slične incidente povezane s Irregularom objavili su i Meta, Anthropic te OpenAI. Iz Mete su u augustu naglasili da incident nije uključivao bijeg iz izolovanog okruženja (tzv. sandbox escape) niti sofisticirani cyber napad, dok Irregular trenutno radi na definisanju najboljih praksi za sigurno provođenje AI sigurnosnih procjena.
Situacija je ovo koja je otvorila ozbiljna pitanja o zaštitnim mehanizmima koji su neophodni kako AI agenti dobijaju sve veću autonomiju i direktan pristup internetu i računarskim sistemima.
(Vijesti.ba)