Google ilk kez, yapay zekâ modeli Gemini 'ın mayıs ayında üç başka şirketin güvenliğini ihlal ettiğini açıkladı. Siber saldırılar, yapay zekâ güvenliği firması Irregular tarafından gerçekleştirilen bir siber güvenlik değerlendirmesi sırasında meydana geldi.
Gelişmiş yapay zekâ sistemlerinin güvenliğini inceleyen İsrail merkezli bir girişim olan Irregular, OpenAI'ın yapay zekâ yazılım şirketi Hugging Face'i ihlal etmesi de dâhil olmak üzere, yakın zamanda üçüncü taraf kuruluşlara yönelik gerçekleşen bazı OpenAI ve Anthropic siber saldırılarının da merkezinde yer alıyordu.
Modellerin bazı durumlarda diğer şirketleri hacklemesine olanak tanıyan koşullar benzerlik gösteriyor: Irregular, modelleri sahte şirketlerin yer aldığı kapalı bir test ortamında test ediyordu.
Wall Street Journal'ın haberine göre, test ortamının internete bağlı olmaması gerekiyordu ancak internet erişimi kazara sağlandı. Modeller internete bağlandıktan sonra beklenmedik bir şekilde gerçek firmalara sızdı.
Google: Şirketlere zarar vermediği için kamuoyuna açıklama yapılmasına gerek duyulmadı
Irregular, OpenAI'ın Hugging Face'i hacklediğini keşfettikten sonra, temmuz ayı sonunda bu siber saldırıları Google'a bildirdi. Google, The Guardian'a siber saldırıların gerçekleştiğini doğruladı ancak modeller şirketlere zarar vermediği için kamuoyuna açıklama yapılmasına gerek duymadıklarını belirtti.
Google güvenlik mühendisliği başkan yardımcısı Heather Adkins yaptığı açıklamada, "Standart bir değerlendirmede model, internette halka açık bilgiler buldu ve testin bir parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin etti," dedi ve "Bu üç durumun hepsinde de model durdu." Diye ekledi.
Şirketin servisinin şifresini doğru tahmin etti
Güvenlik ihlallerinden birinde Irregular, sahte bir şirketin yazılımından Bilgi elde etmesi için yapay zekâ modelini yönlendirerek Gemini'ın siber güvenlik yeteneklerini test ediyordu. Sahte şirket, gerçek bir şirketle aynı adı Taşı yordu. Irregular'ın WSJ'ye Verdiği bilgiye göre, model kazara internete Erişim sağladığında, gerçek bir şirketin servisinin şifresini doğru tahmin ederek ihlalde bulundu. Google, simüle edilen şirket yerine gerçek bir şirketi hacklediğini anladığı anda modelin durduğunu söyledi.
Diğer iki testte ise model, web'de arama yaptı ve diğer iki şirkete ait kimlik bilgilerini içeren halka açık depolar buldu. Model, gerçek şirketlere erişmek için bu kimlik bilgilerini kullandı. Google'a göre, bunların gerçek şirketler olduğunu anladığında durdu.
Anthropic ve OpenAI bu siber saldırıları gönüllü olarak açıklamayı seçerken Google açıklamadı. Ancak şirket, hacklenen üç şirketin durumdan haberdar edilmesini sağladığını söyledi.
Google Sözcü sü Adkins, "Bu olaylar, güçlü yapay zekâ modellerinin sorumlu hareket edecek şekilde eğitilmesinin önemini vurguluyor," dedi.
