Avustralya Başbakanı Anthony Albanese, eğitim sırasında güvenlik önlemlerini aşan bir OpenAI modelinin Avustralya hükümetine ait bir internet sitesini hacklediğini açıkladı. Albanese, ChatGPT’nin geliştiricisi OpenAI’yi “açıkça kabul edilemez” olarak nitelendirdiği ihlal nedeniyle eleştirdi.
Albanese, yapay zeka aracının haziran ayında Sağlık istatistikleri portalına erişmeye çalıştığını ve “hayır yanıtını kabul etmediğini” belirtti. Modelin, uygulanan kısıtlamaları aşarak özel dosyaların barındırıldığı bir bölüme Erişim sağladığı ifade edildi.
OpenAI ise Avustralya hükümetini olayla ilgili Eylül ayına kadar bilgilendirmedi. Şirketin bildirimi, yalnızca günde bir kez kontrol edilen Genel bir e-posta adresine gönderdiği belirtildi.
Gelişmiş yapay zeka araçlarının kapasitesine ilişkin küresel endişeler, OpenAI ve rakibi Anthropic tarafından geliştirilen modellerin karıştığı bir dizi siber saldırının ardından artıyor.
Albanese, New York’ta gazetecilere yaptığı açıklamada, “Bugün OpenAI CEO’su Sam Altman ile görüştüm ve Avustralya’nın bu olayla ilgili duyduğu son derece ciddi endişeyi kendisine ilettim,” dedi.
Şirketin yaşananları hükümete bildirmesinin çok uzun sürmesinden duyduğu hayal kırıklığını da dile getiren Albanese, “Herhangi bir bildirim yapılması 10 Eylül’e kadar sürdü ve bildirim yalnızca kamuya açık genel bir e-posta adresine gönderilen bir mesajdan ibaretti,” ifadelerini kullandı.
Yapay zeka aracının, eski bir sağlık istatistikleri internet sitesinde barındırılan kamuya açık ve kamuya açık olmayan dosyalara eriştiği belirtildi.
Albanese, kişisel bilgilere erişildiğine dair “herhangi bir kanıt bulunmadığını” ve diğer hükümet hizmetlerinin ihlal edilmediğini söyledi.
“Buna rağmen bu durum açıkça kabul edilemez” diyen Albanese, olayın haziran ayında, önde gelen yapay zeka şirketi OpenAI’nin yapay zeka modellerinin performansını değerlendirmek amacıyla eğitim çalışmaları yürüttüğü sırada meydana geldiğini belirtti.
Hükümet Hizmetleri Bakanı Katy Gallagher, gazetecilere yaptığı açıklamada, OpenAI’nin modelden Avustralya hükümetinin ilaçlara ne kadar harcama yaptığını gösteren verileri internet üzerinden taramasını istediğini söyledi.
OpenAI ise yapay zeka aracının kural dışı faaliyetlerini ancak ağustos ayında, modelin gerçekleştirdiği işlemleri incelemesi sırasında fark ettiğini açıkladı.
Kontrolden çıkan yapay zeka endişesi
San Francisco merkezli şirket, Avustralya hükümetini olaydan ancak 10 Eylül’de haberdar etti. Şirket, bildirimi hükümete ait genel bir e-posta adresine gönderdi.
Gallagher, “Bu e-posta adresi günde bir kez kontrol ediliyor” dedi.
“Bir görevlimiz gidip gelen mesajları inceliyor. Bazen çok Sayıda bildirim geliyor, bazen de bunların birçoğunun asılsız olduğu görülüyor” ifadelerini kullandı.
Savunma Bakanı Richard Marles ise söz konusu yapay zeka modelinin “çiti aştığını” söyledi.
Marles, “Bir soru Sordu , Bilgi verilmedi ve o noktada ayrılmak yerine çiti aştı,” dedi.
Avustralya, olayla ilgili hızlı bir inceleme başlattı. İncelemeye, siber güvenlikten sorumlu ulusal istihbarat kurumu da dahil olacak.
OpenAI, yapay zeka modelleri üzerinde yürüttüğü “geniş kapsamlı inceleme” sırasında bu ihlali tespit ettiğini açıkladı.
Şirket, “Bu inceleme sırasında, iç değerlendirmemiz kapsamında modellerimizin Avustralya'yla ilgili sorulara yanıt ararken Avustralya hükümetine ait çeşitli internet siteleri ve hizmetlerde istatistik ve bilgi aramaya çalıştığını tespit ettik,” dedi.
“Bu süreçte, modellerimizin niyet etmediğimiz adımlar attığını gördük,” ifadesini kullandı.
Altman ve diğer teknoloji şirketlerinin CEO'ları, çarşamba günü Birleşmiş Milletler Güvenlik Konseyi 'nin yapay zeka risklerine ilişkin özel oturumunda konuştu.
Dünyanın dört bir yanından OpenAI ve Anthropic'in de aralarında bulunduğu 100'den fazla kuruluş, geçen ay yayımladıkları açık mektupta yapay zeka destekli siber tehditlere karşı “siber savunmaların güçlendirilmesi” için küresel bir çaba çağrısında bulundu.
Bu çağrı, iki OpenAI modelinin kapalı bir test ortamından Kaç ıp, yapay zeka geliştiricilerinin kod depolamak ve paylaşmak için kullandığı Hugging Face sitesinin iç sistemlerine sızmasının ardından geldi.
Anthropic, kısa süre önce modellerinin, gerçek sistemlerden uzak tutulmaları gereken testler sırasında, adı açıklanmayan üç kuruluşa yetkisiz erişim sağladığını ortaya çıkardı.
Google , tüketiciye dönük yapay zeka modeli Gemini 'nin, giriş bilgilerini tahmin ederek çok sayıda sisteme sızdığını geçen hafta açıkladı.
