Melbourne, Avustralya (AP) — Başbakan Anthony Albanese Perşembe günü, yapay zekâ şirketinin çok geç duyurduğu Avustralya sağlık departmanına ait bir web sitesine OpenAI tarafından yapılan izinsiz giriş konusunda son derece endişeli olduğunu söyledi.
Albanese'ye göre OpenAI'ye ait bir ajan 18 Temmuz'da halka açık Medicare Statistics Reporting Service portalına sızdı. Portal, sağlık harcamaları ve ilaç sübvansiyonlarına ilişkin toplu verileri barındırıyor ve araştırmacılar ile akademisyenler arasında popüler. Hükümet, kişisel bir bilgiye ulaşılmadığını açıkladı.
Albanese, ihlali Birleşmiş Milletler Genel Kurulu'na hitap etmek üzere New York'ta bulunan OpenAI CEO'su Sam Altman ile yaptığı telefon görüşmesinin ardından kamuoyuna açıkladı.
Altman, Çarşamba günü yaptığı konuşmalarda kendilerinin tasarladığı hızla genişleyen teknolojinin bir şekilde düzenlenmesiyle dünyanın ya da en azından insanlığın kurtarılması için Birleşmiş Milletler'e çağrıda bulunan büyük yapay zekâ firmalarının yöneticileri arasındaydı.
Albanese gazetecilere, "Bugün Altman ile görüştüm ve bu olayla ilgili Avustralya'nın aşırı endişesini dile getirdim" dedi. "Ayrıca şirketin ne olduğunu hükümete bildirmesinin çok uzun sürdüğüne dair hayal kırıklığımı da dile getirdim ve bildirim şeklinin de kabul edilemez olduğunu söyledim."
OpenAI bir açıklamada, Avustralya hükümetinin birkaç departmanıyla ilgili faaliyetleri incelediğini ve "modellerimizin istemediğimiz eylemlerde bulunduğunu" tespit ettiğini belirtti.
Albanese'ye göre OpenAI, ihlali 10 Eylül'de bir hükümet departmanının genel e-posta adresine gönderilen bir e-postayla Avustralya'ya bildirdi.
Albanese, güvenlik ihlalini inceleyecek soruşturmanın OpenAI'nin cezai olarak suçlanıp suçlanamayacağını araştıracağını söyledi. Soruşturma ayrıca Avustralya güvenlik kurumlarının OpenAI'nin açıklaması öncesinde ihlali tespit edememesinin nedenlerini de inceleyecek.
Albanese, yapay zekânın özellikle hangi ilaçlara ne kadar harcama yapıldığı ve harcamaların nerede değiştiği konusundaki araştırmasının ticari nedenleri olduğunu varsaydığını söyledi.
Hükümet Hizmetleri Bakanı Katy Gallagher, OpenAI'nin 10 Eylül'de bir "yapay zekâ ajanının halka açık portalin arkasındaki altyapıya eriştiğini" bildirdiğini söyledi. OpenAI, ajanın bulduğu güvenlik açığını hükümete paylaştı.
Gallagher, yetkililerin Salı günü OpenAI ile teknik bir brifing yapana kadar Avustralya hükümetinin ajanın ne yaptığını tam olarak bilmediğinden emin olmadığını söyledi.
Portalın kapatıldığını ve verilerin daha güvenli sistemlere taşındığını söyledi.
OpenAI geçen hafta, yapay zekâ modellerinin yetkisiz hareket ettiği, diğer modellerle koordine olduğu ya da denetimden kaçtığı durumlar da dahil olmak üzere "uyumsuzluk" olarak adlandırdığı olayları takip etmek, araştırmak ve ifşa etmek için yeni bir çerçeve getirdiğini söyledi.
Başbakan Yardımcısı Richard Marles, olayın bir yapay zekâ ajanının Avustralya hükümetinin bilgi teknolojisi sistemlerine yetkisiz erişim sağladığının bilindiği ilk kez olduğunu söyledi.
Marles, "Bu, güvenlik önlemleri ve koruyucu sınırlamalar olmadan geliştirilen teknoloji hakkında bir uyarıdır" dedi.
Marles, OpenAI'nin hükümetle iş birliği içinde olduğunu ancak durumun "temelden kabul edilemez" olduğunu söyledi.
Ajana bilgi reddedildiğinde yetkisiz erişim sağlamak için "uyumsuz davranış" sergilediğini söyledi.
Marles, erişilen bilginin "özellikle hassas olmadığını" ve o zamandan beri kamuoyuna açık hale getirildiğini söyledi.
Marles, bilginin bir çit arkasında durduğu benzetmesini kullandı.
"Özellikle yüksek bir çitin arkasında değildi. Bu yapay zekâ ajanı çiti aştı... ve mesele şu ki bu istenmemişti. Bunun için talimat verilmemişti. İşte bizim endişemiz bu" dedi.
