Güvenliği sağlamak için etkili ortak kurallar gerekiyor.
Dışişleri Bakanı Vivian Balakrishnan, 26 Eylül'de BM Genel Kurulu'nda yaptığı Singapur'un ulusal açıklamasında dünyaya yapay zekâ modelleri için insanları kontrol ve sorumlulukta tutacak güvenlik önlemleri geliştirmek üzere birlikte çalışma çağrısı yaptı.
"Size uç bir düşünce deneyi vereyim. Nükleer düğmenin bir insanın elinde olmasını mı istersiniz, yoksa bir yapay zekânın elinde olmasını mı? Bunun üzerinde düşünün."
BM Genel Kurulu'nda birkaç kez gündeme gelen yapay zekâ, ülkelerin yeni kurallar formüle etmesi ve yeni kurumlar oluşturması gereken tartışmasız en acil sınır olarak nitelendirildi.
Yapay zekâ risklerini yönetmek için ortak kurallara ihtiyaç
"Kapasitesi, risklerini anlama hızımızdan daha hızlı ilerliyor," diyen Vivian örnekler vermeden önce bu tespitte bulundu.
Bunlar arasında otonom sistemler üzerindeki kontrolün kaybedilmesi ve kötü niyetli aktörlerin toplumu yok edecek ya da bozacak şekilde yapay zekâyı kullanma olasılığı yer alıyor.
Vivian, yapay zekâ modellerinin kullanıma sunulmadan önce titiz test ve değerlendirmeye tabi tutulmasının gerekli olduğunu söyledi. Dünyanın ayrıca otonom sistemlerin ne yapabileceğine dair net sınırlara ve yapay zekâ beklenmedik şekilde davrandığında müdahale mekanizmalarına ihtiyacı var.
Yüksek performanslı bir araba kullanma benzetmesini kullanan Vivian, yapay zekânın kullanımının da iyi frenlere ve güvenliği sağlamak için etkili paylaşılan kurallara ihtiyaç duyduğunu belirtti.
"Yapay zekâdan kaynaklanan riskler sınırların gerisinde kalmıyor. Bu da bizim de trafik ışıklarını New York'ta olsak da Pekin'de, Moskova'da ya da Singapur'da aynı şekilde anladığımız gibi, bu zorlukla kolektif olarak nasıl başa çıkacağımıza dair ortak bir küresel anlayış oluşturacak yol kurallarına ihtiyacımız olduğu anlamına geliyor."
Uluslararası iş birliğinin önemi
Vivian, yapay zekâ risklerinin şeffaf şekilde açıklanmasına, testlerin kapsamlı ve güvenilir olmasına ve iş birliğinin kapsayıcı olmasına yönelik güven eksikliğine dikkat çekti.
Teknoloji stratejik rekabet alanı haline geldiğinden uluslararası iş birliği zorunlu hale geliyor, diye ekledi.
Vivian, Singapur'un Finlandiya ve Norveç öncülüğündeki sınır yapay zekâ modellerinin daha fazla güvenlik ve güvenliğine yönelik çağrıya katıldığını söyledi.
Süregelen tartışmalara katkıda bulunmanın yanı sıra yapay zekâ yönetişim çerçevelerini ve test araçlarını herkesin kullanımına sunacaklarını da sözlerine ekledi.
"Güven inşa etme ve küresel iş birliği için zemin hazırlama çalışmaları şimdi başlamalı. Sonuçta güçlü motorlar, iyi frenler ve ortak kurallar bizi durdurmaz ya da yavaşlatmaz. Bize güvence ve özgüven verir, böylece tüm halklarımızın yararına daha hızlı ve daha etkili hareket edebiliriz."
Arka plan
Son haftalarda Avustralya ve ABD hükümetleri web sitelerinde yapay zekâ ajanlarının yetkisiz faaliyetlerini tespit etti.
Bazı yapay zekâ uzmanları da yapay zekânın insanlık için varoluşsal tehdit oluşturabileceği konusunda uyarıda bulundu. Bu uyarı, yapay zekâ şirketi Anthropic'in eski bir çalışanının CNN'e, yapay zekânın 2030 yılına kadar tüm insanları öldürebileceğine inandığını söylemesiyle tetiklendi.
İş kayıpları ve kişisel güvenlik endişeleri de küresel olarak en önde gelen konular arasında yer alıyor.
