Dijital Gelişim ve Bilgi Bakanı Josephine Teo, 17 Eylül'de yapay zekanın sivil havacılık için olan benzeri bir güvenlik rejimine ihtiyaç duyabileceğini söyledi.
Havacılık tarzı yapay zeka düzenlemeleri, ulusal düzenleyiciler ve güçlü bir güvenlik kültürü tarafından desteklenen uluslararası bir kurumla küresel kuralları içerebilir; bu da daha güvenli yenilik ve daha hızlı benimsenmeyi sağlar.
Singapur, AI Verify araç seti ve Singapur Yapay Zeka Güvenlik Enstitüsü gibi araçlarla yapay zeka güvenliğinde öncülük ediyor ve kendini küresel yapay zeka testleri için tarafsız bir aktör olarak konumlandırıyor.
Temel zorluklar ABD-Çin rekabeti ve yapay zeka güvenliği önceliklerinde fikir birliğinin olmaması; havacılık, nükleer ve finans sektörlerinden alınan modeller gelecekteki yapay zeka yönetişim çerçeveleri için şablon sunuyor.
SİNGAPUR – Yapay zeka havacılık tarzı düzenlemeler alırsa, bu küresel olarak mutabık kalınan bir kural setine uyumu sağlayan uluslararası bir yönetim organı ve ulusal düzenleyiciler anlamına gelebilir, sektör temsilcileri söyledi.
Singapur Yapay Zeka Derneği Başkanı Jonathan Zhang, “Yapay zekanın fırsatı, havacılığın 20. yüzyılın büyük bölümünü aldığı bir yolculuğu çok daha kısa bir süreye sıkıştırabilmesi. Çünkü varış noktasının neye benzediğini zaten biliyoruz; uluslararası düzeyde güvenilen, bağımsız olarak doğrulanabilir güvenlik güvencesi” dedi.
Düzenlemelerin yapay zeka inovasyonunun ilerlemesini yavaşlatabileceği endişesi olsa da, diğer uzmanlara göre güvenlik bir engel olarak görülmemeli. Uzmanlar yapay zeka sektörünün nükleer silahlar ve finansal riskleri yöneten rejimlerden de öğrenebileceğini ekledi.
ABD merkezli kâr amacı gütmeyen Flight Safety Foundation’ın başkanı ve genel müdürü Hassan Shahidi, “Güçlü bir güvenlik çerçevesi inovasyonu destekleyebilir. Çünkü toplum, risklerin sorumlu şekilde yönetildiğine güven duyduğunda yeni teknolojiyi benimsemeye daha istekli olur” dedi.
17 Eylül’de Dijital Gelişim ve Bilgi Bakanı Josephine Teo, güveni tesis etmek için yapay zekanın sivil havacılık için olan benzeri bir güvenlik rejimine ihtiyaç duyabileceğini söyledi.
Daha fazla araştırma ve test gerektiğini kabul eden Bakan, Singapur’un yapay zekanın benimsenmesiyle birlikte şimdi önlemleri inşa etmeye başlaması gerektiğini ekledi.
Bakan’ın LinkedIn’deki yorumları, teknolojinin yol açabileceği potansiyel olarak yıkıcı riskler hakkındaki tartışmaların ortasında yapay zeka gelişiminin hızlı temposunu yavaşlatma çağrılarına ve bu çağrılara karşı çıkanlara gelmişti.
Havacılığın en önemli başarılarından biri, kaza soruşturmaları için uluslararası kabul görmüş kuralların oluşturulmasıydı.
1919 Paris Konvansiyonu, ilk uluslararası havacılık kurallarından bazılarını oluşturdu.
Daha sonra 1944 Şikago Konvansiyonu, havacılığın küresel yönetim organı olan Birleşmiş Milletler Uluslararası Sivil Havacılık Örgütü’nün 1947’de kurulmasına yol açan çerçeveyi oluşturdu.
Uluslararası kuralların bugünkü haliyle var olmadan önce uçaklar uluslararası hava sahasında uçuyordu.
Geçiş döneminde uçaklar ulusal yasalar, ikili anlaşmalar ve daha önceki uluslararası sözleşmelerle yönetiliyordu.
Shahidi, “Bugünkü ICAO çerçevesinde güvenlik soruşturmasının amacı suçlama veya sorumluluk atfetmek değil, ne olduğunu belirlemek ve tekrarını önlemektir” dedi.
“Bu öğrenme kültürü yapay zeka için özellikle ilgili” dedi.
Shahidi, yüksek riskli sistemlerin devreye alınmasından önce titiz test yapılması ilkesinin yapay zekaya iyi uyarlandığını ekledi.
Shahidi, havacılığın kazalardan ders aldığını belirterek “Güvenlik mimarisini inşa etmek için bir felaketi beklemeyin” çağrısında bulundu.
Singapur testte bir adım önde; 2022’de başlattığı AI Verify araç seti, yapay zeka sonuçlarının adil olup olmadığını, sağlam olup olmadığını ve açıklanabilir olup olmadığını kontrol etmek için teknik denetimler yapıyor.
Ayrıca 2024’te resmen belirlenmiş Singapur Yapay Zeka Güvenlik Enstitüsü’nü kurarak yapay zeka modellerini güvenlik riskleri açısından test edip değerlendirmeyi amaçladı.
Yerli girişim AI Seer’in kurucusu ve CEO’su Dennis Yap, bu test altyapısına sahip olmanın küresel düzenlemelerin, standartların ve anlaşmaların uygulanmasına hazırlanmak için önemli olduğunu söyledi.
Yap ekledi: “Singapur’un hem ABD hem de Çin ile itibarı var, bu yüzden dünya yapay zekayı kontrol ettirmek için geldiğinde tarafsız ve güvenilir bir aktör olarak konumlanabiliriz.”
Güvenlik önce mi?
Havacılık Endüstrileri Derneği Singapur CEO’su Chew Hwee Yong, güvenliğin bir uçak veya bileşenlerinin tasarımı, üretimi, bakımı ve işletimine gömülü olduğunu söyledi.
Ulusal Singapur Üniversitesi’nde havacılık hukuku ve siyaseti uzmanı profesör Alan Tan, “Kimse titiz uçak güvenliği ihtiyacını tartışmıyor” dedi.
Ancak yapay zeka için güvenliğin ne ölçüde önceliklendirilmesi gerektiği konusunda pek bir uzlaşı yok, diye ekledi.
Anthropic CEO’su Dario Amodei, OpenAI yöneticisi Sam Altman ve SpaceXAI sahibi Elon Musk gibi büyük teknoloji şirketlerinin liderleri yapay zeka gelişiminde yavaşlama çağrısı yaparken, ABD Başkanı Donald Trump bu çağrıları reddetti ve bunun Çin’in ABD’yi geçmesine izin verebileceğini savundu.
Çin de geri adım attı ve Amodei’nin “sınırı tempolamak” ve Çin’in yapay zekadaki ilerlemesini yavaşlatacak önlemler almak yönündeki yorumlarının ardından “korku yayma” ve “haksız rekabet” konusunda uyarıda bulundu.
Tan, fikir birliği eksikliğinin ABD ve Çin’in – yapay zeka teknolojisinin başlıca sağlayıcıları olarak – gerekli yapay zeka güvenlik önlemlerinin geliştirilmesinde öncülük etmesi gerektiği anlamına geldiğini söyledi.
Trump, 24 Eylül’de Çin Devlet Başkanı Şi Cinping ile görüşecek ve yapay zekanın gündemde olması bekleniyor.
İki ülke arasındaki şiddetli yapay zeka rekabeti, bununla birlikte sonuçları sınırlayabilir.
Buna rağmen, toplantıya giden süreçte ABD, bu hafta sonu yapılacak yapay zeka görüşmeleri sırasında Çin ile paylaşılan riskleri tartışmaya açık olduğunu söyledi.
Tan, “Zamanla havacılıktaki ICAO’ya benzer şekilde yapay zeka güvenlik mekanizmalarını ilerletmek için diğer ülkeleri dahil edecek BM destekli bir anlaşma ve ajans oluşturulabilir” dedi ve yapay zeka üzerine uluslararası tartışmalar için ICAO benzeri bir organ kurulmasının öncelik olacağını ekledi.
Yapay zeka güvenliğinin tek bir ülke tarafından ele alınamayacağını kabul eden Singapur, 2025’ten bu yana Uluslararası Yapay Zeka Güvenliği Bilimsel Değişimi adlı yıllık forum aracılığıyla diğer ülkelerle etkileşim halinde.
Singapur Yapay Zeka Derneği’nden Zhang, bu tür çabaların ve Singapur’un yapay zeka test altyapısının havacılığın on yıllar aldığı şeyi birkaç yıl içinde yaptığını kaydetti.
“İşte bu yüzden küresel yapay zeka kuralları konusunda gerçek bir uyumun nesiller boyunca değil, bu on yıl içinde sağlanabileceğine dair iyimseriz” dedi.
Havacılığın yanı sıra gözlemciler, yapay zeka güvenlik kurallarının nasıl gelişebileceğine dair nükleer silahların yayılmasının önlenmesi anlaşmaları gibi diğer modellere işaret ediyor.
NUS’ten Tan, bunun Soğuk Savaş döneminde ABD ve eski Sovyetler Birliği’nin stratejik nükleer silahları sınırlamak ve azaltmak için Stratejik Silahların Sınırlanması Görüşmeleri yoluyla ikili olarak nasıl etkileşime girdiğini içerdiğini söyledi.
Diğer devletleri dahil etmek için çok taraflı Nükleer Silahların Yayılmasının Önlenmesi Antlaşması da getirildi.
Tan, süper güçlerin yapay zeka için benzer bir şey üzerinde konuşmaya ve çalışmaya başlamasının şart olduğunu söyledi.
“Onların katılımı ve bağlılığı olmadan yapay zeka güvenlik önlemleri oluşturma ve küresel bir fikir birliği sağlama çabası başarısızlığa mahkumdur” diye ekledi.
AI Seer’den Yap, yapay zeka sektörünün finans sektöründen ders alabileceğini söyledi.
Örneğin Singapur Para Otoritesi, bankaları düzenlediği şekilde mahalle havale dükkanlarını düzenlemiyor.
Büyük yapay zeka oyuncularının en ağır yükümlülükleri taşıması gerektiğini öne sürdü.
Bunlar, ürün piyasaya sürülmeden önce bağımsız testler yapmak, veri sızıntıları veya hack olaylarını bildirmek, yapay zekanın kamuoyuna zarar vermeyeceğini göstermek ve test maliyetinin büyük kısmını üstlenmek gibi yükümlülükleri içerebilir.
Daha küçük yapay zeka şirketleri söndürülmemeleri için daha az yükümlülükle karşılaşabilir.
Yap ekledi: “Havacılık kendisi de bu şekilde katmanlıdır.”
“Küçük bir radyo kontrollü uçak için olan kurallar büyük bir A380 uçağı için olan kurallar olmamalı.”
