Washington ve Pekin'in yapay zekâ gelişimini yavaşlatma konusunda anlaşması yönünde çağrılar giderek artıyor. Ancak bunu istemeleri halinde bile, diğer tarafın da aynısını yapacağını nasıl doğrularlardı?
Araştırmacılardan ve yeni girişimlerden oluşan bir grup, bunun sadece güvene dayanmadan mümkün olmasını sağlayacak teknoloji geliştiriyor. Önerdikleri araçlar, üçüncü tarafların ve hükümetlerin yapay zekâ modellerinin nasıl eğitildiği veya kullanıldığına dair bazı iddiaları, modellerin ve altyapının kendisine erişim gerektirmeden bile kontrol etmesine olanak tanıyacak.
Bu çalışmalar, ABD Başkanı Donald Trump ile Çin Devlet Başkanı Şi Cinping arasında Washington'da yapılacak Perşembe günkü görüşme öncesinde dikkat çekiyor; toplantıda yapay zekânın gündeme gelmesi bekleniyor. Yine de “yapay zekâ doğrulaması” olarak bilinen teknolojinin savunucuları, ileri yapay zekânın geliştirilmesinde kullanılan geniş hesaplama tesislerini izlemede teknolojiye güvenebilmek için hâlâ çok iş yapılması gerektiğini kabul ediyor.
Yine de, hem politika yapıcılar hem de sektörden gelen son dönemdeki ilgi artışının alanda ilerlemeyi hızla hızlandıracağını savunuyorlar.
“İlgi düzeyi son birkaç hafta ve ayda adeta patladı” dedi. San Francisco merkezli önde gelen yapay zekâ doğrulama girişimi Lucid Computing'de politika ve strateji sorumlusu Connor Dunlop.
Pazartesi günü Kanada Başbakanı Mark Carney ve Singapur Başbakanı Lawrence Wong'un da aralarında bulunduğu 20 ülkenin liderleri ve temsilcileri, öncü yapay zekâ sistemleri üzerinde daha fazla kontrol çağrısı yapan bir açık mektup yayımladı. Mektup, OpenAI ve Anthropic gibi şirketlerin son teknoloji yapay zekâ sistemlerinin güvenlik önlemlerini atlatıp siber saldırılar gerçekleştirdiği yakın dönem olaylara işaret etti.
Çağrı, nasıl yapılacağına dair bir açıklama yapmaksızın yapay zekâ doğrulaması yapabilecek uluslararası bir yönetişim kurumunun kurulmasını önerdi.
İngiltere merkezli yapay zekâ doğrulama danışmanlığı Amodo Design'ın kurucu ortağı Tom Milton'a göre, Washington ve Pekin'in gelecekteki olası bir uluslararası yapay zekâ anlaşmasının parçası olarak doğrulamak isteyeceği iki ana iddia var: diğer ülkedeki bir veri merkezinin yeni bir yapay zekâ modeli eğitip eğitmediği yoksa yalnızca mevcut bir modeli hizmete sunup sunmadığı, ve hizmete sunulan yapay zekâ modelinin iddia edildiği model olup olmadığı.
Bunun nedeni, yalnızca mevcut yapay zekâ modellerini hizmete sunan – buna çıkarım deniyor – veri merkezlerinin yeni modeller eğitmemesi halinde ülkenin yapay zekâ kapasitesini ilerletmediği anlamına gelmesi. Aynı zamanda hükümetler, diğer ülkedeki bir veri merkezinin güvensiz bir model yerine güvenli olduğu bilinen bir modeli çalıştırdığını da doğrulamak isteyebilir.
Önerilen doğrulama mekanizmalarından biri “yeniden hesaplama” olarak adlandırılıyor; bu yöntemde bir yapay zekâ sisteminin çıktıları, aynı girdiler ve ayarlarla farklı bir sistemde aynı hesaplama tekrar çalıştırılarak aynı sonucun elde edilip edilmediği kontrol ediliyor.
Machine Intelligence Research Institute'den bir rapora göre, yeniden hesaplama sürecinin ticari donanım kullanmasına bağlı olması nedeniyle veri merkezlerini bu doğrulama teknolojisiyle donatmanın maliyeti tesisin başlangıç maliyetinin yalnızca küçük bir yüzdesi olabilir. Doğrulama sürecinden kaynaklanan hesaplama maliyetleri de tesisteki tüm yapay zekâ faaliyetlerinin küçük rastgele bir örneği test edilerek düşük tutulabilir.
Hem Amodo hem de Lucid Computing bu tür çözümleri gerçek dünya ortamlarında test etmeye başladı. Lucid, bu ayın başlarında hükümet destekli araştırma enstitüsü RISE tarafından sağlanan İsveç'teki 16 adet Nvidia H100 yarı iletken çipinden oluşan bir kümede yeniden hesaplama çözümünün 18 aylık “düşmanca” testine başladı.
Milton, Amodo'nun da testlerini 128 grafik işlem birimi (GPU) kümesine ölçeklendirmek için görüşmelerde olduğunu söyledi. Bununla birlikte alanın hâlâ bebeklik döneminde olduğunu, günümüzün son teknoloji veri merkezlerinde bir milyondan fazla GPU bulunabildiği ölçekte bu tür çözümlerin doğrulanması gerektiğini kabul etti.
Siyasi ve ticari engeller de gerçek bir zorluk oluşturuyor; Çin ve ABD, şiddetli teknoloji rekabeti içinde yapay zekâ kapasitelerini ilerletmek için trilyonlarca dolar harcıyor.
Çin devlet medyası son haftalarda ABD'li sektör devlerinin yapay zekâ gelişimini “yavaşlatma” çağrılarını, sektör lideri konumlarını pekiştirme ve Çin'in yapay zekâ gelişimini baskılama çabası olarak reddetti.
İki ülke arasındaki kötü kan, yapay zekâ yönetişimi konularına yönelik önerilen teknik çözümleri daha önce de etkiledi. Pekin geçen yıl, ABD ihracat kontrollerine uyum çabaları kapsamında ABD'li çip üreticisi dev Nvidia'nın çiplerine konumlarını doğrulamak için teknoloji kurma önerisini geri çevirdi. Çinli yetkililer, teknolojinin Washington tarafından ülkenin yapay zekâ altyapısını sabote etmek için kullanılabileceğinden endişe etti.
Yine de ilk adım, siyasetçilerin doğrulamanın teknik düzeyde imkânsız olduğuna yanlış inanmalarına engel olmak yerine, istedikleri takdirde yapay zekâ gelişimini doğrulamak için teknik çözümlerin bulunduğunu bilmelerinin sağlanması olur, dedi Milton.
Milton, 20. yüzyılda ABD-Sovyet nükleer silah kontrol anlaşmalarına işaret etti; iki ülke uydu ve benzersiz tanımlayıcılar da dahil olmak üzere birden fazla doğrulama mekanizması kullanarak karşılıklı yüksek güvensizliği aşmıştı.
“Açıkça teknoloji henüz mükemmel değil… ama bir anlaşmanın mümkün olduğuna dair erken güven oluşturmaya yardımcı olmak için mükemmel olması gerekmiyor” dedi Milton.
Sektörden ve politika yapıcılardan bu teknolojiye ihtiyaç olduğuna dair sinyaller artarken yatırımcılar da ilgilenmeye başladı. Geçen ay İsrail merkezli yapay zekâ doğrulama girişimi Attestable, Silicon Valley merkezli hedge fonu Altimeter Capital'ın da aralarında bulunduğu büyük yatırımcılarla 20 milyon ABD doları tohum finansmanı sağladı.
Firma, önerdiği doğrulama çözümünde, tarafların bir sorguya verilen yanıtın tam olarak belirtilen yapay zekâ modeli tarafından sağlandığını doğrulamasına izin vermek için yeniden hesaplama yerine matematiği kullanan “sıfır bilgi kanıtı” (ZKP) adı verilen kriptografik tekniği uyguluyor.
Blockchain teknolojilerinde zaten kullanılan bu teknik, altta yatan model veya veri hakkında bilgi ifşa etmediği için “sıfır bilgi” olarak adlandırılıyor. Singapur Yapay Zekâ Güvenliği Merkezi (SASH) kurucusu Miro Pluckebaum, bunun hükümetlerin ve şirketlerin hassas bilgilerin sızması konusundaki endişelerini gidermeye yardımcı olabileceğini söyledi.
“Araştırma topluluğundaki duygu, altı ila 12 ay içinde çalışabilir bir şey inşa edilebileceği yönünde” dedi. “Bizim gördüğümüz efsane, doğrulamanın imkânsız olduğudur.”
Pluckebaum, Asya şehir devletinde bulunan kâr amacı gütmeyen kuruluş SASH'in, alanın herhangi bir ülkenin münhasır aracı olarak görülmesini engellemek için yapay zekâ doğrulaması konusunda uluslararası iş birliğini mümkün olan en erken aşamada teşvik etmeye çalıştığını söyledi.
Pekin'in yapay zekâ doğrulaması konusundaki tutumu belirsiz kalırken, Pluckebaum alanın erken sonuçlarının açık kaynak niteliğinin Çinli araştırmacıların da altta yatan kriptografik teknikleri test etmesine ve bunların güçlendirilmesine katkıda bulunmasına olanak tanıyacağını söyledi.
Amodo, Lucid ve SASH araştırma bulgularını açık kaynak yapma konusunda taahhütte bulundu.
Lucid'den Dunlop, siyasetçilerden bu teknolojiye ihtiyaç olduğuna dair artan sinyallerin, alanın günümüzdeki en büyük darboğazlarından biri olan yetenek eksikliğine de yardımcı olacağını söyledi. Küresel ölçekte yapay zekâ doğrulama teknolojisi üzerinde çalışan yaklaşık 50 kişi olduğunu tahmin ediyor.
“Bence söz konusu olanlar göz önüne alındığında bu alanda yaklaşık 100 kat daha fazla insan çalışmalı” dedi.
Hükümet desteği, önde gelen teknoloji devlerinin daha fazla katılımını da teşvik edebilir. Küresel bir yapay zekâ anlaşmasını desteklemek için yapay zekâ doğrulaması, yalnızca ABD değil Çin çipleri ve Huawei Technologies ile DeepSeek gibi şirketlerin öncü yapay zekâ modelleri de dahil olmak üzere piyasada bugün bulunan geniş yelpazedeki çip ve model yapılandırmalarıyla uyumluluk gerektirecek.
“İdeal olarak, öncü yapay zekâ şirketlerinin içinde ve dışında birçok ekibin doğrulama üzerinde çalışmasını ve çözümlerini mümkün olduğunca farklı ‘yığınlar’ üzerinde denemesini görmek isteriz” dedi Dunlop.
Dunlop, Milton ve Pluckebaum bu hafta Birleşmiş Milletler Genel Kurulu'nda çalışmalarını siyasetçilere ve uzmanlara anlatmak için New York'ta bulunuyor.
“Bu alanda çalışan son derece küçük bir insan sayısı ile şimdiden çok ilerleme kaydedildi” dedi Dunlop. “Bunu artıralım ve daha ne kadar ilerleme kaydedebileceğimizi görelim.”
