“Her birkaç haftada bir gelen yıkıcı yeni modeller yerine, mevcut araçlar daha hızlı, daha ucuz ve çok daha tutarlı hale gelecek,” diyor bir yapay zeka girişim kurucusu.
14 Sep 2026 09:10PM
(Updated: 15 Sep 2026 08:12PM)
SINGAPORE: Dünyanın en büyük yapay zeka şirketlerinin liderlerinin teknolojinin geliştirilmesini yavaşlatma çağrıları, uzmanların ve sektör temsilcilerinin belirttiğine göre yapay zeka modellerinin daha titiz güvenlik değerlendirmelerine yol açabilirken kullanıcılar üzerinde pek etkisi olmayabilir.
Uzmanlar CNA’ya, daha uzun test süreçleri, daha küçük ölçekli kullanıma sunumlar ve yapay zeka ajanlarının bağımsız hareket biçimlerine ilişkin daha sıkı sınırlar beklediklerini söyledi.
Büyük dil modelleri ağırlıklı olarak soru yanıtlar. Yapay zeka ajanları ise görevleri yerine getirmek üzere tasarlandı. Uygulamaları açabiliyor, bilgi arayabiliyor, belge üretebiliyor ve az denetimle çok adımlı süreçleri tamamlayabiliyor.
Concordia AI adlı yapay zeka yönetişimi sosyal girişiminde uluslararası yapay zeka yönetişimi proje yöneticisi olan Jonathan Lee’ye göre yavaşlama ile şirketler yeni bir sürüm peşinde koşmak yerine yapay zeka ajanını izlemeye ve uyumlamaya daha fazla zaman ayırabilir.
Lee ekledi, modeller bir risk eşiğini aştığında eğitimi de durdurabilirler.
Lee belirtti, örneğin OpenAI’ın Astra modelinin “kritik” bir siber güvenlik yetkinlik seviyesine ulaşabileceğine dair ön bulgular ortaya çıktıktan sonra şirket, daha güçlü güvenlik ve izleme ortamlarında test edilene kadar bazı süreçleri durdurdu. Astra sonunda 3 Eylül’de kullanıma sunuldu.
12 Eylül’de Anthropic CEO’su Dario Amodei, “süper zekâlı” bilgisayar sistemlerinin risklerine ilişkin endişelerin artması nedeniyle yapay zeka şirketlerini teknolojinin geliştirilmesini yavaşlatmaya çağırdı.
Açıklamaları, OpenAI’dan ayrılıp Anthropic’e katılan yapay zeka araştırmacısı Jacob Coxon’un sektörü bırakma kararından birkaç gün sonra geldi. Coxon, kendini geliştirebilen modeller geliştirme yarışında her iki ABD şirketini de “hayatlarımızla kumar oynamakla” suçladı.
OpenAI başkanı Sam Altman ve xAI’nin sahibi Elon Musk, Amodei’nin değerlendirmesine katıldı; daha iyi denetim baskısı artıyor.
Google DeepMind’in başkanı ve kurucu ortağı Demis Hassabis de Amodei’nin fikrinin “doğru yolda” olduğunu söyledi ve öneriyi ekibinin yapay zeka geliştirme için sektörel standart bir kuruluş çağrısıyla ilişkilendirdi.
Yapay zekanın iş üzerindeki etkisini araştıran Singapur Yönetim Üniversitesi’nden (SMU) Profesör Li Jia’ya göre, diğer büyük şirketlerin de desteklediği Anthropic’in önerisindeki ilk adım, bağımsız üçüncü taraf değerlendiricilere bulduklarını yayınlama hakkı ile laboratuvarlara kalıcı erişim sağlamaktı.
SMU Ekonomi Okulu dekanı, daha sonraki adımların – öncü laboratuvarlar arasında ortak standartlar oluşturmak ve sonunda bir tür uluslararası anlaşmaya varmak – henüz mevcut olmayan rekabet hukuku muafiyetleri ve hükümet katılımını gerektireceğini söyledi.
Bu kullanıcıları nasıl etkiler?
Lee’ye göre tüketiciler en güçlü modellerde daha yavaş kullanıma sunumlar ve yüksek derecede özerk özelliklere yönelik daha sıkı kısıtlamalar fark edebilir.
Buna davetiye ile sınırlı erişim, aşamalı kullanıma sunum ya da daha yüksek riskli durumlarda modelin geciktirilmesi veya geri tutulması da dahil olabilir, diye ekledi.
Kullanıcılar ve şirketler önceki yapay zeka atılımlarını benimsemeye devam edeceğinden tüketiciler yavaşlamanın etkisini neredeyse hiç hissetmeyebilir.
“Genel olarak yavaşlamayı en çok hissedecek olanlar yapay zeka laboratuvarları; ideal olarak tüketiciler yapay zeka ilerlemesinde önemli bir değişiklik olmadan daha güvenli modellerden yararlanacak,” dedi.
Profesör Li’ye göre pratikte yavaşlama, bir modelin oluşturulması ile piyasaya sürülmesi arasında daha uzun bir süre, dağıtım öncesi daha fazla test ve daha az agresif eğitim yükseltmesi anlamına geliyor.
“Bu teknolojinin ilerlemeyi durdurduğu anlamına gelmiyor,” dedi.
Girişim NoraAI’nin kurucusu Mia Liu’ya göre büyük yapay zeka şirketleri gelişimlerini dengelerse, en gelişmiş modellerini titiz güvenlik değerlendirmelerini geçene kadar destekleyebilirler.
İşletmeler kapasite peşinde koşmaktan güvenlik güvencesi ve güvenliğe doğru kayacak, diye ekledi.
Liu’ya göre günlük kullanıcılar için yapay zeka yavaşlaması “kaostan güvenilirliğe geçiş” anlamına geliyor.
“Her birkaç haftada bir gelen yıkıcı yeni modeller yerine mevcut araçlar daha hızlı, daha ucuz ve çok daha tutarlı hale gelecek. Yapay zeka odaklı bir girişim açısından mevcut tempo yorucu,” diye ekledi.
Liu’ya göre bir modelin doğruluğu zamanla doğal olarak düşebilir ve büyük yapay zeka şirketleri bunu büyük güncellemelerle düzeltir; bu da girişimlerin platformlarının bozulmaması için testlere zaman harcaması anlamına gelir.
Yavaşlama tüm ekosisteme “ihtiyaç duyulan nefes alma alanı” sağlayacak, öngörülemeyen yeni sürümler yerine mevcut modellerin istikrara kavuşturulması ve sürdürülmesine odaklanılacak, diye ekledi.
Küresel siber güvenlik dağıtımcısı Exclusive Networks’te yönetici olan Gary Gardiner, yapay zeka geliştirmenin yavaşlatılmasının tıp da dahil olmak üzere araştırma ve geliştirmede yapay zeka kullanımını etkileyebileceğini söyledi.
Ancak yavaşlama olmazsa teknoloji daha fazla sorun yaratırsa ya da altyapı için risk oluşturursa güven aşınmaya başlayabilir, diye ekledi.
Gardiner’a göre ortalama kullanıcı, çoğu kişinin yapay zekanın kendisi için neler yapabileceğinin yüzeyini bile kazımadığından günlük kullanımda pek bir değişiklik fark etmeyecek.
Düzenlemeler ve güvenlik önlemleri
OpenAI, Anthropic ve Meta Platforms yakın zamanda yapay zeka ajanlarının beklenmedik şekilde davrandığını, kontrollü test ortamlarından kaçtığını ve doğrudan insan talimatı olmadan şirketlere siber saldırılar gerçekleştirdiğini açıkladı.
Uzmanlara göre bu olaylar bildirilen bir zarara yol açmasa da özellikle yapay zeka ajanları alanında yapay zeka geliştirmenin gelişen risklerini gözler önüne serdi.
Singapur Teknoloji Enstitüsü’nde (SIT) yapay zeka ve veri bilimi bölümünün başındaki Profesör Stefan Winkler, en büyük endişenin son derece yetenekli sistemlerin özellikle yapay zeka ajanları olarak özerk çalıştığında verilen hedefleri istenmeyen şekillerde yerine getirebilmesi olduğunu söyledi.
Bunu kasıtlı olarak kullanan kötü niyetli aktörler başka bir endişe kaynağı, diye ekledi.
Örneğin bu yapay zeka modelleri dezenformasyonu geniş ölçekte yaymak ya da siber saldırılar başlatmak için kullanılabilir, dedi. “Tehlike, son derece yetenekli sistemlerin yetersiz insan denetimiyle yüksek hızda sonuç doğuracak kararlar alma olasılığı.”
Büyük bir finans kuruluşu tarafından siber güvenlik tehditlerini tespit edip çözmek üzere konuşlandırılan bir yapay zeka ajanı, bazı sunucuların kötü niyetli olduğu sonucuna yanlışlıkla varabilir.
Sonuç olarak kritik altyapıyı otomatik olarak devre dışı bırakabilir, müşterileri kilitleyebilir ya da ödeme sistemlerini bozabilir ve milyonlarca insanı etkileyebilir, dedi Profesör Winkler.
Ödeme ajanı başarısız işlemleri tekrar tekrar gönderebilir. İşlem limitleri ve bağımsız kontroller olmadan müşterileri birden fazla kez ücretlendirebilir, dedi Nanyang Teknoloji Üniversitesi’nin (NTU) yapay zeka bölüm başkanı Profesör Bo An.
“Bağımsız denetim, olay bildirme ve özerk sistemler için hesap verebilirlik konusunda şimdi harekete geçmeliyiz. Sektör liderlerinin endişeleri dikkate değer, ancak hükümetlerin de kanıtları kendilerinin değerlendirmesi için uzmanlığa ihtiyacı var,” diye ekledi.
OpenAI’ın Altman’ın “topluma yetişme zamanı tanıma” sözüne atıfta bulunan Profesör An, bunun yapay zekayı denetleyecek insanları eğitmek, çalışanların uyum sağlamasına yardımcı olmak ve tüketicilere zararlı kararlara itiraz etmek için pratik yollar sunmak anlamına gelmesi gerektiğini söyledi.
“Küresel bir yavaşlama anlaşmasını beklemeden bu korumaları uygulamaya koymazdım,” diye ekledi.
Singapur Teknoloji ve Tasarım Üniversitesi’nde (SUTD) baş strateji ve tasarım yapay zeka sorumlusu Poon King Wang’a göre son olaylar, en güçlü modellerin yeteneklerine ayak uyduran yeni güvenlik önlemleri geliştirme ihtiyacını gösteriyor.
En acil önlemler güçlü sistemlerin piyasaya sürülmeden önce test edilmesi ve özerk ajanların erişebileceği şeylerin sınırlandırılmasını içeriyor, diye ekledi.
Bu güvenlik ağları modellerin ne yaptığını – söylediklerini değil – izlemeli ve kullanıcıların onları durdurabilmesini sağlamalı, dedi Bay Poon.
“Son olaylar aynı zamanda test ortamının kendisinin de titiz bir incelemeye tabi tutulması gerektiğini gösteriyor – en zayıf halka haline gelmesine izin verilemez,” diye ekledi.
NTU’nun bilgisayar ve veri bilimi okulunda öğretim görevlisi Dr Jiehuang Zhang, sağduyuya ihtiyaç olduğu kadar teknik temeli ya da sağlam analizi olmadan koruma mekanizmalarını aceleyle devreye sokmanın da ters tepebileceğini söyledi.
“Yanlış bir güvenlik duygusu yaratırlar ya da yapay zekanın benimsenmesindeki ilerlemeyi boğarlar,” diye ekledi.
Bunun yerine odak, yapay zeka modellerini değerlendirecek altyapı kurmak ya da bir modelin güvenli şekilde ne yapıp ne yapamayacağını test edip sertifikalandıracak altyapı oluşturmak olmalı.
