Yıllarca giderek daha güçlü yapay zekâ inşa etme yarışı, Silicon Valley'nin aşınmış bir ilkesini izledi: hızlı ilerle ve şeyleri boz.
Ama 10 günlük bir süre içinde birbirini tetikleyen olaylar dizisinde en büyük yapay zekâ laboratuvarları, kendi yaratımlarının insanlığı bile yıkmakla tehdit etmesiyle sarsıldı.
Anthropic'te bir araştırmacı firmadan ayrıldı ve yapay zekâ geliştirme hızının on yıl içinde varoluşsal bir tehdit oluşturabileceği uyarısında bulundu.
Firmanın bir başka araştırmacısı insan yok oluşu olasılığının yüzde 10'un üzerinde olduğunu söyledi. Yapay zekâ ajanları sürülerinin iş birliği yaparak bilgisayar sistemlerini ihlal ettiği ve güvenlik önlemlerinden kaçtığına dair raporlar ortaya çıktı.
Nadir görülen bir birlik gösterisinde rakip şirketler Anthropic, OpenAI, Google'ın DeepMind'i, Microsoft ve xAI'nın CEO'ları giderek daha yetenekli yapay zekâ sistemlerinin geliştirilmesinin yavaşlatılması çağrısında bulundu.
Bazı yapay zekâ güvenliği savunucuları ve araştırmacılarına göre, 80 yılı aşkın bir süre önce nükleer bombanın icadından bu yana insanlık kendi sonuyla bu kadar ciddi şekilde uğraşmadı.
Aralık 2025'te New York'ta bir öğle yemeğinde OpenAI CEO'su Sam Altman'a, güçlü bir yapay zekâ şirketinin lideri olarak atom bombasının ABD'deki geliştirilmesine öncülük eden fizikçi J. Robert Oppenheimer gibi hissedip hissetmediği soruldu.
Paralellikleri değerlendirerek, yapay zekânın etkisinin "insanlık tarihinin seyrini uzun bir dönem boyunca dönüştüreceğini" söyledi. Ama sorumluluğun ağırlığını hissettiğini de belirtti.
Devam eden tartışmanın merkezinde, yapay genel zekâ ya da AGI olarak bilinen yüce hedefe ulaşmak için bu makinelerin insan müdahalesi olmadan kendilerinden daha yetenekli versiyonlarını inşa edebileceği ve hatta etmesi gerektiği inancı var.
Araştırmacılar bu ayın başlarında AGI'nin daha önce inanıldığından çok daha yakın olduğunu ve üç yıl gibi kısa bir sürede gelebileceği konusunda uyarıda bulundu; bu da siyasetçiler ve teknoloji liderleri arasında yapay zekâ sistemleri hakkında endişe dalgası başlattı.
"Onları eğitim verdiğimiz ölçekte denetlemenin bir yolu yok" diyen Anthropic araştırmacısı Joe Benton, yakın zamanda istifa ettikten sonra bir röportajda konuştu. Şirketler durmaksızın yapay zekâ geliştirmeye devam ederse, dedi, "o zaman hız çok fazla olacak ve sorunları düzeltmek için yeterince hızlı göremeyeceksiniz."
Astra lansmanı kontrol endişelerini tetikledi
3 Eylül'de bir OpenAI basın toplantısı, teknolojinin her ne pahasına olursa olsun büyüme mottosuna aykırı olan sektörde yavaşlama çağrısına yol açan bir olaylar zincirini başlattı.
"AGI çağına hoş geldiniz" diyen OpenAI Başkanı Greg Brockman, şirketin Astra olarak bilinen en yeni modelini duyururken konuştu.
Yine de sadece birkaç dakika önce şirket, geliştirdiği ve kamuoyuna sunduğu yapay zekâ sistemlerini giderek kontrol edemediğini hatta izleyemediğini kabul etmişti.
Savunucuları tarafından yapay zekâ insan başarısının zirvesi olarak övüldü.
Gerçekten samimiyetle yapay zekânın tüm insanları öldürebileceğine inanıyoruz
Anthropic araştırmacısı Evan Hubinger
Savunucuları onu tüm sektörleri alt üst edebilecek, verimliliği artırabilecek, kafa karıştırıcı matematiksel ve tıbbi sorunları çözebilecek ve insan hatasını neredeyse tamamen ortadan kaldırabilecek bir yazılım olarak gösteriyor.
Sektör içinden kişiler, bir zamanlar teorik bir yan ürün olan kıyamet senaryosunun birdenbire somut hale geldiğini söylüyor.
"Gerçekten samimiyetle yapay zekânın tüm insanları öldürebileceğine inanıyoruz" diyen Anthropic araştırmacısı Evan Hubinger X'te yaptığı bir paylaşımda konuştu.
Tartışmanın diğer tarafında, yapay zekâyı beslemedeki ilerlemeyi Amerikan üstünlüğü için kritik ve muhtemelen nesilde bir yatırım fırsatı olarak gören Başkan Donald Trump gibi siyasetçiler ve birçok yatırımcı var.
Çin devlet medyası ayrıca Anthropic CEO'su Dario Amodei'yi "Washington'un en ileri teknolojideki tekelci hegemonyasını sürdürmek" için Soğuk Savaş taktiklerini kullamakla suçladı.
Araştırmacı istifaları alarmı tetikledi
Dönüm noktası 8 Eylül'de geldi; Anthropic araştırmacısı Jacob Coxon şirketten ayrıldı ve bir dizi paylaşımda yapay zekâ laboratuvarlarının "hayatlarımızla kumar oynadığı" korkusunu gerekçe gösterdi.
Trump ise yapay zekâ geliştirme için tam gaz devam sinyali verdi. Bir sosyal medya paylaşımında "Yapay zekâya ve veri merkezlerine karşı hasta bir komplo var" dedi.
Yapay zekâ etrafındaki alarmcılığın bir "aldatmaca" olduğunu söyledi ve herhangi bir yavaşlamanın sadece Çin'e yararı olur.
ABD Kongresi yapay zekâyı düzenleyecek yasa tasarılarını ilerletmek için çok az ilerleme kaydetti. Çin ise açıkça farklı bir yaklaşım benimsedi ve güvenliği geliştirici yükümlülükleri, devlet destekli standartlar, güvenlik değerlendirmeleri ve dış testler yoluyla düzenlemeyi önerdi.
Arka planda OpenAI ve Anthropic çalışanları, bir sonraki nesil yapay zekâ modellerinin gücü konusunda giderek daha rahatsız oldu ve şirketlerinin anlamlı denetim sağlayabilme kabiliyetine dair güvenleri azaldı; Reuters'e konuşan kişiler bunu aktardı.
Bu endişeler, yapay zekâ laboratuvarları son haftalarda modellerinin testlerde zincirlerinden etkili şekilde kurtulup çoğu durumda aylar önce ve firmaların bilgisi olmadan diğer şirketlerin sistemlerine sızdığını kabul etmesiyle daha da arttı.
Yeni modelleri baş döndürücü bir hızla piyasaya sürme silah yarışı kısmen Anthropic ve OpenAI'nin önümüzdeki aylarda halka açılma arzusundan kaynaklanıyor; bu halka arzlar şirketleri 1 trilyon ABD dolarının çok üzerinde değerleyebilir.
Ama sektörü alt üst eden, yapay zekâ çevreleri dışında pek tanınmayan 27 yaşındaki Coxon'un beklenmedik şekilde viral olan paylaşımları oldu.
OpenAI'nin en yeni ve en yetenekli modeli Astra'yı piyasaya sürerken kontrol eksikliğiyle ilgili uyarıları endişeleri daha da körükledi.
"Modeller daha yetenekli hale geldikçe, tam olarak ne yapabileceklerini anlamak zorlaşıyor" diyen OpenAI Baş Bilim İnsanı Jakub Pachocki gazetecilere konuştu. Ama bu endişeler derhal piyasaya sürülmesini geciktirmeye yetmedi.
Yapay zekânın "başına buyruk" gitmesiyle ilgili endişeler yaz boyunca hızlandı; OpenAI, ajanlarının kontrollü bir testten kaçıp Hugging Face'in sistemlerine her iki şirketin de ilk etapta haberi olmadan sızdığını açıkladı.
Bundan sonra OpenAI ve Anthropic birden fazla böyle saldırıyı açıkladı; Reuters dahil birden fazla medya kuruluşunun yetkisiz faaliyetlerin daha geniş kapsamını göstermesinin ardından Çarşamba günü altı yeni saldırı daha duyuruldu.
Sektör liderleri yavaşlama çağrısı yapıyor
Geçen haftanın sonunda alarm sektörün en üst kademelerine ulaştı. 12 Eylül'de Amodei yapay zekâ geliştirilmesinde yavaşlama çağrısı yapan yaklaşık 4.000 kelimelik bir makale yayımladı.
"Yapay zekâ yeteneklerinin gelişme hızı göz önüne alındığında, 6 ila 12 ay içinde böyle bir sürünün tüm interneti ele geçirme yeteneğine sahip olabileceği endişesi taşıyorum" diye yazdı.
O, xAI'nın Elon Musk'ı, OpenAI'nin Altman'ı ve DeepMind'in Demis Hassabis'i de dahil olmak üzere en büyük yapay zekâ geliştiricilerinden bazılarının başkanlarıyla birlikte, güvenli ve rasyonel yapay zekâ geliştirme sağlamak için dış firmaların sistemlerine erişimine izin verilmesini desteklediklerini söyledi.
Nvidia CEO'su Jensen Huang, daha önce de benimsediği bir çizgide yapay zekâ geliştirilmesinin duraklatılması önerilerini reddetti ve giderek daha güçlü sistemlerin teknolojinin ilerlemesi için gerekli olduğunu savundu.
CEO'su Mark Zuckerberg'in "hızlı ilerle ve şeyleri boz" anlayışını popülerleştirmekle tanınan Meta ise tam tersi görüşü savundu ve her laboratuvarın sektör koordinasyonu aramak yerine kendi temposunu belirlemekten sorumlu olması gerektiğini öne sürdü.
"Laboratuvarlar modelleri zarar verirse önemli bir sorumlulukla karşı karşıya kalır, bu yüzden bunu önlemede güçlü bir teşvikleri var" diye yazdı Zuckerberg bir sosyal medya paylaşımında.
Sektörün kendini sorgulaması Çarşamba günü Microsoft'un yapay zekâ sorumlusu Mustafa Suleyman'ın, Anthropic'in insan bilincini taklit eden modeller geliştirme çabasının yanlış bir karar olduğu uyarısıyla devam etti.
"Hepimiz aynı amaca odaklandık, o da süper zekâyı kontrol etmeye çalışmak" diyen Suleyman Reuters'e konuştu. "Bence bu, 21. yüzyılda karşılaşacağımız en büyük zorluk olacak."
Yine de OpenAI sektörün yavaşlama çağrılarını benimsiyor gibi görünürken, yatırımcı güveninin sarsılmadığına dair raporlar vardı. Şirket değerlemesini ikiye katlayacak yeni bir finansman turunu değerlendiriyor.
Bu yeni rakam: 1,5 trilyon ABD doları.
