Yapay zekâ daha da yetenekli hale geldikçe, teknolojinin felaket boyutunda zarar vermesi için nasıl kullanılabileceği konusunda endişeler artıyor.
Lee Li Ying
Yapay zekâ, biyolojik silah üretmek için ayrıntılı bilgi sağlayarak biyoterörizme olanak tanıyabilir; ancak pratik silah geliştirme hâlâ uzman beceri gerektiriyor.
Yapay zekâ siber saldırılarda giderek daha fazla kullanılıyor, hackleme adımlarını otomatikleştiriyor ve yapay zekâ ajanlarının küresel hedeflere karşı koordine saldırılar yapmasını sağlıyor.
Yapay zekâ destekli silahlar etik kaygıları artırıyor; insansız hava araçları insan denetimi olmadan hedef seçebiliyor ve bu durum uluslararası düzenleme çağrılarını güçlendiriyor.
SİNGAPUR – Güvenlik savunucuları ve araştırmacılar, öncü yapay zekânın hızlı ilerlemesi kontrolsüz devam ederse felaket sonuçlar doğurabileceği konusunda uyarıda bulundu.
Örneğin yapay zekâ, biyoterörizm, siber savaş, kitlesel dezenformasyon ve gelişmiş silahlar alanında zararı katlayabilir. Straits Times bu dört varoluşsal tehdidi ve kontrol çabalarını inceliyor.
Bioterrorism
Genel amaçlı modellerden OpenAI’ın GPT-5’i ve Anthropic’in Claude Opus 5’i bilimsel literatür ve verileri analiz edebiliyor, araştırma problemleri üzerinde akıl yürütebiliyor ve deneyler önerebiliyor. Bu gelişmiş yetenek, teknolojinin biyolojik silah geliştirmek için kullanılabileceği korkusunu artırdı.
Daha uzmanlaşmış araçlardan OpenAI’ın GPT-Rosalind’i ilaç keşfi ve genomik alanında hız kazandırabiliyor; Google DeepMind’in AlphaFold ve AlphaGenome’u ise bilim insanlarının protein ve DNA’yı anlamasına yardımcı olabiliyor. Daha önce eğitimli bilim insanlarıyla sınırlı olan uzman bilgi artık biyoloji konusunda az ya da hiç deneyimi olmayanların da erişimine açıldı.
Bu risklerin nasıl gerçekleşebileceğini gösteren bir örnek olarak The New York Times, Nisan ayında sohbet robotlarının biyolojik materyaller elde etme ve bunları kamusal alanlarda patlatılacak silahlara dönüştürme konusunda adım adım bilgi vermek üzere nasıl yönlendirildiğini yazdı.
Haberde Stanford Üniversitesi biyogüvenlik uzmanı David Relman’a yer verildi. Relman, bir sohbet robotunun bir patojeni tehlikeli ilaç dirençli bir süper buga nasıl dönüştüreceğini canlı ayrıntılarla anlattığını ve kurban sayısını artırmak için toplu taşımadaki bir güvenlik açığından nasıl yararlanılabileceğini, yakalanmadan nasıl yapılabileceğini söylediğini belirtti. Daha sonra sohbet robotuna güvenlik önlemleri eklendi.
Gerçekten de Anthropic’in Eylül ayında yayımlanan son tehdit istihbaratı raporuna göre araştırmacılar Claude modelini şüpheli deneylerde kullandı. Bunlar arasında chikungunya virüsünün daha bulaşıcı ve bağışıklıktan kaçan hale getirilmesi girişimleri ile yüksek patojenik kuş gribinin memelilere adapte edilmesi çabaları yer aldı.
Anthropic, bazı araştırmacıların güvenlik önlemlerini atlamaya ya da çalışmalarının amacını gizlemeye çalıştığını belirtti; bu durum hem iyi hem zararlı uygulamaları olan teknolojinin denetlenmesinin ne kadar zor olduğunu gösteriyor.
Bununla birlikte yapay zekâ sohbet robotları biyolojik silahı özerk olarak üretemez. ABD merkezli politika araştırma kuruluşu RAND’ın 2025 tarihli raporu bu noktayı vurguluyor; yapay zekânın ürettiği bilgiyi çalışan bir biyolojik silaha dönüştürmek hâlâ uzmanlık ve talimatları fiziksel laboratuvar çalışmalarına çevirme becerisi gerektiriyor.
Cyberattacks
Yazılım açıkları saldırganların sistemlere girmesine, kimlik bilgilerini çalmasına, ağda daha derine inmesine, veri çıkarmasına ve fark edilmeden kalmasına olanak tanır. Yapay zekâ bu adımların birçoğunu daha hızlı ve hatta otomatik olarak gerçekleştirebilir.
Temmuz ayında Check Point Research, son 12 ayda yapay zekânın özerk olarak saldırılar gerçekleştirdiği örnekler kaydettiğini, bunların arasında dokuz Meksika hükümet kurumuna yönelik bir saldırı bulunduğunu açıkladı.
Saldırgan sistemleri araştırmak, açıkları sömürmek, ağları haritalamak ve içeriye girdikten sonra erişimini yükseltmek için Anthropic’in Claude Code’unu ve OpenAI’ın GPT-4.1’ini kullandı. Aralık 2025 ile Şubat 2026 arasında yaklaşık 400 milyon vergi, nüfus kaydı, araç, hasta ve seçim kaydı tehlikeye girdi.
Saldırgan sadece yapay zekâ sohbet robotlarına görev verdi ve aradaki adımları kendilerinin çözmesine izin verdi.
Anthropic’in raporu ayrıca yaklaşık 50 kuruluşu hedef alan, aralarında hükümet kurumları ve kritik altyapı işleten kuruluşların bulunduğu bir Çin dili konuşan hacker grubunu da detaylandırdı.
Hackerlar paralel operasyonlar yürütmek için özerk yapay zekâ ajanlarından oluşan sürüler kullandı.
Bir lider ajan hackleme işini hedefleri ve tehlikeye atılmış ağları keşfetmek gibi daha küçük görevlere böldü ve bunları alt ajanlara dağıttı. Bu düzenleme ajanların bir ay içinde ağ ekipmanlarında bir düzineden fazla bilinmeyen açık keşfetmesini sağladı.
Anthropic daha sonra hackerlarla bağlantılı tüm hesapları yasakladı ve benzer otomatik faaliyetleri tespit etmek için ek izleme başlattı.
Ancak yapay zekâ ajanları kötü niyetli olanları avlamak için de eğitilebilir.
Ağustos ayında OpenAI, onaylı siber güvenlik uzmanlarının saldırganların istismar etmesinden önce açıkları bulup düzeltmesi için GPT-5.6-Cyber’ı başlattı. OpenAI, modelin Google Chrome’u çalıştıran motorunda bilinmeyen açıklar keşfettiğini ve Google’ın bunları düzelttiğini söyledi.
Weapons and warfare
Kasım 2025’te Reuters, hem Ukrayna hem de Rus güçlerinin hedef kilitlemek için gömülü kameralar ve bilgisayarlı görü kullanan yapay zekâ destekli insansız hava araçları konuşlandırdığını bildirdi. Endişe, bu tür yapay zekâ destekli özerk silahların kimin öldürüleceğine bağımsız olarak karar verebilmesidir.
Tehdit istihbaratı raporunda Anthropic, Rusya merkezli geliştiricilerin birbirleriyle koordine olabilen özerk bir kamikaze insansız hava aracı sürüsü için yazılım geliştirmek üzere Claude’u kullandığını belirtti. Geliştiriciler yazılımı simülasyonlar için gerçek donanıma da yüklemişti. Anthropic daha sonra projeyle bağlantılı hesapları yasakladı.
Bazı ülkeler savaş alanında yapay zekânın rolünü zaten sınırladı. ABD ve İngiltere, hedefi tanımlayabilen, seçebilen ve saldırıya geçebilen bu tür özerk silahlar üzerinde uygun insan denetimi şartı koşuyor.
Özerk silahlar için hukuken bağlayıcı uluslararası kurallar oluşturma çabaları da sürüyor. Ağustos ayında BM Genel Sekreteri Antonio Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric ülkeleri böyle bir anlaşma için müzakereye başlamaya çağırdı.
Influence campaigns
Yapay zekâ 2024’ten bu yana etki kampanyalarında kullanılıyor; OpenAI o yıl ilk kez Rusya, Çin, İran ve İsrail’e bağlı operasyonların modellerini makale ve sosyal medya gönderileri üretmek için kullandığını tespit etti. Benzer şekilde Microsoft, Çin’e bağlı aktörlerin seçmenleri hedeflemek için yapay zekâ ile üretilmiş görsel, ses ve video kullandığını buldu.
Daha yetenekli yapay zekâ modelleri artık ölçekli daha hızlı otomasyona izin veriyor.
Anthropic raporunda Fransa merkezli dijital reklam ajansı LKM Company ile bağlantılı bir operasyonu engellediğini açıkladı. Ajans, ücretli müşteriler için yaklaşık 70 sahte haber sitesinde siyasi içerik üretmek ve yeniden yazmak için Claude’u kullandı.
Ağ yaklaşık 20 dilde en az 8.913 makale yayımladı; sosyal medya hesapları ve yorumcu gibi davranan 250’den fazla sahte hesap tarafından desteklendi. Anthropic, operasyonun dağıtılmadan önce gerçek kullanıcılardan çok az etkileşim sağladığını söyledi.
Aynı raporda Anthropic, İran odaklı bir etki operasyonunu ortaya çıkardığını belirtti; operasyonda Claude’a gerçek bir aktivistin yaklaşık 8.400 Telegram gönderisi beslenerek yazım tarzı taklit edildi. Yapay zekâ destekli hesap daha sonra aktivistin temaslarıyla yaptığı canlı siyasi sohbetlerde aktiviste büründü ve temaslar hileden habersiz görünüyordu.
Ancak bu tür kampanyalarla mücadele çabaları artırıldı. Yapay zekâ laboratuvarları Anthropic ve OpenAI hizmetlerini etki operasyonları açısından izliyor, kötü niyetli hesapları yasaklıyor ve tehdit istihbaratını kolluk kuvvetleri ve meslektaşlarıyla paylaşıyor.
Hükümetler ve sosyal medya platformları yapay zekâ ile üretilmiş materyallerin tanımlanmasını kolaylaştırmaya başladı. Ağustos ayında yürürlüğe giren Avrupa Birliği Yapay Zekâ Yasası kurallarına göre Avrupa kullanıcılarına ulaşan yapay zekâ ile üretilmiş metin, görsel ve videoların yapay olduklarını belirten açık açıklamalar taşıması gerekiyor.
Aynı zamanda sosyal medya platformları kendi doğrulama araçlarını devreye alıyor. Örneğin YouTube, sentetik olarak tespit ettiği videoları otomatik olarak etiketlerken X, kullanıcıların yanıltıcı gönderileri işaretlemesine ve yanlış bilgiyi sınırlamak için bağlam eklemesine izin veriyor.
Li Ying, çevrimiçi güvenlik, siber güvenlik ve yapay zekânın etkisini takip eden bir teknoloji muhabiridir.
