Anthropic araştırmacısı Jacob Coxon yakın zamanda istifa etti ve sosyal medyada bunu “yapay zekâyı geliştiren insanlar samimiyetle bunun bu on yılın sonunda hepimizi öldürebileceğine inanıyor” sözleriyle açıkladı.
Yapay zeka şirketinin hizalama bilimi ekibine liderlik eden Evan Hubinger, önümüzdeki 10 yıl içinde olasılığın yüzde 10’un üzerinde olduğunu söyledi. Anthropic CEO’su Dario Amodei, riskleri azaltmaya yardımcı olmak için yapay zeka cephesinde yavaşlamaya çağrı yaptı; bu fikir OpenAI CEO’su Sam Altman ve xAI CEO’su Elon Musk tarafından da dile getirildi.
Akla ilk gelen kalın Avusturya aksanıyla konuşan katil robotlardan gelen kıyamet olabilir. Ancak en büyük risk çelikten değil hücrelerden geliyor. Institute for Security and Technology’nin 111 ulusal güvenlik uygulayıcısıyla yaptığı ankete göre katılımcıların yüzde 70’i yapay zekânın biyolojik silah riskini anlamlı şekilde artırdığına ya da yakında artıracağına inanıyor. Bir yapay zeka destekli araştırmacının çiçek hastalığına bağışıklık sinyali veren bir gen ekleyerek bağışıklık yanıtını o kadar bastırdığını hayal edin ki bu, enfekte ettiği aşısız her hayvanı ve aşılanmışların çoğunu öldürüyor.
