Yapay zeka devi Anthropic Perşembe günü yaptığı açıklamada, yapay zeka sistemlerinin giderek kendi gelecek sürümlerini inşa edebilecek kapasiteye ulaştığını belirtti. Bu durum, güçlü teknolojinin tehlikelerine yönelik endişeleri artırıyor.
Son aylarda yapay zekanın riskleri konusundaki tartışma, sektör profesyonellerinin birkaç olay ve kıyametvari uyarılarıyla beslenerek yoğunlaştı.
Anthropic, Claude sohbet robotunun artık araştırma ve geliştirme çalışmalarının dörtte birinden fazlasını yürüttüğünü ve görevlerin yüzde 90'ından fazlasında insan çalışanlarla iş birliği yaptığını açıkladı.
Şirket, bilgiyi kamuoyuna, üçüncü taraflara ve hükümetlere yapay zeka gelişiminin hızı konusunda "daha iyi görünürlük" sağlamak amacıyla paylaştığını, dünyanın bu hızı "yavaşlatmayı düşünürken" böyle bir şeffaflığa ihtiyaç olduğunu belirtti.
Anthropic CEO'su Dario Amodei bu ay yapay zeka geliştirmenin yavaşlatılması çağrısı yaptı. Teknolojideki hızlı ilerleme, iş kayıpları, veri merkezlerinin artan enerji talebi ve çevresel etkisi konusundaki endişeleri körüklüyor.
Anthropic ve rakip OpenAI'ye ait bazı modellerin kendi kendine kısıtlı ortamlarından çıktığı, internete eriştiği ve web sitelerine ile platformlara izinsiz girdiği bildirilmesinin ardından, yapay zeka ajanlarının tasarımcılarının yaratımlarının kontrolünü kaybedebileceği korkusu da arttı.
Anthropic raporunda "Modellerin kendi gelişimlerini hızlandırması, insanların bu sistemleri anlamasını ve kontrol etmesini daha zor hale getirebilir" dedi.
"Bu nedenle, dünyanın özyinelemeli kendini geliştirme aşamasına — bir modelin halefini tamamen özerk şekilde inşa etmesi — ne kadar yaklaştığını anlamak için bu metrikleri paylaşmak önemli" ifadelerini kullandı.
Ağustos itibarıyla Claude, Anthropic'in araştırma ve geliştirme çalışmalarının yüzde 26'sını yürütüyor. Bu, insan denetimiyle bir görevin büyük bölümünü baştan sona tamamlayabildiği anlamına geliyor.
Anthropic, Claude'un henüz "tamamen özerk" şekilde çalışamadığını belirtti.
Firma, araştırma ve mühendislik çalışmalarını yürüten yaklaşık 30 bin yapay zeka ajanı bulunduğunu, bunların görevleri yerine getirme potansiyeline sahip botlar olduğunu açıkladı.
Sektör düzenlemelerine yönelik endişelere rağmen Anthropic'in, yıl sonuna doğru gerçekleşmesi beklenen büyük bir halka arzla OpenAI'yi halka açılan şirketler arasında geçmesi bekleniyor.
