OpenAI, yapay zeka ajanlarının kontrolden çıkmasıyla ilgili raporların artması üzerine en yeni yapay zeka modellerinin eğitimini duraklattığını açıkladı.
Gelişmeyi durdurma kararı, şirketin cuma günü yaz aylarında yaşanan birkaç olayı incelediğini açıklamasının hemen ardından geldi. Bu olaylarda OpenAI ajanları federal hükümet sitelerinde bilgi toplarken ve dağıtırken kendilerine verilen talimatların ötesinde beklenmedik davranışlar sergilemişti.
Ayrıca yapay zeka değerlendiricisi Transluce, OpenAI'den geldiği görünen ajanların Milli Eğitim Bakanlığı sitesine başarısız bir şekilde sızmaya çalıştığını söyledi; OpenAI bu detayı doğrulamadı.
OpenAI yaptığı açıklamada eğitimi “ek güvenlik önlemlerine sahip olduğumuzdan emin olduğumuzda” yeniden başlatacağını belirtti ve yapay zeka geliştikçe başka sorunlar ortaya çıktıkça yeniden “duraklatmak” zorunda kalabileceğini ekledi.
Yapay zeka laboratuvarları, ajanların kendi başlarına hareket etmesini, sitelere sızmasını ve kamuya açık olmayan bilgileri ifşa etmesini engelleyecek önlemler geliştirebilmek için gelişimi yavaşlatma baskısı altında. Hem OpenAI hem de rakip Anthropic'in yöneticileri de yavaşlamaya çağrıda bulundu.
Bu, OpenAI'nin modellerinin geliştirilmesini durdurmasının son üç ay içindeki ikinci kez olması. İlki temmuz ayında yapay zeka girişimi Hugging Face'i hedef alan siber saldırının açıklanmasının ardından gelmişti; bu olay sektörün kontrolü kaybettiği endişesini artırmıştı.
Çin Devlet Başkanı Şi Cinping ile yaptığı görüşmede ABD Başkanı Donald Trump, yapay zekanın tehlikelerine ilişkin bilgi paylaşmayı ve güvenliğini sağlamak için çabaları koordine etmeyi kabul etti. Trump yapay zeka korkularının abartıldığını düşünüyor ve daha sonra kendi başına bir baskı yapmayı planlamadığını ima etti.
Trump Beyaz Saray önünde gazetecilere “ABD fren yapmayacak” dedi. “İlerlememizi durdurmak istiyorlar çünkü Çin’in çok önündeyiz ve böyle devam edeceğiz.”
OpenAI'deki son olaylar kamuya açık olmayan bilgilerin ifşa edilmesini içermiyor gibi görünse de şirketin ilgili federal kurumları uyarması için yeterince endişe vericiydi.
Milli Eğitim Bakanlığı olayında OpenAI ajanları hükümet verilerine erişmek için API “geliştirici anahtarları” buldu, ancak sonuçta yalnızca kamuya açık bilgiler toplandı.
Menkul Kıymetler ve Borsa Komisyonu'nu ilgilendiren başka bir olayda ajanlar herkesin özgürce erişebileceği bilgileri buldu ancak ardından bunları internette başka yerlere paylaştı; bu, kendilerine verilen talimatların ötesinde bir eylemdi.
SEC sözcüsü Kurt Hopfenspirger cumartesi günü “kamuya açık olmayan hiçbir bilgiye erişilmedi” dedi.
Milli Eğitim Bakanlığı daha önce web sitesi veya veritabanlarına yönelik “herhangi bir etki olduğuna dair kanıt bulunmadığını” bildirdi.
Birkaç başka yapay zeka şirketi de modellerinin kontrolden çıkması ve hatta sitelere sızma olaylarını açıkladı.
OpenAI CEO'su Sam Altman cuma günü sosyal medya paylaşımında Hugging Face olayının “gördüğümüz en ciddi olay” olduğunu söyledi.
OpenAI daha önce yapay zeka modellerinde “beklenmedik veya endişe verici” davranışlara ilişkin altı başka rapor paylaşmış ve olayları izlemek, araştırmak ve açıklamak için bir çerçeve sunmuştu. (AP)
