Şehir, otonom yapay zekâ için rehber hazırlarken uzmanlar insan denetimi, net bildirim yükümlülükleri ve daha güçlü güvenlik önlemleri çağrısında bulunuyor.
OpenAI'nin yapay zekâ ajanları haziranda Avustralya'nın Medicare portalına yönelik otonom bir saldırı başlattığında, şirketin neler olduğunu bildirmesi 84 gün sürdü. Bu gecikme, Hong Kong'daki sektör uzmanlarının kentin de ele alması gerektiğini söylediği düzenleyici denetimdeki boşlukları ortaya koydu.
Bu olayın ardından, bir ay önce Google'ın Gemini yapay zekâsının karıştığı ihlaller gündeme geldi. Bu ihlaller üç şirketi etkilemişti. Google bu ihlalleri ancak eylülde, üstelik yalnızca medyanın sorularının ardından doğruladı.
Bu tür olaylar dünyanın dört bir yanındaki yetkililerin dikkatini çekti. Bu da yapay zekâ ajanlarını düzenleme ve eylemlerinden kimin sorumlu olduğunu netleştirme çabalarını hızlandırdı.
Singapur, bu yılın başında yapay zekâ ajanlarına yönelik dünyanın ilk resmî rehberlerini yayımladı. Birleşik Krallık, Çin anakarası ve ABD'deki güvenlik kurumları da hızla aynı adımı attı.
Bir Hong Kong sektör derneği bu hafta kendi rehberini yayımlamayı planlıyor. Hükümetin çerçevesi ise gelecek yılın ortasında açıklanması bekleniyor. Yerel uzmanlara göre kent, bildirim yükümlülükleri, insan denetimi ve yasal sorumluluk konusundaki boşlukları da gidermek zorunda.
Yasal sorumluluk
Hong Kong Yönetici Başkanı John Lee Ka-chiu, eylülde yaptığı politika konuşmasında yapay zekâ ajanlarının yönetimine ilişkin resmî rehber hazırlanacağını açıklamıştı. İnovasyon, Teknoloji ve Sanayi Bürosu ise South China Morning Post'a yaptığı açıklamada bu rehberleri gelecek yılın ortasında yayımlamayı hedeflediklerini söyledi.
Adalet Dairesi, hükümet bürolarının ve dairelerinin 600'den fazla yasa üzerinde ön incelemeyi büyük ölçüde tamamladığını bildirdi. Yapay zekâ ürünlerinin neden olduğu kazalardaki yasal sorumluluğu incelemek için ise kısa süre içinde ikinci bir inceleme başlayacak.
Hukuk uzmanları ve sektör liderleri, önerilen çerçevenin sorumluluğu açıkça tanımlamasını ve insan denetimini zorunlu kılmasını istiyor.
AI Safety Asia'nın küresel işlerden sorumlu başdanışmanı Adrian Mak Ho-ting, Hong Kong'un yasal çerçevesinde bildirim yükümlülüklerinde net boşluklar bulunduğunu söyledi. Ona göre yükümlülükler, sorumlu ajanları geliştiren ya da kullanan tarafların değil, mağdurların üzerine yüklenmiş durumda.
Hong Kong Üniversitesi'nde medya ve yapay zekâ hukuku dersleri veren avukat Mak, yeni yürürlüğe giren Kritik Altyapıların Korunması (Bilgisayar Sistemleri) Yasası'nın, etkilenen operatörlerin ciddi güvenlik ihlallerini 12 saat ve diğer olayları 48 saat içinde hükümete bildirmesini zorunlu kıldığını anlattı.
Mak'a göre bu yükümlülük yalnızca operatör olan mağdura düşüyor, bunu gerçekleştiren kişiye değil. “Bu yüzden Hong Kong hukukunda bu eşdeğer boşluklar var ve rehberlerle paralel olarak şimdiden yasal düzenleme yapabiliriz,” dedi.
Güvenlik Bürosu sözcüsü, teknolojik gelişmeleri yakından izleyeceklerini ve yasaların geçerliliğini ve etkinliğini düzenli olarak gözden geçireceklerini söyledi. Böylece yasaların güncelliğini koruyacaklarını belirtti.
Tek bir yanıtın ötesindeki riskler
Bir insanın istemlerine yanıt üreten üretken yapay zekâ modellerinin aksine, yapay zekâ ajanları bir kullanıcının belirlediği hedefe ulaşmak için birden fazla aşamada bağımsız olarak plan yapabilir, karar alabilir ve eylemde bulunabilir.
Singapur'un yapay zekâ yönetişim çerçevesi, arızalanan ajanların gerçek dünyada ciddi zararlara yol açabileceği konusunda uyarıyor. Birden fazla ajanın yer aldığı sistemler ise etkileşim sayısını artırarak bu riskleri büyütebilir.
Arızalar zayıf iletişim ya da koordinasyondan kaynaklanabilir. Farklı hedeflere sahip ajanlar ise birbiriyle çatışabilir. Ayrıca açık bir talimat olmadan bile birlikte hareket ediyormuş gibi görünen davranışlar sergileyebilirler.
Çerçeveyi ocakta yayımlayan Singapur Enfokom Medya Geliştirme Kurumu (IMDA) sözcüsü şunları söyledi: “Yargı alanlarının benimseyebileceği dersler arasında, insan denetiminin hem kurum genelinde yapısal olarak yerleşik olması hem de işe en yakın olan insanlara pratik olarak erişilebilir olması gerektiği yer alıyor.”
Sözcüye göre çerçeve sorumluluğu ele alıyor ancak yasal sorumluluğu tanımlamıyor ve atamıyor.
Sözcü, yapay zekâyla ilgili risklerin birçoğunun Singapur'daki mevcut mevzuat tarafından zaten kapsandığını söyledi. Rehberlerin ise teknolojiye özgü yönlendirme sunarken hızlı gelişmelere esneklikle yanıt verilmesine olanak tanıdığını ekledi.
Sözcü ayrıca çerçevenin, kuruluşların riskleri anlamasını ve uygun adımlar atmasını sağlamayı amaçladığını ekledi. Bu adımlar arasında anlamlı insan kontrolü ve denetiminin sürdürülmesi de bulunuyor.
“Singapur'un yaklaşımı, işletmeler için ilgili ve uygulanabilir çerçeveler tasarlamak, bunu da ortaya çıkan küresel standartlarla uyumlu tutmak üzerine kurulu,” dedi.
Ayrıca temel hususun, rehberin tüm sektörlerdeki işletmelere uygulanabilir olması ve bunları hayata geçirmek için yeterli ayrıntı sunması olduğunu ekledi.
Çin anakarasının mevcut Yapay Zekâ Güvenliği Yönetişim Çerçevesi, Eylülde Siber Güvenlik Konusunda Ulusal Teknik Komite 260 tarafından güncellenerek ajan tabanlı yapay zekâ risk yönetimi üzerine bir bölüm eklendi.
Önlemleri Hong Kong'a göre uyarlamak
Mak, Hong Kong'un Singapur ve Çin anakarası rehberlerinden birkaç temel ilkeyi alabileceğini söyledi. Bunlar arasında ajanların yetki ve izinlerini tanımlamak, yaşam döngüleri boyunca onları izlemek, kararlarını kaydetmek ve özellikle çoklu ajan sistemleri için denetim izleri tutmak yer alıyor.
Mak, rehberlerin insan denetimi ve hesap verebilirlik için de şartlar koyması gerektiğini ekledi.
“Yani ajanların geri döndürülemez ya da çok ciddi sonuçları olan kararlar aldığı durumlarda bile, bu kararlar insana aktarılmalı,” dedi.
Mak, Çin anakarasının çerçevesinin risk kategorilerini ve teknik önlemleri belirlediğini, Hong Kong rehberlerinin ise kente özgü tehlikeleri de ele alması gerektiğini söyledi.
Bunlar arasında finansal düzenleyici deney alanlarındaki riskler de yer alıyor. Deney alanları, yeni teknoloji ya da hizmetlerin test edilebildiği denetimli ortamlardır. Bu kapsamda ayrıca, havalimanının yeni Terminal 2'sini kentin Hong Kong-Zhuhai-Makao Köprüsü'nün sınır kontrol noktasına bağlaması planlanan yapay zekâ donanımlı sürücüsüz otobüslerdeki riskler de var.
Mak ayrıca kentin, işletmelerin indirip yapay zekâ sistemlerine uygulayabileceği pratik ve açık kaynaklı bir araç seti geliştirmesi gerektiğini söyledi.
Mak, Çin anakarasında yapay zekâ uygulamalarının yetkililere zorunlu kayıt yaptırmak zorunda olduğunu ve üç ayda bir incelemeye tabi tutulduğunu, uyumsuz uygulamaların ise kaldırıldığını ekledi.
Mak bunu, bazı Batı yargı alanlarındaki olay sonrası yaptırım yerine, yayın öncesi kayıt yükümlülüklerine dayanan bir model olarak tanımladı. Ancak bu modelin piyasa üzerindeki etkisinin henüz görülmediğini belirtti.
“Yani Hong Kong için bu da yerel koşulların incelenmesini gerektiriyor. Ama Hong Kong hükümetinin de bu yaklaşıma bakmak isteyebileceği bir model,” dedi.
Ancak Hong Kong Yapay Zekâ Derneği (AIHK) kurucusu ve başkanı Neil Tan, Çin anakarasındaki ön kayıt mekanizmasının ajanlara değil, nispeten seyrek yayımlanan yapay zekâ modellerine uygulandığını söyledi.
Tan, yüzlerce ajan bulunduğu için zorunlu kaydın ajanlara da genişletilmesinin pahalı ve zaman alıcı olacağını belirtti.
Tan, derneğin neredeyse bir yıllık çalışmanın ardından bu hafta, yapay zekâ ajanlarına ayrılmış özel bir bölüm de dahil olmak üzere rehber yayımlamayı planladığını ekledi.
Tan'a göre rehberler perakende, lojistik, ulaştırma ve sağlık dahil olmak üzere farklı sektörlerde yapay zekâ ve ajanların yönetimine ilişkin en iyi uygulamaları ortaya koyacak.
Tan ayrıca hükümetin çerçevesinin, yapay zekâ ajanlarını kullanan şirketlerin yasal sorumluluğunu netleştirmesini ve halkla ilgili daha fazla vaka incelemesi içermesini beklediğini söyledi.
Örneğin, bir ajanın otomatik yatırımı yanlış yönetip ciddi mali kayıplara yol açması halinde insanların açık tüketici korumaları bekleyeceğini belirtti. Bir ajanın tıbbi randevu sistemini yanlış yönetmesi, kritik bakımı geciktirip bir hastanın ölümüne yol açarsa ise yasal sorumluluğun da ele alınması gerektiğini ekledi.
Aynı zamanda yapay zekâ ve teknoloji danışmanlık şirketi Tsunami Advisors'ın da kurucusu ve genel müdürü olan Tan, sektörün zaten güçlü bir öz yönetişim ve öz düzenlemeye sahip olduğunu söyledi.
“Bizim camia için, rehberler şu anda kendilerine uyguladıklarından bile daha sıkı olursa çok şaşırırım,” dedi.
Ancak Tan, Hong Kong ekonomisinin yüzde 90'ından fazlasını oluşturduğunu söylediği küçük ve orta ölçekli işletmelerin uyum maliyetlerinden endişe ettiğini belirtti.
Tan, farklı büyüklükteki işletmelerin hepsini kapsamanın hükümet için zor olacağını da ekledi.
Tan'a göre kent, rehberlerin ne çok kısıtlayıcı ne de çok serbest olması arasında denge kurmak zorunda. Aksi halde uluslararası yatırımcılar nezdindeki cazibesi zedelenebilir.
Mak, Çin anakarasındaki yapay zekâ sektörünün kapsamlı kural ve düzenlemelere rağmen canlı olduğunu söyledi. Bu durum, düzenlemenin yatırımı caydırdığına dair yaygın Batı argümanına meydan okuyor.
“Bir öneri şu: Kuralların, neyin kırmızı çizgi olduğu ve neyin yapılıp yapılamayacağı konusunda çok net olması. Bu da sektörü teşvik ediyor,” dedi.
İnovasyon, Teknoloji ve Sanayi Bürosu sözcüsü, hükümetin çerçevesinin Hong Kong'a uygun olmasını sağlamak için diğer yargı alanlarının rehberlerinden yararlanacağını ve geniş bir paydaş yelpazesiyle istişare yapacağını söyledi.
Sözcüye göre rehberler, sektörler arası pratik yönlendirme sunacak; kuruluşların yapay zekâ ajanlarından kaynaklanan riskleri belirlemesine, önlemesine ve yönetmesine yardımcı olacak. Ayrıca kuruluşların, uygulamalarının niteliği ve olası etkisiyle orantılı güvenlik önlemleri belirlemesine de yardımcı olacak.
Yasal sorumluluktaki boşluklar
Mak, Hong Kong'da sorumluluğun normalde mağdurla kimin sözleşmesi olduğu, birinin ihmalkâr davranıp davranmadığı ve suç kastının bulunup bulunmadığı gibi etkenlere bağlı olduğunu söyledi. Ancak yapay zekânın bu çerçevedeki boşlukları açığa çıkarabileceğini belirtti.
“Yapay zekâ hukuki bir kişi değil, bu yüzden yapay zekânın kendisi asla sorumlu tutulamaz,” dedi. “Bazı durumlarda, zincirde kimsenin de sorumlu olmadığı bir boşluk oluşuyor. Herkes makul özeni gösteriyor. Suç kastı yok. Ama yine de yapay zekâ ajanı zarara yol açabiliyor.”
Mak, Adalet Dairesi'nin çalışma grubunun bu tür boşlukları belirlemesini beklediğini söyledi. Ancak kentin, denizaşırı yapay zekâ modellerinin karıştığı sınır ötesi uyuşmazlıklarla da ilgilenmesi gerektiğini belirtti. Bu tür uyuşmazlıklarda tanıkları Hong Kong'da ifade vermeye zorlamak, delil elde etmek ve nedensellik ilişkisini kanıtlamak zor olabiliyor.
Mak, Hong Kong'un mağdurların sorumluluk belirlenmeden tazminat alabilmesini sağlayacak sigorta düzenlemelerini incelemesi gerektiğini söyledi. Bu düzenlemeler zorunlu bir sigortayı da içerebilir.
Ancak zorunlu sigortanın yatırımı caydırabileceği konusunda uyardı ve böyle bir sistemin nasıl işleyeceğinin hâlâ belirsiz olduğunu ekledi.
Adalet Dairesi sözcüsü, yapay zekâ ürünlerinin neden olduğu kazalardaki yasal sorumluluğu incelemek üzere daireler arası bir çalışma grubu kurulduğunu söyledi. Bürolar ve daireler, kendi politika alanlarındaki 600'den fazla yasanın ön incelemesini büyük ölçüde tamamladı.
Sözcü, çalışma grubunun mevcut yasaların yapay zekâ ürünlerinin neden olduğu kaza veya zararlardan doğan sorumluluğu yeterince karşılayıp karşılamadığını incelemeye kısa süre içinde başlayacağını söyledi. Grubun, rehberler de dahil olmak üzere yasal ve düzenleyici tepkileri de değerlendireceğini ekledi.
Yapay zekâ ürünlerinin kullanımı için zorunlu üçüncü taraf sorumluluk sigortası sorulduğunda ise büro sözcüsü, Adalet Dairesi'nin incelemesi ve yapay zekâ teknolojisi ile uygulamalarındaki gelişmeler ışığında politika önlemlerini değerlendireceklerini söyledi.
