Yaşlılar, yapay zekâ ile üretilen genç Xiaohai'nin yer aldığı reklamların tuzağına düşüyor. Reklamlarda Xiaohai, yardıma ihtiyacı olan ve sevgiden yoksun biri gibi gösteriliyor. Bunun üzerine kullanıcılar, karakterin kendi versiyonlarını üreterek onu suçlu olarak resmediyor.
“Xiaohai, ailen neden hâlâ burada değil? Diğer herkesin ailesi yardıma geldi,” diye sorar bir öğretmen, öğrenci liderliğindeki bir ürün satış yarışmasına hazırlanan genç erkeğe. Bu sorunun cevabını Xiaohai yüzünden terler içinde verir.
“İyiyim öğretmenim,” diyor çocuk. “Tek başıma yapabilirim. Dışarıdaki teyzelerin ve annelerin bana yardım edeceğine inanıyorum.” Ardından kameraya dönüp izleyicilerden lüks bir yüz kremi satın alarak kendisine yardım etmelerini ister. Terin yerini gözyaşları almıştır ve şöyle sorar: “Yoksul ailelerin çocukları gerçekten bu sahneye uygun değil mi?”
Bu sahne, yapay zekâ ile üretilen genç erkek karakter “Xiaohai”nin videolarının çok izlendiği bir dönemde geliyor. Salı günü itibarıyla ilgili hashtag, Çin'in TikTok'u olarak bilinen Douyin'de 620 milyondan fazla görüntülenmeye ulaştı. Yaşlı kadınlara yönelik pazarlanan videolar onlarca hesapta yayımlanıyor ve soya sosundan kozmetiğe kadar çeşitli ürünleri tanıtıyor.
Xiaohai videolarındaki popülerliğe tepki olarak başka kullanıcılar da klipler üretmeye başladı. Yerli medyanın bu hafta bildirdiğine göre bu kliplerde karakter açgözlü, kaba ve sorun çıkaran biri olarak gösteriliyor; gözaltına alınmış ya da dolandırıcılığı kabul eden biri olarak sunuluyor. Orijinal Xiaohai videolarında ise genç karakter çoğu zaman kurgusal acıklı hikâyeler anlatıyor ve bunları yaşlıları hedef alan dolandırıcılıklara benzetiyor.
Orijinal videolarda karakter izleyicilere “teyzeler ve anneler” diye seslenir, sağlıklarını sorar ve ürünleri tanıtmadan önce ara sıra şarkı söyler.
Birçok yaşlı izleyicinin karakterin gerçek olduğuna inandığı bildiriliyor. Xiaohai'nin kan bağışladığı bir videonun yorum bölümü, insanların onun gerçek olduğuna inandığını gösteren yorumlarla dolu. Yorumlardan bazıları şöyle: “Ne kadar iyi bir çocuksun” ve “Neden bu kadar solgunsun? Lütfen kendine iyi bak.”
Yerli medyaya göre karakteri kullanarak ürün satmak oldukça kazançlı çıktı. Devlet medyası kuruluşu Shandian News'in hazırladığı bir rapora göre Xiaohai videoları üreten içerik üreticileri, toplam satışların yarısından fazlasını kazanabiliyor. Bazı içerik üreticiler ise yapay zekâ karakterli videolardan günde en az 1.000 ila 2.000 yuan (140 ila 280 dolar) kazandıklarını söylüyor.
Son dönemdeki Xiaohai videoları ise anlatıyı değiştiriyor. Bu videoların amacı, karakteri izleyicilerin sevgisini hak etmeyen biri gibi göstermek ve ürünlerini satın almaktan caydırmak. Bazı videolarda çocuk, sadık takipçilerinden ne kadar para sıktığını övünerek anlatıyor. Diğerlerinde sigara içiyor, alkol alıyor, yaşlı kadınlara hakaret ediyor ya da servetini gösteriyor.
Bu videolara tepki olarak bazı yorumcular, Xiaohai destekli ürünleri satın aldıkları için öfkelendiklerini söyledi. Diğerleri ise videoları, Xiaohai'nin istemeden başını belaya soktuğunun ya da yalan söylemeye zorlandığının kanıtı olarak yorumladı. Yorumlardan birinde şöyle yazılıyor: “Teyzelerinin ve annelerinin seni kötü düşünmeyeceğini bil. Bu geçecek… Bir çözüm bulurum; bana adresini ve telefon numaranı söyle.”
Şanghay Açık Üniversitesi İnsani Bilimler ve Kamu Yönetimi Fakültesi'nin eş dekanı Yin Xiaoting, Sixth Tone'a yaptığı açıklamada, Xiaohai'nin yarattığı “yakınlık hissinin” yaşlılar üzerinde ikna edici bir etki yaptığını söyledi. Yin, “Bu tanıdıklık ve samimiyet hissi, karakterin gerçek olup olmadığını ya da hikâyenin doğru olup olmadığını doğrulama ihtiyacının önüne geçebiliyor,” dedi.
Yin, yaşlı yetişkinlerin yapay zekâ kaynaklı yanlış bilgilerle baş etmesine yardım etmek için onları güvenilir görünen kişiliklerden şüphelenmeye ve hikâye duygusal olarak ikna edici gelse bile iddiaları bağımsız olarak doğrulamaya teşvik etmek gerektiğini ekledi. Yin ayrıca yaşlılar için dijital okuryazarlık programlarına ve yapay zekâ üretimi içeriklere yönelik daha fazla düzenlemeye ihtiyaç olduğunu vurguladı.
Son yıllarda düzenleyiciler ve devlet medyası, çevrim içi ürün satmak için uydurma kişiliklerin ve duygu sömüren anlatıların kullanımını giderek daha fazla inceliyor. 2024'te güneybatı Çin'in Sichuan eyaletindeki yerel bir mahkeme, yanlış anlatılarla çevrim içi ürün satan sekiz kişiyi mahkûm etti. Geçen yıl Çin'in yıllık ulusal toplantılarından Two Sessions'da sektör uzmanları, yapay zekâ ile üretilen derin sahte içeriklerin kötüye kullanımını engellemek için yasal düzenleme çağrısı yaptı.
