Çin, Ocak 2023’te derin sentez teknolojisinin kullanımını düzenleyen kurallar getirecek. Yapay zekanın görüntüleri ve videoları manipüle etmek için kullanıldığı derin sahtekarlıklar, çevrimiçi içerik üzerindeki kontrolü artıran Pekin için bir endişe kaynağı.
Fotoğraf bağlantısı | stok | Getty Resimleri
Ocak ayında Çin, internet içeriği üzerindeki kontrolü artıran “deepfake” konusunda türünün ilk örneği düzenlemeyi başlatacak.
Deepfake’ler, bir tür yapay zeka kullanılarak yapılmış, sentetik olarak üretilmiş veya değiştirilmiş görüntüler veya videolar. Bu teknoloji, örneğin bir politikacının yüzünü mevcut bir videonun üzerine koyarak veya hatta sahte konuşma oluşturarak mevcut bir videoyu değiştirmek için kullanılabilir.
ilgili yatırım haberleri
Sonuç, gerçek gibi görünen ama gerçek olmayan fabrikasyon medyadır.
Pekin, “derin sentez teknolojilerini” yöneten kurallarını bu yılın başlarında duyurdu ve Aralık ayında bunları nihai hale getirdi. 10 Ocak’ta yürürlüğe girecekler.
Önemli hükümlerden bazıları şunlardır:
- Görüntüleri herhangi bir derin sentez teknolojisinde kullanılacaksa, kullanıcılar izin vermelidir.
- Derin sentez hizmetleri, teknolojiyi sahte haberleri yaymak için kullanamaz.
- Deepfake hizmetlerinin, kullanıcıların gerçek kimliğini doğrulaması gerekir.
- Sentetik içeriğin, kullanıcılara görüntünün veya videonun teknolojiyle değiştirildiğini bildiren bir tür bildirimi olmalıdır.
- Ulusal güvenliği ve çıkarları tehlikeye atan, ulusal imajı zedeleyen veya ekonomiyi bozan içerikler gibi mevcut yasalara aykırı içerikler yasaktır.
Çin’in güçlü Siber Uzay İdaresi, bu kuralların arkasındaki düzenleyicidir.
2020’nin sonundan bu yana Çin, ülkenin teknoloji devlerinin gücünü dizginlemeye çalıştı ve antitröstten veri korumaya kadar çeşitli alanlarda kapsamlı düzenlemeler getirdi. Ancak aynı zamanda gelişmekte olan teknolojileri düzenlemeye çalıştı ve teknoloji kurallarında diğer tüm ülkelerden daha ileri gitti.
Bu yılın başlarında Çin, türünün ilk örneği olan başka bir yasayla, teknoloji firmalarının tavsiye algoritmalarını nasıl kullanabileceğini düzenleyen bir kural getirdi.
Analistler, yasanın iki hedefi ele aldığını söylüyor: daha sıkı çevrimiçi sansür ve yeni teknolojilerle ilgili düzenlemelerin önüne geçmek.
Danışmanlık şirketi Albright Stonebridge’in teknoloji politikası lideri Paul Triolo, CNBC’ye verdiği demeçte, “Çinli yetkililer, rejim karşıtı unsurların, rejim karşıtı açıklamaları yaymak için Xi Jinping de dahil olmak üzere üst düzey liderlerin deepfake’lerini kullanma becerisine baskı yapmaya açıkça istekli.” .
“Ancak kurallar, Çinli yetkililerin zorlu çevrimiçi içerik sorunlarını diğer birkaç ülkenin yaptığı şekilde çözmeye çalıştığını ve yapay zeka tarafından üretilen içerik gibi yeni teknolojiler çevrimiçi olarak çoğalmaya başladığında eğrinin önüne geçmeye çalıştığını da gösteriyor.”
Triolo, Pekin’in son yıllarda uygulamaya koyduğu yapay zeka düzenlemelerinin “içerik düzenlemesi ve sansür çabalarını gelişen teknolojilerin bir adım önünde tutmak için tasarlandığını ve Pekin’in genel kontrolü atlatmak için kullanılabilecek teknolojilerin ortaya çıkmasını tahmin etmeye devam edebilmesini sağlamak için tasarlandığını” sözlerine ekledi. sistem.”
Derin sentez teknolojisi o kadar da kötü değil. Eğitim ve sağlık hizmetleri gibi alanlarda bazı olumlu uygulamaları olabilir.
Ancak Çin, sahte bilgi üretmedeki olumsuz rolünün üstesinden gelmeye çalışıyor.
Trivium China danışmanlığının Pekin merkezli ortağı Kendra Schaefer, CNBC’yi Şubat ayında taslak kuralların açıklandığı tarihte yayınlanan ve önemli düzenlemenin sonuçlarını tartıştığı notuna işaret etti.
Notta, “İlginç olan şu ki, Çin modern çağda toplumumuza yönelik kritik tehditlerden birini hedefliyor: gördüğümüze ve duyduğumuza olan güvenin erozyona uğraması ve gerçeği yalandan ayırmanın giderek zorlaşması.”
Düzenlemenin getirilmesiyle, Çin’in çeşitli düzenleyici kurumları teknoloji kurallarını uygulama konusunda deneyim kazanmaktadır. Deepfake düzenlemesinin, bir başkasının resmini kullanmak için izin aldığınızı nasıl kanıtlayacağınız gibi, belirsiz olan bazı bölümleri vardır. Ancak genel olarak, Trivium notunda, Çin’in mevcut düzenleyici sisteminin kuralları uygulamasına yardımcı olacağını söyledi.
Notta, “Çin, çevrimiçi alanlarda içeriğin iletimini kontrol edecek sistemlere ve bu kuralları uygulayan düzenleyici kurumlara sahip olduğu için bu kuralları uygulayabiliyor.”