China membawa peraturan pertama tentang ‘deepfakes’

Pada bulan Januari, China akan memperkenalkan peraturan pertama tentang “deepfakes”, meningkatkan kontrol atas konten internet.

Deepfake adalah gambar atau video yang dihasilkan atau diubah secara sintetis yang dibuat menggunakan suatu bentuk kecerdasan buatan. Teknologi tersebut dapat digunakan untuk mengubah video yang sudah ada, misalnya dengan memasang wajah politisi di atas video yang sudah ada atau bahkan membuat ucapan palsu.

Hasilnya adalah media buatan yang tampak nyata padahal sebenarnya tidak.

Beijing mengumumkan aturannya yang mengatur “teknologi sintesis mendalam” awal tahun ini, dan menyelesaikannya pada bulan Desember. Mereka akan mulai berlaku pada 10 Januari.

Berikut adalah beberapa ketentuan utama:

• Pengguna harus memberikan persetujuan jika gambar mereka akan digunakan dalam teknologi sintesis mendalam apa pun.
• Layanan deep synthesis tidak dapat menggunakan teknologi untuk menyebarkan berita palsu.
• Layanan deepfake perlu mengautentikasi identitas asli pengguna.
• Konten sintetis harus memiliki semacam pemberitahuan untuk memberi tahu pengguna bahwa gambar atau video telah diubah dengan teknologi.
• Konten yang bertentangan dengan undang-undang yang ada dilarang, demikian pula konten yang membahayakan keamanan dan kepentingan nasional, merusak citra bangsa atau mengganggu perekonomian.

Administrasi Dunia Maya yang kuat di Tiongkok adalah pengatur di balik peraturan ini.

Sejak akhir tahun 2020, China telah berusaha untuk mengendalikan kekuatan raksasa teknologi negara itu dan memperkenalkan peraturan luas di berbagai bidang mulai dari antimonopoli hingga perlindungan data. Tapi itu juga berusaha untuk mengatur teknologi yang muncul dan melangkah lebih jauh dari negara lain dalam aturan teknologinya.

Awal tahun ini, China memperkenalkan aturan yang mengatur bagaimana perusahaan teknologi dapat menggunakan algoritme rekomendasi, dalam undang-undang jenis pertama lainnya.

Analis mengatakan undang-undang tersebut menangani dua tujuan — sensor online yang lebih ketat dan mendahului regulasi seputar teknologi baru.

“Otoritas China jelas ingin menindak kemampuan elemen anti-rezim untuk menggunakan deepfake para pemimpin senior, termasuk Xi Jinping, untuk menyebarkan pernyataan anti-rezim,” kata Paul Triolo, pemimpin kebijakan teknologi di perusahaan konsultan Albright Stonebridge, kepada CNBC International. .

“Tetapi aturan tersebut juga menggambarkan bahwa otoritas China berusaha untuk mengatasi masalah konten online yang sulit dengan cara yang dilakukan beberapa negara lain, berusaha untuk menjadi yang terdepan ketika teknologi baru seperti konten yang dihasilkan AI mulai berkembang biak secara online.”

Triolo menambahkan bahwa peraturan AI yang telah diperkenalkan Beijing dalam beberapa tahun terakhir “dirancang untuk menjaga regulasi konten dan upaya penyensoran selangkah lebih maju dari teknologi baru, memastikan bahwa Beijing dapat terus mengantisipasi munculnya teknologi yang dapat digunakan untuk menghindari kontrol keseluruhan. sistem.”

Teknologi sintesis mendalam tidak semuanya buruk. Ini dapat memiliki beberapa aplikasi positif di berbagai bidang seperti pendidikan dan perawatan kesehatan.

Tetapi China sedang mencoba untuk mengatasi peran negatifnya dalam menghasilkan informasi palsu.

Kendra Schaefer, mitra konsultan Trivium China yang berbasis di Beijing, mengarahkan CNBC ke catatannya yang diterbitkan pada bulan Februari ketika draf peraturan diumumkan, di mana dia membahas implikasi dari peraturan penting tersebut.

“Yang menarik adalah bahwa China membidik salah satu ancaman kritis terhadap masyarakat kita di era modern: erosi kepercayaan pada apa yang kita lihat dan dengar, dan semakin sulitnya memisahkan kebenaran dari kebohongan,” kata catatan itu.

Melalui pengenalan regulasi, berbagai badan regulasi China telah membangun pengalaman dalam menegakkan aturan teknologi. Ada beberapa bagian dari peraturan deepfake yang tidak jelas, seperti bagaimana membuktikan bahwa Anda memiliki izin dari orang lain untuk menggunakan gambar mereka. Namun secara keseluruhan, kata Trivium dalam catatannya, sistem peraturan China yang ada akan membantunya menegakkan aturan.

“China dapat melembagakan aturan ini karena sudah memiliki sistem untuk mengontrol transmisi konten di ruang online, dan badan pengatur yang menegakkan aturan ini,” kata catatan itu.