Sebuah gambar dari DeepFake viral terbaru China.
Protocol screengrab/Zeyi Yang
DEEPFAKE
Deepfake China menjadi viral, dan Beijing panik
Tidak ada regulator yang mau menunggu deepfake Xi Jinping yang memberatkan sebelum mengambil tindakan.
Zeyi Yang
19 Maret 2021
Beijing mengumumkan pada hari Kamis bahwa mereka telah memanggil sebelas perusahaan internet, termasuk Alibaba, Tencent dan ByteDance, atas "aplikasi jejaring sosial berbasis audio dan aplikasi yang melibatkan teknologi 'deepfake'."
The Pengumuman dari China Cyberspace Administrasi dan Departemen Keamanan Publik datang sebagai respon langsung terhadap obsesi antara elit perkotaan dengan Clubhouse-seperti aplikasi dan proliferasi cepat dari DeepFakes virus di Cina. Protokol telah membahas kebangkitan klon Clubhouse di sini . Tapi apa yang terjadi dengan DeepFakes? Inilah yang harus Anda ketahui:
Terima kasih kepada Rusia atas kegilaan deepfake China. Pada akhir Februari, Avatarify, aplikasi berbasis AI yang dikembangkan oleh para insinyur Rusia yang mengubah foto potret statis menjadi video, menjadi tren di Douyin, TikTok versi China. Pengguna China dengan cepat menemukan cara inovatif untuk membuat video lucu dengan aplikasi, termasuk yang menunjukkan Elon Musk dan Jack Ma tampaknya menyanyikan lagu populer Dragostea Din Tei secara sinkron. Lihat diri mu sendiri
Searah jarum jam, dari kiri atas: Elon Musk, Mark Zuckerberg, Warren Buffet, Jack Ma, Wang Jianlin, Jia Yueting, Lei Jun, Pony Ma. Screengrab protokol/AvatarifyDeepfake menjadi sangat populer di China dengan sangat cepat. Lebih dari 7 juta pengguna Douyin telah menggunakan filter serupa untuk membuat video, dan video tersebut telah ditonton lebih dari 2,7 miliar kali jika digabungkan, menurut outlet China TechSina . Vendor Taobao mulai menagih untuk membuat deepfake, kepada orang-orang yang tidak memiliki iPhone dan karenanya tidak dapat menggunakan Avatarify sendiri. Pada tanggal 28 Februari, Avatarify menduduki puncak tangga lagu App Store Cina; hanya dua hari kemudian, itu ditarik karena alasan yang tidak dipublikasikan.
Video-video yang trending kali ini kebanyakan jinak, di mana pengguna biasa atau bahkan selebriti menggunakan foto mereka sendiri untuk efek komedi. Tetapi teknologi AI face-swapping sebelumnya telah digunakan untuk membuat konten p]ornografi dan disinformasi. Peneliti akademis telah berhati-hati dalam mengembangkan aplikasi komersial teknologi deepfake, dalam hal ini. Dan tidak ada regulator yang mau menunggu sampai ada deepfake kritis atau memberatkan dari anggota Politbiro atau Xi Jinping sebelum mengambil tindakan.
Panggilan tersebut pada dasarnya adalah Beijing meminta perusahaan teknologi untuk melakukan swasensor lebih cepat dan menyeluruh. Pengumuman tersebut mengutip peraturan 2018 yang mengharuskan perusahaan Internet untuk melakukan penilaian keamanan atas aplikasi dan layanan mereka sendiri ketika "layanan online yang melibatkan opini publik atau pengorganisasian publik diperkenalkan," atau ketika "jumlah pengguna mengalami pertumbuhan yang signifikan."
China sekarang menjadi salah satu ibu kota deepfake dunia. Menurut buku putih deepfake yang diterbitkan oleh Nisos, sebuah perusahaan intelijen keamanan siber , Rusia, Jepang, dan China adalah tiga negara paling terkemuka di mana pembuat deepfake berada. Di Cina, "profil pemasok palsu dalam yang khas lebih cenderung kepada penghobi dan peneliti," kata whitepaper.
Startup China mencoba menemukan model keuntungan untuk teknologi seperti deepfake. Surreal, perusahaan berusia satu tahun yang didukung oleh Sequoia dan ZhenFund, mengatakan ingin menjadi "Google Terjemahan video." Itu dapat mengubah karakteristik wajah orang dan mengubah bahasa yang mereka gunakan dalam video, sehingga mengurangi biaya pemasaran internasional, kata pendiri kepada publikasi teknologi China 36Kr .
Sumber: Protocol.com