ChatGPT telah menjadi salah satu topik terpanas di seluruh dunia. Sistem AI semacam itu disebut sebagai 'AI Generatif', yang dapat menghasilkan teks, gambar, suara, media, kode, dan materi lain sebagai respons terhadap apa yang telah diimpor atau dibutuhkan pengguna, berdasarkan algoritme, model, dan aturan. AI generatif dapat digunakan dalam berbagai skenario dan mempromosikan revolusi beberapa industri, dan karenanya telah menarik banyak perhatian. Menanggapi pengembangan AI Generatif, Administrasi Dunia Maya China (selanjutnya disebut "CAC") mengeluarkan Tindakan Administratif yang diusulkan untuk Layanan AI Generatif (Draf untuk Komentar Publik) [1](“生成式人工智能服务管理办法（征求意见稿）”, selanjutnya disebut “Draf Tindakan Administratif”) pada 11 April 2023.
1. Sorotan
Rancangan Tindakan Administratif terdiri dari 21 Pasal, yang mencakup hal-hal utama di bawah ini.
1) Ruang Lingkup Penerapan: Yurisdiksi Ekstrateritorial
Draf Tindakan Administratif ini berlaku bagi siapa saja yang berinovasi atau memanfaatkan AI Generatif dan menyediakan layanan di Tiongkok (Penyedia) (Pasal 2). Ini berarti Draf Tindakan Administratif akan memiliki efek ekstrateritorial. Efek ekstrateritorial semacam itu didasarkan pada doktrin efek dan doktrin teritorial objektif. Di satu sisi, konten yang dihasilkan oleh AI Generatif dapat memengaruhi tatanan sosial atau hubungan lain di Tiongkok, sehingga berdampak di Tiongkok. Di sisi lain, AI Generatif akan digunakan oleh pengguna di wilayah tersebut, pengoperasian AI Generatif yang berlokasi di wilayah tersebut, yang memberikan dasar doktrin teritorial objektif.
2) Kewajiban Penyedia
Penyedia akan mengambil tanggung jawab berikut sesuai dengan Rancangan Tindakan Administratif.
(1) Konten
Penyedia harus bertanggung jawab atas konten yang dihasilkan oleh AI. Konten harus legal, akurat, dan otentik. Tidak boleh menyiksa, diskriminatif, palsu, anti-sosial, anti-pemerintah, anti-nasional, teroris, ekstrim, kekerasan, pornografi dan mengganggu tatanan ekonomi dan sosial. Penyedia harus menghapus konten yang tidak pantas secara aktif atau atas permintaan pengguna dan meningkatkan atau mengoptimalkan AI.
(2) Pemanfaatan
Pertama, Penyelenggara harus mematuhi etika bisnis dan tidak melakukan perilaku persaingan tidak sehat. Kedua, Penyelenggara tidak boleh melanggar hak pihak lain, termasuk kekayaan intelektual, informasi pribadi, privasi, dan rahasia dagang. Ketiga, Penyedia tidak boleh membuat konten secara diskriminatif.
(3) Inovasi
Draft Tindakan Administratif juga memberikan persyaratan untuk inovasi AI Generatif. Penyedia harus memberlakukan instruksi yang jelas, spesifik, dan dapat dijalankan untuk Kontributor, melatih Kontributor, dan memastikan kebenaran konten setelah anotasi buatan diperlukan.
(4) Kerjasama dengan Administrasi
Penyelenggara harus secara aktif bekerja sama dengan administrasi yang dipersyaratkan oleh peraturan atau agen administrasi. Pertama, Penyedia harus mendaftarkan AI Generatif atau melaporkan untuk penilaian keamanan sesuai dengan peraturan terkait layanan Internet. Kedua, Penyedia harus menandai gambar dan video yang dihasilkan sesuai dengan Peraturan Layanan Deepfake.[2] Ketiga, Penyedia harus memberikan informasi penting yang dapat memengaruhi pilihan pengguna atas permintaan agen administratif.
(5) Pengelolaan Pengguna
Penyedia harus mengelola pengguna AI Generatif. Pertama, Penyedia harus meminta pengguna untuk memberikan informasi identitas mereka. Kedua, Penyedia harus menentukan dan mempublikasikan target layanan mereka dan mengambil tindakan untuk mencegah pengguna kecanduan konten yang disediakan oleh AI. Ketiga, Penyedia harus menginstruksikan pengguna untuk memanfaatkan konten generatif dengan tepat dan mencekal pengguna untuk sementara atau selamanya jika mereka menggunakan AI secara ilegal atau tidak bermoral.
2. Komentar
1) Efek Positif
Draf Tindakan Administratif adalah respons cepat dari Tiongkok terhadap tren AI Generatif. Ini berfungsi sebagai suplemen penting untuk kerangka kerja regulatif AI. Ini memiliki beberapa efek positif. Pertama, ini mencakup sebagian besar masalah hukum yang dibawa oleh AI Generatif, termasuk atribusi tanggung jawab AI, ancaman terhadap kekayaan intelektual, konten berbahaya, persaingan tidak adil, dan pelanggaran privasi, dll. AI Generatif, dari inovasi hingga pemanfaatan. Kedua, Pasal 3 dari Draft Tindakan Administratif telah menunjukkan sikap mendukung China terhadap pengembangan AI dengan menyatakan bahwa pemerintah akan mendukung dan mendorong inovasi, aplikasi, dan kolaborasi internasional AI. Ketiga, Rancangan Tindakan Administratif berfungsi sebagai bagian penting dari kerangka peraturan tipologi AI, yang terdiri dari beberapa peraturan yang berfokus pada kategori AI yang berbeda.
2) Status Hukum
Rancangan Tindakan Administratif bukan undang-undang, karena dikeluarkan oleh CAC, an
Kantor Administrasi di bawah Dewan Negara. Menurut Undang-undang Legislasi Tiongkok, undang-undang hanya dapat disahkan oleh Kongres Rakyat Nasional. Oleh karena itu, CAC hanya dapat mengeluarkan aturan administratif atau dokumen normatif, yang berada pada hierarki yang lebih rendah dalam sistem hierarki legislasi China dan tidak boleh bertentangan dengan undang-undang. Namun, status hukum seperti itu telah memastikan fleksibilitas dan efisiensi sampai batas tertentu. Di satu sisi, dibandingkan dengan undang-undang, persyaratan untuk membuat atau mengubah aturan administrasi atau dokumen normatif kurang ketat. Di sisi lain, Semua agen administratif dapat mengeluarkan dokumen peraturan dalam otoritas administratif mereka sendiri jika dianggap perlu, yang memastikan tanggapan cepat terhadap kebutuhan akan peraturan.
3) Risiko
Perlu dicatat bahwa mungkin ada beberapa risiko lain yang dibawa oleh Rancangan Tindakan Administratif. Walaupun Pasal 3 menyatakan sikap mendukung pemerintah, namun harus diakui bahwa Administrasi secara signifikan telah menambah beban Penyedia Generatif IB. Teknologi AI Generatif masih jauh dari matang. Dengan demikian, diragukan apakah Penyedia kompeten untuk memenuhi semua kewajiban yang diberikan oleh Rancangan Tindakan Administratif, atau setidaknya akan meningkatkan biaya kepatuhan. Misalnya, Draf Tindakan Administratif mendesak Penyedia untuk mencegah konten palsu. Namun, secara teknis, konten tersebut hampir tidak dapat 100% asli pada tahap sekarang. Mungkin membutuhkan banyak biaya bagi Penyedia untuk memenuhi kewajiban tersebut. Oleh karena itu, beban kepatuhan yang tinggi dapat menjadi hambatan bagi pengembangan dan inovasi AI Generatif sampai batas tertentu.
Sebagai kesimpulan, Draf Tindakan Administratif mencerminkan sikap positif China terhadap pengaturan AI. Ini telah menempatkan persyaratan kepatuhan yang relatif tinggi pada entitas yang berniat menyediakan layanan AI Generatif. Sikap ini berkontribusi pada pengembangan AI Generatif yang sehat, meskipun mungkin ada kekhawatiran tentang biaya kepatuhan yang tinggi. Secara keseluruhan, dampak dari Rancangan Tindakan Administratif ini masih layak dicermati.
[1] Lihat http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.
[2] Administrasi Cyberspace Tiongkok, Kementerian Perindustrian dan Teknologi Informasi Tiongkok dan Kementerian Keamanan Publik Tiongkok, Peraturan Layanan Deepfake, Peraturan No.12.
Foto sampul oleh Grup Nebula di Unsplash
Kontributor: Jidong Lin 林济东
