Pengamat Keadilan China

中 司 观察

EnglishArabicCina (Modern)DutchFrenchGermanHindiItalianJapaneseKoreanPortugueseRussianSpanishSwedishIbraniIndonesianVietnamThaiTurkiMalay

Bagaimana China Mengatasi Akuntabilitas Platform dalam Pengambilan Keputusan Algoritmik?

Min, 28 Nov 2021
Kategori: Wawasan
Kontributor: Guodong Du
Editor: Shuai Huang

avatar

 

Takeaways kunci:

  • Anggota parlemen China telah menyadari peran sentral algoritme dalam pengoperasian platform internet, dan mendefinisikannya sebagai “pengambilan keputusan otomatis” dalam Undang-Undang Perlindungan Informasi Pribadi (PIPL) yang berlaku pada 20 Agustus 2021, yang mengatur teknologi ini untuk pertama kalinya.
  • Di bawah PIPL, platform harus menilai dampak algoritma terlebih dahulu, dan bertanggung jawab atas hasil pengambilan keputusan setelahnya.
  • PIPL memperluas hak untuk mengetahui pengguna platform, dan mengharuskan platform untuk memecahkan "kepompong informasi" yang dibuat oleh rekomendasi algoritmik yang dipersonalisasi kepada pengguna.


Hukum Perlindungan Informasi Pribadi Tiongkok (个人信息保护法), yang diberlakukan pada Agustus 2021, memberikan batasan untuk platform Internet yang melakukan pengambilan keputusan otomatis melalui algoritme.

. Latar belakang

Platform Internet China, biasanya TopBuzz dan TikTok dari ByteDance, secara ekstensif menggunakan algoritme rekomendasi untuk mendorong konten dan produk ke penggunanya.

Namun, algoritme semacam itu, yang diduga telah mengganggu hak pengguna atas keputusan bebas dan dengan demikian menciptakan moral hazard, dipertanyakan oleh publik dan regulator.

Anggota parlemen China telah menyadari peran sentral algoritme dalam pengoperasian platform tersebut, dan mendefinisikannya sebagai “pengambilan keputusan otomatis” dalam Undang-Undang Perlindungan Informasi Pribadi (selanjutnya disebut 'PIPL') yang berlaku pada 20 Agustus 2021, yang mengatur teknologi ini untuk pertama kali.

Sesuai dengan PIPL, pengambilan keputusan otomatis mengacu pada kegiatan menganalisis dan menilai secara otomatis kebiasaan perilaku, hobi, atau status keuangan, kesehatan, dan kredit individu melalui program komputer dan membuat keputusan di atasnya. (Pasal 73)

Sebelum itu, ada pendapat yang terbagi atas kewajiban platform untuk pengambilan keputusan otomatis. Sebagai contoh, beberapa orang percaya bahwa platform seharusnya tidak bertanggung jawab atas hasil dari algoritma pengambilan keputusan otomatis mereka, yang pada dasarnya adalah sejenis teknologi netral. Namun, PIPL mengklarifikasi sebaliknya.

. Pembatasan pada platform

1. Regulator langsung meninjau algoritme

Sebagai pemroses informasi pribadi, platform harus mengaudit kepatuhan pemrosesan informasi pribadi mereka dengan undang-undang dan peraturan administratif secara teratur. (Pasal 54)

Ini membutuhkan platform untuk secara berkala mengaudit pengambilan keputusan otomatis algoritmik dan aktivitas pemrosesan informasi lainnya.

Menurut aturan, regulator juga dapat melakukan audit internal pada pengoperasian algoritma platform, alih-alih pengawasan eksternal pada tindakan platform dan konsekuensinya saja.

Dengan demikian, regulator menjadikan algoritme sebagai objek pengatur langsung, yang memungkinkan regulator untuk campur tangan dalam teknologi dan detail pengambilan keputusan otomatis.

2. Platform menilai dampak algoritme terlebih dahulu 

Sebagai pemroses informasi pribadi, platform harus melakukan penilaian dampak perlindungan informasi pribadi terlebih dahulu dan mencatat informasi pemrosesan jika mereka menggunakan informasi pribadi untuk pengambilan keputusan otomatis. (Pasal 55)

Penilaian berdasarkan platform harus mencakup hal-hal berikut:

A. Apakah tujuan, metode, atau aspek lain apa pun dari pemrosesan informasi pribadi adalah sah, sah, dan perlu;

B. Dampak terhadap hak dan kepentingan pribadi serta tingkat risiko; dan

C. Apakah tindakan perlindungan keamanan yang diambil sah, efektif dan sepadan dengan tingkat risikonya.

Oleh karena itu, platform harus melakukan penilaian sebelumnya sebelum algoritme pengambilan keputusan otomatis ditayangkan. Penilaian risiko mencakup legitimasi dan kebutuhan pengambilan keputusan otomatis algoritmik, serta dampak dan risikonya.

Pengambilan keputusan otomatis algoritmik yang rusak dari platform dapat membahayakan properti dan hak pribadi warga, bahkan untuk kepentingan publik dan keamanan nasional.

Oleh karena itu, konsekuensi negatif dapat berdampak pada ribuan pengguna. Pada saat itu, meskipun platform dimintai pertanggungjawaban, mungkin sulit untuk memulihkan kerusakan yang telah terjadi.

Untuk mencegah situasi seperti itu, undang-undang menetapkan sistem penilaian sebelumnya untuk algoritme platform dalam upaya untuk campur tangan dalam algoritme sebelumnya.

3. Platform bertanggung jawab atas hasil pengambilan keputusan setelahnya

Platform akan menanggung kewajiban berikut untuk hasil pengambilan keputusan otomatis (Pasal 24):

A. Platform harus memastikan bahwa hasilnya adil dan tidak memihak

Ketika pemroses informasi pribadi melakukan pengambilan keputusan otomatis dengan informasi pribadi, mereka harus memastikan transparansi pengambilan keputusan dan keadilan dan ketidakberpihakan hasil, dan tidak akan memberikan perlakuan berbeda yang tidak masuk akal kepada individu dalam hal harga transaksi atau kondisi transaksi lainnya.

B. Platform harus menyediakan opsi pengambilan keputusan otomatis yang tidak menargetkan karakteristik pribadi kepada penggunanya.

Jika penyampaian informasi berbasis dorongan atau pemasaran komersial kepada individu dilakukan melalui pengambilan keputusan otomatis, opsi yang tidak menargetkan karakteristik pribadi individu atau cara mudah untuk menolak menerima harus diberikan kepada individu secara bersamaan.

C. Platform harus membuat penjelasan tentang hasil pengambilan keputusan.

Jika keputusan yang memiliki dampak material pada hak dan kepentingan individu dibuat melalui pengambilan keputusan otomatis, individu tersebut berhak meminta pemroses informasi pribadi untuk memberikan penjelasan, serta hak untuk menolak pengambilan keputusan. keputusan oleh pemroses informasi pribadi semata-mata melalui pengambilan keputusan otomatis.

Aturan tersebut membuat platform bertanggung jawab atas hasil pengambilan keputusan otomatis, termasuk:

A. Aturan tidak mengakui pertahanan "netralitas teknologi" yang telah digunakan oleh platform. Platform harus bertanggung jawab atas hasil pengambilan keputusan otomatis algoritmik dan harus memastikan bahwa hasilnya adil dan masuk akal.

B. Aturan memperluas hak untuk mengetahui pengguna platform. Pengguna dapat meminta transparansi hasil pengambilan keputusan otomatis serta penjelasan dari platform jika terjadi “dampak material”.

C. Aturan tersebut mengharuskan platform untuk memecahkan "kepompong informasi" yang dibuat oleh rekomendasi yang dipersonalisasi secara algoritmik kepada pengguna, dan membutuhkan platform untuk melindungi hak pengguna untuk mengetahui.

AKU AKU AKU. Komentar Kami

China telah membuat terobosan dalam PIPL dengan menambahkan aturan hukum untuk algoritma platform pengambilan keputusan otomatis. Namun, masih perlu disempurnakan lebih lanjut. Misalnya, undang-undang tidak menjelaskan:

A. kondisi platform untuk memulai penilaian algoritme.

B. apakah dan sejauh mana laporan penilaian akan dipublikasikan setelah platform mengevaluasi algoritme mereka, dan 

C. bagaimana platform harus bertanggung jawab atas kerusakan yang disebabkan oleh pengambilan keputusan otomatis algoritmik mereka.

Saya berasumsi bahwa regulator China masih menjajaki kemungkinan memberlakukan serangkaian peraturan khusus untuk lebih mengimplementasikan PIPL.

 

Foto oleh Perjalanan darat dengan Raj on Unsplash

 

 

 

 

 

Kontributor: Guodong Du

Simpan sebagai PDF

Hukum terkait di China Laws Portal

Anda mungkin juga menyukai

Studi Kasus: Hukuman Administratif Pengenalan Wajah

Sebuah studi terhadap lebih dari 400 kasus hukuman administratif menyoroti sikap pemerintah China saat ini terhadap pengenalan wajah dan memberikan skenario untuk menilai bagaimana Undang-Undang Perlindungan Informasi Pribadi China akan berlaku jika kasus tersebut terjadi hari ini.

Apa Kata Hukum Bantuan Hukum China?

Apa tugas pengacara? Siapa yang akan menjadi tenaga bantuan hukum? Apa jenis layanan hukum yang dapat diberikan? Berikut pertanyaan kunci yang harus dijawab untuk mengenal Hukum Bantuan Hukum China.

Hukum Keselamatan Kerja China (2021)

Hukum Keselamatan Kerja (安全生产法) diundangkan pada tanggal 29 Juni 2002, dan diubah masing-masing pada tahun 2009, 2014, dan 2021. Revisi terbaru mulai berlaku pada 1 September 2021.

Ketentuan Beberapa Isu Tentang Penerapan Hukum Dalam Persidangan Perdata Yang Melibatkan Penggunaan Teknologi Pengenalan Wajah untuk Memproses Informasi Pribadi (2021)

Ketentuan Mahkamah Agung tentang Beberapa Masalah Penerapan Hukum dalam Persidangan Perdata Yang Melibatkan Penggunaan Teknologi Pengenalan Wajah untuk Memproses Informasi Pribadi (最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律) diundangkan pada 27 Juli 2021, dan mulai berlaku pada 1 Agustus 2021.