Daily News|Jakarta –Pakar PBB mendesak badan-badan di seluruh dunia untuk memastikan bahwa data yang mereka kumpulkan dari kecerdasan buatan tidak digunakan untuk mendiskriminasi kelompok minoritas.
Minoritas dan aktivis di seluruh dunia telah mengeluh tentang meningkatnya penggunaan kecerdasan buatan, pengenalan wajah, dan teknologi baru lainnya oleh polisi. Polisi dan penjaga perbatasan harus memerangi profil rasial dan memastikan bahwa penggunaan “data besar” yang dikumpulkan melalui kecerdasan buatan tidak memperkuat bias terhadap minoritas, kata pakar Perserikatan Bangsa-Bangsa, Kamis.
Perusahaan yang menjual sistem profil algoritmik ke entitas publik dan perusahaan swasta, yang sering digunakan dalam menyaring pelamar kerja, harus diatur untuk mencegah penyalahgunaan data pribadi yang melanggengkan prasangka, kata mereka.
“Ini adalah sarana teknologi yang berkembang pesat yang digunakan oleh penegak hukum untuk menentukan, menggunakan data besar, siapa yang cenderung melakukan apa. Dan itulah bahayanya, ”Verene Shepherd, anggota Komite PBB untuk Penghapusan Diskriminasi Rasial, mengatakan kepada Reuters.
“Kami telah mendengar tentang perusahaan yang menggunakan metode algoritmik ini untuk melakukan diskriminasi berdasarkan warna kulit,” tambahnya, berbicara dari Jamaika. Shepherd, seorang sejarawan, memimpin 18 ahli independen dalam menyusun “rekomendasi umum” ke 182 negara yang telah meratifikasi perjanjian internasional yang mengikat yang melarang diskriminasi rasial.
Minoritas dan aktivis mengeluh tentang meningkatnya penggunaan kecerdasan buatan, pengenalan wajah, dan teknologi baru lainnya, katanya.
“Ini banyak digunakan di Amerika Serikat, dan kami juga mendapat keluhan dari komunitas Kulit Hitam di Uni Eropa, dan Amerika Latin, di mana orang keturunan Afrika dan Pribumi mengeluh tentang pembuatan profil,” kata Shepherd, mengutip Brasil dan Kolombia.
“Ini adalah hotspot tempat kami mendengar tentang kasus pembuatan profil yang lebih umum.” Protes terhadap rasisme dan kebrutalan polisi meletus di seluruh Amerika Serikat setelah kematian George Floyd pada Mei, seorang pria Afrika-Amerika yang meninggal setelah seorang petugas polisi Minneapolis berlutut di lehernya selama hampir sembilan menit.
Banyak polisi menggunakan sistem profil “prediktif” yang mengarah pada pemeriksaan identitas, pemberhentian lalu lintas dan pencarian, berdasarkan data penangkapan sebelumnya tentang suatu lingkungan, kata Shepherd.
Panitia merekomendasikan bahwa orang-orang yang menjadi sasaran pantas mendapatkan kompensasi, katanya, menambahkan, “Jika mereka hidup untuk menceritakan kisah itu, karena kita tahu terkadang itu berakhir buruk.” (HMP)
Discussion about this post