IBM Berhenti Kembangkan Alat Pendeteksi Wajah

Amerika Serikat (AS) tengah berada dalam kondisi darurat rasisme. Berbagai demo dilakukan para warga AS hampir di seluruh negara bagian. Peserta dari demo masal ini ternyata bukan hanya menyentuh para warga dan selebriti saja, tetapi juga para pengusaha IT yang sama-sama ikut menyuarakan gerakan anti-rasisme.

International Business Machines atau IBM, yang merupakan perusahaan produsen perangkat keras dan lunak komputer ikut andil di dalamnya. Arvind Krishna, selaku Chief Executive Officer IBM, mengirimkan surat pernyataan ke Dewan Kongres AS yang berisi tentang wacana perusahaannya untuk keluar dari bisnis teknologi deteksi wajah.


Menurut Krishna, IBM menentang keras penggunaan teknologi untuk pengawasan profil rasial. Alasannya, hal tersebut dapat bertentangan dengan kebebasan hak asasi manusia.


IBM melayangkan pernyataannya tak lama setelah perusahaan teknologi pengenalan wajah Clearview AI mengangkat masalah privasi dan hasil yang bias ke publik.


IBM kemudian melakukan hal yang sama karena menemukan lebih dari satu laporan yang mengindikasikan bahwa sistem pengenalan wajah dengan hasil yang bias terhadap wajah non-kulit putih dan perempuan. Penggunaan AI atau kecerdasan buatan harus tetap dicek dengan tes yang diaudit untuk menghindari bias, tambah Krishna.

Pernyataan dari IBM merupakan bagian dari seruan kepada Dewan Kongres AS agar secepatnya mendorong akuntabilitas polisi yang diperbaiki dan melakukan reformasi.

Salah satunya adalah gerakan Justice in Policing Act 2020 yang merupakan pendekatan yang komprehensif yang meminta pertanggungjawaban polisi, mengakhiri profil rasial, mengubah budaya penegakan hukum dan membangun kembali kepercayaan antara penegak hukum dan warga.


Baca juga:

Krishna menambahkan bahwa sekarang merupakan momen untuk melakukan refleksi. Bukan hanya bagaimana pengenalan wajah seharusnya digunakan, namun juga penggunaan deteksi wajah ini kedepannya akan berguna atau tidak.

Ia juga mendorong penggunaan teknologi yang meningkatkan akuntabilitas dan transparansi. Salah satu contohnya adalah kamera tubuh yang dapat merekam tindakan warga dan polisi yang sedang berinteraksi.


Adanya sharing training data wajah yang tersedia untuk umum melalui Flickr dengan embel-embel Creative Common Lisense, dikhawatirkan dapat digunakan untuk pelacakan dan pembuatan profil yang digunakan untuk mengintimidasi orang. Atau bias juga untuk membatasi privasi mereka di dunia nyata.

IBM adalah perusahaan teknologi besar dan terpandang. Selain itu perusahaan ini dikenal sering bekerja sama dengan pemerintah. Jadi kalaupun perusahaan ini menghentikan pengembangan deteksi wajah, hal itu bukanlah masalah bersar karena alat pendeteksi wajah bukanlah produk utama dari perusahaan ini.

Tidak ada komentar