Jakarta – Pergerakan kita di dunia maya diikuti oleh sistem bernama algoritma. Namun sistem yang dikenal memberikan rekomendasi pada pengguna, ternyata menyimpan mimpi buruk bagi pengguna dan pembuatnya itu sendiri.
Algoritma dikenal sebagai yang akan menentukan konten yang akan dilihat pengguna, seperti video apa yang selanjutnya kita tonton di Tiktok.
CNNInternational menuliskan algoritma merupakan seperangkat aturan atau langkah yang diikuti biasanya oleh komputer tujuannya adalah menghasilkan sesuatu. Algoritma bukan hanya untuk ponsel namun juga perangkat lain seperti robot vakum.
Namun ternyata algoritma dipandang negatif oleh beberapa pihak. Perkembangan algoritma bahkan membuat pengawasan ditegakkan dalam beberapa minggu terakhir, termasuk perusahaan teknologi yang mengubah cara penggunaanya.
“Pada titik ini, mereka bertanggung jawab membuat keputusan mengenai hampir seluruh aspek kehidupan kita,” kata Chris Gilliard, peneliti tamu di Shorenstein Center di Media, Politik, dan Kebijakan Publik Harvard Kennedy School, dikutip Senin (22/11/2021).
Namun yang jadi sorotan mulai dari cara kerja algoritma dan kesimpulan yang dicapai. Khususnya karena menggunakan teknik kecerdasan buatan yang membuatnya makin kompleks.
Seorang peneliti dalam tim etik AI di model AI Hugging Face, Sasha Luccioni mengungkapkan ini bisa sangat sulit dikodekan. Serta algoritma masih mengarah tetap untuk diikuti komputer, misalnya menempatkan daftar dalam urutan abjad.
Satu contoh dampak negatif penggunaan algoritma terjadi pada Zillow. Perusahaan menggunakan asisten machine learning Zestimate untuk mengestimasi harga rumah sejak 2006. Teknologi mempertimbangkan mulai dari pajak dan properti, detail yang diajukan pemilik rumah misalnya penambahan kamar mandi, serta gambar rumah.
Namun algoritma tidak seluruh menguntungkan. Sebab dalam kasus Zillow menunjukkan pemindahan keputusan pada sistem itu menjadi serba salah dan tidak selalu jelas alasannya.
Zillow dikabarkan juga baru saja menutup bisnis home-flipping, Zillow Offers. Keputusan ini menjadi pertanda betapa sulitnya menggunakan AI pada penilaian real estate.
Meta, atau yang dulu bernama Facebook juga mendapatkan dampak buruk dari algoritma. Sistem itu ternyata membantu mendorong lebih banyak konten negatif dalam raksasa jejaring sosial tersebut.
Bahkan algoritma yang digunakan dalam kehidupan sehari-hari juga merugikan manusia. Misalnya salah tangkap pada beberapa pria kulit hitam karena penggunaan sistem pengenalan wajah.
Para ahli teknologi dan hukum teknologi kepada CNN menyebut para pembuat sistem algoritma tidak selalu tahu kesimpulan alasan sistem. Itu mengapa disebut sebagai black boxes atau kotak hitam.
“Ilmuwan komputer, data scientist, pada tahap ini mereka tampak seperti penyihir untuk banyak orang karena mereka tidak mengerti apa yang mereka lakukan,” ungkap Gilliard.
“Dan kami pikir mereka selalu seperti tu, dan tidak selalu terjadi”.
[Dexpert.co.id]
(npb/roy)
