, Jakarta - Pernahkah Anda bertanya-tanya bagaimana layanan jejaring sosial seperti Facebook dan LinkedIn membuat rekomendasi tentang orang-orang yang harus Anda temani atau halaman yang harus Anda ikuti?
Di balik itu ada model Machine Learning yang membuat klasifikasi node berdasarkan data yang dikandungnya tentang pengguna. Data itu termasuk tingkat pendidikan, lokasi, atau afiliasi politik mereka.
Model Machine Learning itu kemudian menggunakan klasifikasi ini untuk merekomendasikan orang dan halaman bagi setiap pengguna.
Advertisement
Namun, terdapat bias yang signifikan di dalam rekomendasi yang dibuat oleh model yang dikenal sebagai Graph Neural Networks (GNN) itu. Bias ini muncul karena model itu mengandalkan fitur pengguna yang sangat terkait dengan atribut sensitif seperti jenis kelamin atau warna kulit.
Baca Juga
Menyadari bahwa mayoritas pengguna enggan mempublikasikan atribut sensitif mereka, para peneliti di Penn State College of Information Sciences and Technology telah mengembangkan kerangka kerja baru yang memperkirakan atribut sensitif untuk membantu GNN membuat rekomendasi lebih adil.
Tim peneliti pun menemukan bahwa model mereka, yang disebut FairGNN, mempertahankan performa tinggi pada klasifikasi node menggunakan informasi sensitif terbatas yang disediakan pengguna, sekaligus mengurangi bias.
"Telah banyak dilaporkan bahwa orang cenderung membangun hubungan dengan mereka yang memiliki atribut sensitif yang sama seperti usia dan wilayah," kata Enyan Dai, kandidat doktor di bidang informatika dan penulis utama pada makalah penelitian ini.
"Ada beberapa model pembelajaran mesin yang bertujuan untuk menghilangkan bias, tetapi model itu membutuhkan atribut sensitif orang-orang untuk membuatnya adil dan akurat," tutur Dai lebih lanjut.
Oleh karena itu, Dai dan timnya mengusulkan model lain berdasarkan sangat sedikit atribut sensitif yang mereka miliki dan mempertimbangkan hal lain yang dapat memberikan informasi yang diperlukan.
* Follow Official WhatsApp Channel untuk mendapatkan berita-berita terkini dengan mengklik tautan ini.
Dataset
Para peneliti melatih model mereka dengan dua dataset: profil pengguna di Pokec, jaringan sosial populer di Slovakia, mirip dengan Facebook dan Twitter; dan dataset sekitar 400 pemain bola basket NBA.
Di dalam dataset Pokec, mereka memperlakukan wilayah di mana setiap pengguna berasal sebagai atribut sensitif, dan menetapkan tugas klasifikasi untuk memprediksi bidang kerja pengguna.
Sementara di dalam dataset NBA, mereka mengidentifikasi pemain sebagai pemain di AS dan mereka yang berada di luar negeri, menggunakan lokasi sebagai atribut sensitif dengan tugas klasifikasi untuk memprediksi apakah gaji setiap pemain melebihi median.
Mereka kemudian menggunakan dataset yang sama untuk menguji model mereka dengan metode canggih lainnya untuk klasifikasi yang adil.
Pertama, mereka mengevaluasi FairGNN dalam hal kinerja keadilan dan klasifikasi. Kemudian, mereka melakukan "studi ablasi", yang menghapus komponen tertentu dari model untuk menguji signifikansi setiap komponen terhadap keseluruhan sistem dalam rangka lebih memperkuat model.
Mereka kemudian menguji apakah FairGNN efektif ketika jumlah atribut sensitif yang berbeda disediakan di data latih.
"Eksperimen kami menunjukkan bahwa kinerja klasifikasi tidak menurun," kata Suhang Wang, asisten profesor ilmu informasi dan teknologi dan peneliti utama pada proyek tersebut. "Namun dalam hal keadilan, kami bisa membuat modelnya jauh lebih adil."
Advertisement
Berdampak pada kasus nyata
Menurut para peneliti, kerangka kerja mereka dapat berdampak pada kasus penggunaan dunia nyata lainnya.
"Temuan kami dapat berguna dalam lamaran, seperti peringkat pelamar pekerjaan, deteksi kejahatan atau dalam aplikasi pinjaman keuangan," kata Wang. "Namun, itu adalah domain di mana kami tidak ingin menimbulkan bias. Jadi kami ingin memberikan prediksi yang akurat dengan tetap menjaga keadilan."
Terkini Lainnya
10 Penerbit Aplikasi Mobile dengan Unduhan Tertinggi di Dunia pada Februari 2021
Proyek Penelitian Video Publik di Facebook AI Berpotensi Timbulkan Masalah
Google Hadapi Gugatan atas Tuduhan Pelacakan Pengguna di Incognito Mode
Dataset
Berdampak pada kasus nyata
Tech News
Machine Learning
Jejaring sosial
Facebook
LinkedIn
Rekomendasi
Daftar 15 Perusahaan Terbaik di Indonesia, Tempatmu Kerja Termasuk?
Trik Wawancara Ini Bisa Bantu Kamu Terlihat Menarik
Pekerja Indonesia Paling Banyak Pakai AI ketimbang SDM di Asia Paifik dan Global, Seberapa Jauh Bedanya?
Viral Keponakan Jokowi Jadi Manajer di Pertamina, Lewat Orang Dalem atau Profesional?
Melihat Jurus Perusahaan yang Masuk LinkedIn Top Companies 2024 Tiga Kali Berturut-turut
75% Pekerja Sudah Pakai AI Tapi Tak Mau Mengakuinya, Simak Alasan
Copa America 2024
Jadwal Lengkap Copa America 2024, Hasil, Klasemen Grup A, B, C, D Cek di Sini
Copa America 2024: Laga Brasil Melawan Kolombia Berakhir Tanpa Pemenang
Hasil Copa America 2024: Kolombia Jadi Juara Grup Usai Tahan Imbang Brasil, Kosta Rika Tekuk Paraguay
Link Live Streaming Copa America 2024 Brasil vs Kolombia, Sesaat Lagi Tanding di Vidio
Link Live Streaming Copa America 2024 Brasil vs Kolombia, Rabu 3 Juli Pukul 08.00 WIB di Indosiar dan Vidio
Prediksi Copa America 2024 Brasil vs Kolombia: Misi Hindari Uruguay
Timnas Indonesia U-16
Hasil Piala AFF U-16 Vietnam vs Indonesia: Cetak 5 Gol Tanpa Balas, Garuda Nusantara Amankan Peringkat 3
Jadwal Lengkap, Hasil, dan Klasemen Piala AFF U-16 2024: Timnas Indonesia Bidik Gelar Ketiga
Hasil Piala AFF U-16 Vietnam vs Indonesia: Cetak Gol Telat, Garuda Nusantara Unggul 2-0 di Babak Pertama
Link Live Streaming Piala AFF U-16 2024 Vietnam vs Indonesia, Sebentar Lagi Mulai di Vidio
Timnas U-16 Indonesia Vs Vietnam: Nova Arianto Yakin Garuda Muda Bisa Bangkit
Link Live Streaming Piala AFF U-16 2024 Vietnam vs Indonesia, Rabu 3 Juli Pukul 15.00 WIB di Indosiar dan Vidio
Judi Online
Muhammadiyah: Judi Online Harus Diberantas
Sidak Ponsel Personel Polisi di Ponorogo Antisipasi Judi Online, Apa Hasilnya?
5 Ciri Jika Kamu Sudah Kecanduan Judi Online, Segera Tangani
Pimpinan MPR Sayangkan PPATK Belum Serahkan Nama Anggota DPR Terlibat Judi Online
Gawat! 82 Persen Pengguna Internet Terpapar Iklan Judi Online
Pilkada 2024
PDIP: Mantan Panglima TNI Andika Perkasa Lebih Cocok Jadi Bakal Cagub daripada Wagub di Pilkada Jakarta 2024
Pilkada 2024, Burhanuddin Didukung Maju Jadi Cabup Bombana
PKPU soal Syarat Eks Napi Koruptor Maju Pilkada Harus dengan Catatan
PKB Serahkan 4 Rekomendasi ke Bakal Calon di Pilkada 2024, Simak Daftarnya
Menanti Langkah PDIP Menentukan Pilihan Sosok untuk Maju di Pilkada Jakarta
Survei: Elektabilitas Helldy Agustian Tertinggi di Pilwalkot Cilegon
TOPIK POPULER
TIPS TEKNO
3 Rekomendasi Gadget untuk yang Doyan Traveler, Apa Saja?
HP Xiaomi Lemot setelah Update ke HyperOS? Matikan Fitur ini Sekarang
Cara Bikin CV Anti Gagal dalam Hitungan Menit Pakai ChatGPT, Biar Gampang Cari Kerjaan
Populer
10 Smartphone Paling Ngebut di Bulan Juni 2024, Apa Saja?
Prudential Akui Lebih dari 2,5 Juta Data Nasabah dan Karyawan Disusupi Hacker
Pakar: PDN di Dalam Negeri Tak Jadi Jaminan Keamanan Data Terjaga
Ini Pentingnya Backup Data Agar Insiden PDNS 2 Tidak Terulang
Jadwal Lengkap MSC 2024: Cara Nonton, Hasil, dan Format Kompetisi MLBB di Riyadh
Samsung Bakal Rilis Galaxy S24 FE dengan 5 Pilihan Warna, Apa Saja?
Twilio: AI Etis Penting dalam Menciptakan Pengalaman Pelanggan Lebih Baik
Kebocoran Data Instansi Pemerintah Mungkin Tak Terkait Serangan Ransomware ke Pusat Data Nasional Sementara
Good Bye Jebakan Badman Customer Service Palsu! Begini Langkah Jitu Antisipasinya
Awalnya Gratis, Layanan Apple Intelligence Bakal Tarik Biaya Langganan ke Pengguna
Samsung Gelar Galaxy Unpacked 10 Juli, Pre-Order Galaxy Z Terbaru Sudah Buka
Gelar Unpacked 2024 di Paris, Ini Deretan Gadget yang bakal Dirilis Samsung
Top 3 Tekno: Janji Manis Brain Cipher hingga Data Kominfo Diduga Bocor
Jepang Catat Rekor Baru, Kecepatan Internet Tembus 402 Terabit per Second
iPhone 16 Pro Max akan Dilengkapi Baterai Berkapasitas Besar, Fans Apple Antusias!
Euro 2024
Daftar Tim 8 Besar Euro 2024 Beserta Ranking Masing-masing, Cek di Sini
Di Istanbul, Suporter Sambut Meriah Kemenangan Turki atas Austria
Dua Gol Merih Demiral Antar Turki Melaju ke Perempat Final Euro 2024
Bungkam Rumania 0-3, Belanda Raih Tiket Perempat Final Euro 2024
Berita Terkini
Berkat Inovasi, Kopra by Mandiri Jadi Market Leader di Bisnis Solusi Korporasi
Tindaklanjuti Putusan DKPP, Jokowi Segera Terbitkan Keppres Pemberhentian Ketua KPU Hasyim Asy'ari
Mau Liburan ke Bali, Ini Cara Biar Dapat Tiket Pesawat Garuda Indonesia Lebih Murah
3 Cara Screen Recorder Windows 10, Ikuti Langkah-langkahnya
Menko PMK Muhadjir Effendy Optimistis Angka Kemiskinan Turun di Akhir 2024
Kapolda Sumbar Dilaporkan ke Propam Polri, Imbas Tewasnya Afif Maulana di Jembatan Kuranji
Dipecat DKPP, Ketua KPU Hasyim Asy'ari: Terima Kasih Telah Membebaskan Saya dari Tugas Berat
Kasus Video Vulgar Ibu Muda dengan Anak Kandung, Polisi: Orang yang Suruh Suka Bikin Akun Fake
Saksikan Sinetron Saleha di SCTV Episode Rabu 3 Juli 2024 Pukul 18.15 WIB, Simak Sinopsisnya
Jin BTS Bakal Jadi Pembawa Obor Olimpiade Paris 2024, ARMY Desak Angkat Bicara soal Palestina
SEC Tuntut Perusahaan Kripto Consensys, Ini Gara-garanya
Mirip Lisa BLACKPINK, Penjual Ayam Goreng di Pasar Thailand Ini Viral
China Perketat Aturan Tambang Tanah Jarang, Berlaku Mulai 1 Oktober 2024