, Jakarta - Berbagai kemajuan dalam kinerja dan kemampuan algoritme kecerdasan buatan (artificial intelligence/AI) membuat penggunaannya meningkat secara signifikan dalam beberapa tahun terakhir.
IDC dalam laporan bulan Februari 2021 memperkirakan bahwa pendapatan dari AI di seluruh dunia akan tumbuh 16,4% pada tahun 2021 menjadi US$ 327 miliar.
Baca Juga
Selain itu, penggunaan AI tidak hanya akan terkonsentrasi di sejumlah kecil perusahaan, melainkan menjadi semakin meluas secara global untuk mendorong pendapatan dan efisiensi, atau bahkan membuka aliran pendapatan baru.
Advertisement
Karena AI semakin diprioritaskan oleh berbagai perusahaan, telah terjadi peningkatan risiko bias dalam prediksi, yang pada akhirnya akan memengaruhi hasil.
Hal ini memunculkan isu-isu terkait penggunaan AI secara etis, dan telah mendorong pembuatan beragam kebijakan dan pedoman regional, industri, dan perusahaan tentang masalah ini.
AI yang Beretika
Kata etika dalam bahasa Inggris berasal dari kata Yunani, êthos, yang berarti "karakter atau sifat moral". Studi tentang etika atau filsafat moral melibatkan sistematisasi, pembelaan, dan pemberian rekomendasi mengenai konsep perilaku yang benar dan salah.
Meskipun beberapa akademisi dan filsuf mungkin berpendapat bahwa etika dapat diperluas ke dunia hewan, etika secara umum dianggap sebagai masalah manusia.
Ketika sistem yang kita kembangkan menjadi semakin canggih, dan dalam beberapa kasus bersifat otonom, kita tetap bertanggung jawab secara etis atas sistem tersebut. Hal ini termasuk sistem yang berbasis AI dan Machine Learning (ML).
AI yang beretika adalah upaya multidisiplin untuk merancang dan membangun sistem AI adil dan memperbaiki kehidupan kita. Sistem-sistem AI yang beretika harus dirancang dengan pertimbangan yang cermat dalam hal keadilan, akuntabilitas, transparansi, dan dampaknya terhadap manusia dan dunia.
Berbagai kemajuan dalam AI berarti bahwa kita telah beralih dari membangun sistem pengambilan keputusan berdasarkan aturan manusia, ke sistem yang dilatih berdasarkan data.
Ketika sistem berperilaku sesuai dengan aturan-aturan yang ditetapkan oleh manusia, implikasi etis dari setiap aturan cenderung lebih transparan dan lebih condong menjadi keputusan yang dibuat secara sadar oleh setidaknya perancang dan, kita harapkan, developer-nya. Hal ini sering kali mengarah pada hubungan yang lebih jelas antara aturan dan hasil yang tidak etis.
* Follow Official WhatsApp Channel untuk mendapatkan berita-berita terkini dengan mengklik tautan ini.
Mengapa AI yang Beretika Sangat Penting?
![Ilustrasi AI. Credit Gertruda Valaseviciute/Unsplash](https://cdn0-production-images-kly.akamaized.net/QLSDBM5BuN6pzoE5zIA44zvc4eo=/640x360/smart/filters:quality(75):strip_icc():format(webp)/kly-media-production/medias/4177356/original/078177900_1664613489-Ilustrasi_AI._Gertruda_Valaseviciute-unsplash.jpg)
Diperkenalkannya ML dan Deep Learning (DL), memungkinkan dibangunnya sistem-sistem AI yang tidak mempertimbangkan etika sama sekali. Sistem AI yang tidak dibatasi akan dioptimalkan untuk apapun.
Sebagai contoh, sebuah sistem yang dirancang untuk menyetujui pinjaman dapat memberikan pinalti secara tidak adil kepada demografi tertentu yang kurang terwakili dalam data pelatihan AI. Hal ini jelas memiliki dampak negatif terhadap mereka yang berada dalam demografi tersebut dan terhadap penyedia layanan.
Penyedia layanan juga bisa dianggap melakukan pelanggaran terhadap pedoman perusahaan atau industri, atau bahkan dalam beberapa kasus, dianggap melakukan pelanggaran hukum.
Pada April 2021, sebuah artikel Techcrunch mengupas kasus enam pengemudi Uber di Belanda yang dilaporkan diberhentikan secara tidak adil "gara-gara sistem algoritma" aplikasi.
Gugatan hukum yang didukung oleh App Drivers & Couriers Union (ADCU) dan Worker Info Exchange (WIE) ini merupakan tanggapan atas Pasal 22 European Union’s General Data Protection Regulation (GDPR).
Pasal tersebut dirancang untuk melindungi individu dari keputusan-keputusan yang murni dihasilkan oleh sistem otomasi dengan dampak hukum atau dampak yang signifikan.
Investigasi yang dilakukan berfokus pada dua masalah utama. Pertama, individu yang sepertinya diberhentikan dengan keputusan yang tidak ditinjau oleh manusia. Kedua, penggunaan aplikasi pengenalan wajah dalam sistem ID realtime Uber.
Artikel Techcrunch lain terkait berita tersebut melaporkan sebuah studi MIT tahun 2018 yang menunjukkan bahwa sistem pengenalan wajah rentan terhadap error yang bisa mencapai 20% untuk orang kulit berwarna dan kinerja sistem pengenalan wajah kurang baik ketika diterapkan pada wanita dari semua etnis.
Menyusul kasus hukum tersebut, Uber diperintahkan untuk membayar kompensasi kepada pengemudi yang diberhentikan.
Dalam kasus lain, Forbes melaporkan bagaimana sistem AI yang digunakan untuk menentukan plafon kredit untuk kartu kredit Apple, memberikan plafon kredit yang lebih rendah untuk wanita dibanding pria.
Pihak ketiga yang independen kemudian mengonfirmasi bahwa mitra penerbit kartu kredit Apple tidak menggunakan jenis kelamin dalam modelnya, tetapi penulis artikel tersebut kemudian menyatakan bahwa "sistem pembelajaran mesin sering kali dapat menciptakan bias meskipun variabel kelas yang dilindungi tidak ada".
Advertisement
Jangan Abaikan Tata Kelola
![Manusia dan AI](https://cdn0-production-images-kly.akamaized.net/hc1K_P9DE9Ar4DE4vnXYzDfjsts=/640x360/smart/filters:quality(75):strip_icc():format(webp)/kly-media-production/medias/4408315/original/084384000_1682603067-Manusia___AI_getty_images.jpg)
Di mana dan bagaimana data scientist dan data engineer masuk ke dalam struktur organisasi dapat bervariasi. Beberapa perusahaan memilih model terpusat, beberapa lainnya memilih model terdistribusi dengan keterampilan sebagai bagian dari tim lintas fungsi.
Dalam kedua kasus tersebut, ada nilai yang signifikan dan risiko yang berkurang dalam mengembangkan tata kelola terpusat untuk memastikan praktik-praktik terbaik itu diikuti.
Hal ini mencakup panduan tentang algoritma, pengujian, kontrol kualitas, dan artefak yang dapat digunakan kembali.
Fungsi lain dari kemampuan tata kelola terpusat adalah untuk melakukan kontrol kualitas serta penilaian kinerja dan kesesuaian model berdasarkan data dan masalah sebelumnya.
Hal ini sering kali membutuhkan tata kelola data yang kuat, manajemen, dan lineage control, serta praktik operasional machine learning yang matang.
Manfaat potensial dari penggunaan AI sangat signifikan. Hal ini dapat memberikan nilai yang besar bagi perusahaan dan konsumen. Namun, untuk menangani bias, kausalitas, korelasi, ketidakpastian, dan pengawasan manusia, perusahaan-perusahaan perlu mengembangkan sistem AI yang beretika.
Hal ini memerlukan kontrol kuat atas manajemen data, dan kemampuan untuk mereproduksi hasil atau rekomendasi berdasarkan data historis secara andal.
Karena peraturan dan kebijakan masih terus disempurnakan, perusahaan-perusahaan juga dapat memilih untuk mengambil pendekatan proaktif yang bekerja dalam tim lintas fungsi dengan regulator untuk mengembangkan standar baru.
Penyatuan regulasi perusahaan, industri, dan negara atau regional akan menjadi dasar upaya tata kelola di seluruh siklus hidup data.
**Penulis adalah Daniel Hand selaku Field CTO, Cloudera APJ
Infografis: Bumi Makin Panas, Apa Solusinya? ( / Abdillah)
![Infografis: Bumi Makin Panas, Apa Solusinya? ( / Abdillah)](https://cdn1-production-images-kly.akamaized.net/KXbmzAD64HxuVuogjJXcRqQNjTo=/640x853/smart/filters:quality(75):strip_icc():format(webp)/kly-media-production/medias/3546542/original/072470500_1629457844-210820_content_spesial_Bumi_Makin_Panas__Apa_Solusinya_P.jpg)
Terkini Lainnya
Twilio: AI Etis Penting dalam Menciptakan Pengalaman Pelanggan Lebih Baik
Masa Depan E-Core dalam Komputasi Terdistribusi dan Data Center Berbasis AI
Mengapa AI yang Beretika Sangat Penting?
Jangan Abaikan Tata Kelola
Infografis: Bumi Makin Panas, Apa Solusinya? (Liputan6.com / Abdillah)
Opini
Opini Tekno
AI
Etika AI
Tata Kelola AI
Cloudera
Daniel Hand
Kecerdasan Buatan
Artificial Intelligence
Machine Learning
penggunaan AI
Rekomendasi
Masa Depan E-Core dalam Komputasi Terdistribusi dan Data Center Berbasis AI
Copa America 2024
Mengejutkan, Uruguay Depak Brasil dari Copa America 2024
Hasil Copa America 2024 Uruguay vs Brasil: Selecao Kalah Dramatis Lewat Adu Penalti, La Celeste Tantang Kolombia di Semifinal
Jadwal Lengkap Copa America 2024, Hasil, Klasemen Grup A, B, C, D Cek di Sini
Hasil Copa America 2024 Kolombia vs Panama: Gulung Los Canaleros 5-0, Luis Diaz Cs Kunci Tiket Semifinal
Saksikan Live Streaming Copa America 2024 Uruguay vs Brasil, Segera Dimulai
Link Live Streaming Copa America 2024 Uruguay vs Brasil: Ancaman Nyata untuk Tim Samba
Ketua KPU
KPU Minta Kasus Pencabulan Hasyim Asy'ari Tidak Menyeret-nyeret Keluarga
Tak Cuma Gaji Puluhan Juta, Hasyim Asy'ari Dapat Sederet Fasilitas Ini Saat jadi Ketua KPU
Megawati Kecewa Kasus Ketua KPU Hasyim Asy'ari: Kok Begitu Ya, Pusing Saya
Infografis DKPP Pecat Ketua KPU Hasyim Asy'ari Terkait Tindak Asusila
Top 3 News: Ketua KPU Hasyim Asy'ari Beri Fasilitas Korban Asusila Apartemen di Jaksel dan Uang Perbulan
Timnas Indonesia U-16
Timnas Indonesia Rebut Perunggu Piala AFF U-16 2024, Erick Thohir: Lebih Baik di Kualifikasi Piala Asia U-17 2025
Jadwal Lengkap, Hasil, dan Klasemen Piala AFF U-16 2024: Timnas Indonesia Bidik Gelar Ketiga
Timnas U-16 Kalahkan Vietnam 5-0, Nova Arianto Minta Skuad Garuda Muda Tak Euforia
Hasil Piala AFF U-16 Vietnam vs Indonesia: Cetak 5 Gol Tanpa Balas, Garuda Nusantara Amankan Peringkat 3
Hasil Piala AFF U-16 Vietnam vs Indonesia: Cetak Gol Telat, Garuda Nusantara Unggul 2-0 di Babak Pertama
Link Live Streaming Piala AFF U-16 2024 Vietnam vs Indonesia, Sebentar Lagi Mulai di Vidio
Pilkada 2024
Lumayan! Ini Besaran Gaji PPS Pilkada 2024 dan Masa Kerjanya, Simak Cara Daftarnya
Bawaslu Sulut Pastikan Pengungsi Gunung Ruang Punya Hak Pilih dalam Pilkada 2024
Nadiem Makarim Masuk Daftar Usulan Cagub DKI dari PSI Jakut
Hasil Mukerwil DPW PPP Sulsel: Dukung Kepemimpinan Mardiono hingga Sepakat Sukseskan Pilkada 2024
Pengamat Prediksi Demokrat Usung Calon Eksternal Ketimbang Kader di Pilgub Banten
Jelang Pilkada 2024, Diskominfo Kepulauan Babel Awasi Konten Hoaks di Ruang Digital
TOPIK POPULER
Euro 2024
Cristiano Ronaldo Buka Suara usai Gagal Antar Portugal ke Semifinal Euro 2024, Apa Katanya?
Tampil Kompak, Ini 7 Potret Andrea Dian dan Ganindra Bimo Nonton Euro 2024 di Jerman
Top 3: Zodiak yang Paling Suka Traveling
Top 3 Berita Bola: Prancis Rebut Tiket Semifinal Euro 2024 usai Menang Dramatis atas Portugal Lewat Adu Penalti
Rashford Merapat ke PSG, Manchester United Temukan Penggantinya di Euro 2024
Tertinggal Lebih Dulu, Belanda Bungkam Turki dan Lolos ke Semifinal Euro 2024
Berita Terkini
Pemilik NFT Kena Tipu, Rugi sampai Rp 3,9 Miliar
Tahun Ini BAF Donasikan Lebih dari 20 Ribu Mangrove Melalui BAF ECO Move
3 Tahapan Love Bombing yang Perlu Anda Ketahui, Perhatikan Tandanya
Lebarkan Sayap, BYD Siap Bangun Pabrik Kendaraan Listrik di Turki
6 Potret Heels dan Tas Wanita Ukuran Mini Unik, Menarik Dikoleksi Pecinta Fashion
Bentuk Kepercayaan Prabowo, Pengamat Sebut Sejumlah Menteri Jokowi Bisa Bertahan
Segini Hadiah Juara Miss Supranational 2024, Gelar Baru Puteri Indonesia Harashta Haifa Zahra
Berkunjung ke Sentra Kerajinan Rajapolah, Surganga Prakarya di Tasikmalaya
Satpol PP Surabaya Gencarkan Patroli di Kota Lama Antisipasi Aksi Vandalisme dan Pencurian
Cristiano Ronaldo Buka Suara usai Gagal Antar Portugal ke Semifinal Euro 2024, Apa Katanya?
Tunjuk Amel Carla Jadi Bridesmaid, Aaliyah Massaid Sempat Curhat soal Thariq Halilintar
Tampil Kompak, Ini 7 Potret Andrea Dian dan Ganindra Bimo Nonton Euro 2024 di Jerman
Cara Cetak Kartu Keluarga Online, Gampang Banget dan Tidak Perlu ke Dukcapil
Film Jepang Baby Assassins 1 Tayang di Vidio, Berikut Sinopsis dan Link Nontonnya
6 Potret Harashta Haifa Zahra di Miss Supranational 2024, Cetak Prestasi Tertinggi untuk Indonesia