OpenAI Sebut Ada Perusahaan Israel Pakai AI untuk Sebar Disinformasi

, Jakarta - Perusahaan teknologi kecerdasan buatan OpenAI merilis laporan yang menyebutkan kalau tool kecerdasan buatan dipakai dalam operasi rahasia dari Israel, Rusia, Tiongkok, dan Iran untuk menyebar disinformasi.

Mengutip The Guardian, Kamis (6/6/2024), aktor jahat menggunakan model AI generatif dari OpenAI untuk membuat dan mengunggah konten propaganda di seluruh platform media sosial. AI generatif juga dipakai untuk menerjemahkan konten tersebut ke bahasa berbeda.

Laporan juga mengungkap, sejauh ini tak satu pun dari kampanye jahat menjangkau khalayak luas.

Namun, karena AI generatif telah menjadi industri yang booming, ada kekhawatiran luas di kalangan peneliti dan anggota parlemen kalau AI akan dipakai untuk meningkatkan kuantitas disinformasi di internet.

Pembesut ChatGPT, OpenAI, sebelumnya mencoba meredakan kekhawatiran ini dan menerapkan batasan pada teknologi mereka.

Salah satu caranya dengan laporan 39 halaman dari OpenAI, tentang penggunaan software mereka (oleh pihak tak bertanggung jawab) untuk propaganda.

OpenAI mengklaim, para peneliti mereka menemukan dan melarang akun yang terkait dengan lima operasi selama tiga bulan terakhir yang berasal dari aktor negara dan swasta.

Untuk kasus di Rusia misalnya, dua operasi membuat dan menyebarkan konten mengkritik AS, Ukraina, dan beberapa negara Baltik lainnya.

Salah satu operasi menggunakan model OpenAI untuk men-debug kode dan membuat bot yang diunggah di Telegram.

Maraknya aplikasi penulisan kecerdasan buatan ChatGPT memprihatinkan banyak pihak karena kini lebih sulit mengungkap keaslian sebuah tulisan. Sejumlah perusahaan berlomba membuat alat pendeteksi yang bisa mengidentifkasi apakah tulisan dibuat oleh ma...

2 dari 4 halaman

Perusahaan Israel Pakai AI untuk Bikin dan Sebar Disinformasi

Pengaruh operasi Tiongkok, di sisi lain, telah menghasilkan teks dalam bahasa Inggris, Tiongkok, Jepang, dan Korea yang kemudian diunggah di X alias Twitter dan di Medium.

Adapun aktor Iran, menghasilkan artikel dengan bantuan AI. Artikel ini bersifat menyerang AS dan Israel. Artikel kemudian diterjemahkan ke bahasa Inggris dan Prancis.

Lalu, sebuah perusahaan politik asal Israel bernama Stoic menjalankan jaringan akun media sosial palsu yang membuat berbagai konten. Termasuk di antaranya unggahan yang menuding protes mahasiswa AS terhadap serangan Israel ke Gaza adalah tindakan antisemit.

Meta di sisi lain, juga memblokir perusahaan Israel Stoic dari platformnya, karena dianggap sudah melanggar kebijakan.

3 dari 4 halaman

Pelaku Sempat Dijatuhi Sanksi

Beberapa penyebar disinformasi yang telah diblokir oleh OpenAI dari platformnya dilaporkan ke pihak berwenang. Sementara, Departemen Keuangan AS menjatuhkan sanksi kepada dua orang Rusia, yang diduga berada di balik salah satu kampanye dideteksi OpenAI.

Laporan OpenAI secara keseluruhan menyoroti bagaimana AI generatif dipakai di kampanye disinformasi, sebagai sarana untuk meningkatkan aspek tertentu saat membuat konten. Misalnya, mengunggah posting bahasa asing yang lebih meyakinkan.

"Semua operasi ini menggunakan AI sampai tingkat tertentu, tetapi tak ada yang memakainya secara eksklusif," kata laporan tersebut.

Meski tak ada kampanye disinformasi yang menghasilkan dampak signifikan, penggunakan teknologi OpenAI memperlihatkan bagaimana aktor jahat menganggap AI generatif memungkinkan mereka untuk meningkatkan produksi propaganda.

4 dari 4 halaman

Penggunaan AI Generatif untuk Ciptakan Konten Disinformasi

Ilustrasi ChatGPT, chatbot AI generatif yang mampu ciptakan malware canggih. (unsplash/Choong Deng Xiang)

Misalnya untuk tugas menulis, menerjemahkan, dan mengunggah konten yang bisa dilakukan dengan lebih efisien melalui penggunaan tool AI.

Apalagi, The Guardian mencatat, selama setahun terakhir, aktor jahat memakai AI generatif di banyak negara di dunia untuk memengaruhi politik dan opini publik.

Audio deepfake, gambar yang dihasilkan AI, dan kampanye berbasis teks semuanya bisa dihasilkan oleh AI dan dipakai untuk mengganggu kampanye pemilihan.

Hal ini membuat bertambahnya tekanan terhadap perusahaan seperti OpenAI untuk membatasi penggunaan tool mereka.

Sementara itu, OpenAI menyatakan, mereka berencana untuk secara berkala merilis laporan serupa, tentang operasi pengaruh rahasia dan menghapus akun yang melanggar kebijakannya.