Jakarta (ANTARA) - Sekitar akhir Oktober tahun lalu beredar video Presiden Joko Widodo berpidato dalam bahasa Mandarin yang fasih.
Sejumlah pihak, termasuk Kementerian Komunikasi dan Informatika, menyimpulkan video itu merupakan hasil suntingan yang menyesatkan, karena aslinya adalah unggahan kanal YouTube Masyarakat Indonesia-Amerika Serikat (USINDO) pada 13 November 2015.
Video itu telah disunting sedemikian rupa dengan memanfaatkan "deepfake", yang merupakan jenis kecerdasan buatan (AI) yang dapat membuat foto, audio dan video, nyaris sesuai aslinya.
Dalam kata lain, video Jokowi itu adalah disinformasi untuk menguatkan narasi jahat bahwa pemerintahan Presiden Joko Widodo dikendalikan oleh China.
Hal seperti itu terjadi di mana-mana dan biasanya muncul menjelang atau selama pemilihan umum, termasuk di India, Taiwan, Prancis, Filipina, Brazil, dan Amerika Serikat yang seperti Indonesia menggelar pemilu pada 2024.
Salah satu produk "deepfake" dalam Pemilu AS adalah iklan politik Partai Republik yang menarasikan skenario buruk seandainya Presiden Joe Biden terpilih lagi, mulai dari invasi China ke Taiwan, sampai gelombang imigran ke AS.
Muncul video palsu Hillary Clinton yang karena skenario buruk Biden itu menyatakan mendukung Gubernur Florida Ron DeSantis pada Pemilu 2024.
Padahal, DeSantis adalah bakal calon presiden dari Partai Republik yang nyaris mustahil didukung seorang tokoh Demokrat seperti Hillary yang mantan calon presiden pada Pemilu 2016.
Ternyata kemudian, sama dengan video Presiden Jokowi berbahasa Mandarin itu, video Hillary Clinton pun adalah hasil rekayasa "deepfake".
Senjata baru
AI Generatif seperti "deepfake" telah menjadi senjata baru untuk membuat disinformasi dan hoax yang sangat dikhawatirkan banyak kalangan, termasuk oleh media massa dan pemerintah-pemerintah di banyak negara.
"Deepfake" bisa mengkloning dengan cepat suara orang, membuat video palsu, atau narasi palsu untuk menjatuhkan atau merusak citra lawan politik. Di sini, "Big Data" atau "Mahadata" menjadi bagian penting.
Dulu, para politisi berusaha merebut suara rakyat dalam Pemilu dengan menggunakan alat terbatas dalam mengukur sentimen dan opini pemilih. Tapi kini, Mahadata dan penerapannya dalam kampanye pemilu mengubah itu semua.
Contohnya, Pemilihan Presiden AS pada 2008 yang saat itu untuk pertama kalinya analisis data media sosial digunakan dalam skala besar, guna meningkatkan upaya penggalangan dana dan mengoordinasikan relawan.
Kini, transformasi digital tingkat berikutnya umum melibatkan integrasi AI dalam kampanye pemilu dan hampir semua aspek kehidupan politik.
Manfaat positif AI sendiri jauh lebih besar ketimbang negatifnya. Namun orang-orang licik memanfaatkan teknologi ini untuk tujuan buruk sehingga tak sedikit kalangan menjadi jatuh khawatir terhadap AI, termasuk dalam kaitan dengan proses politik.
Tapi memang ada bukti yang menunjukkan AI telah disalahgunakan secara sistematis untuk memanipulasi masyarakat, demi kepentingan dalam momen-momen seperti referendum dan pemilu.
Bukti pertama, adalah adanya bot-bot untuk menyebarkan propaganda dan berita palsu di media sosial.
Bot adalah akun otonom yang diprogram di arena politik guna menyebarkan pesan politik sepihak sehingga tercipta ilusi dukungan publik.
Jauh lebih dahsyat
Bot-bot itu menyamar sebagai akun manusia biasa, dalam media sosial seperti Facebook, YouTube, TikTok dan sejenisnya, bahkan akun-akun platform perpesanan seperti WhatsApp dan Telegram.
Akun-akun yang pada dasarnya digerakkan mesin sehingga tak mengenal waktu itu efektif mengguncang pemilih.
Bot juga menyusup ke ruang-ruang online untuk mendominasi dan menguatkan narasi yang hanya mendukung salah satu pihak yang dipromosikan bot dan sebaliknya mendiskreditkan yang lainnya.
Kedua, AI juga digunakan untuk memanipulasi pemilih tersasar dengan memanfaatkan Mahadata dan pembelajaran mesin, guna mempengaruhi emosi massa.
Tujuannya adalah membuat guncang pemilih sehingga mengurungkan niat memilih pilihannya.
Perang informasi model baru dengan menggunakan propaganda komputasi ini adalah fenomena baru yang sifat dan skala dampaknya jauh lebih dahsyat ketimbang perang informasi biasa.
Di Indonesia sendiri, AI tampaknya sudah banyak digunakan, baik lewat bot-bot politik, maupun dengan bombardemen pesan kepada pemilih agar keyakinan mereka goyah.
Akun-akun bot ini aktif melemparkan pesan yang kebanyakan audiovisual, yang umumnya disebarkan lewat media sosial.
Akun-akun itu hanya memancing perdebatan untuk mengguncangkan keyakinan pemilih, tapi tak interaktif akun manusia biasa, karena memang mesin.
Literasi jadi keniscayaan
Upaya berbasis AI itu pastinya dilakukan terkoordinasi oleh lembaga yang khusus membentuk opini publik. Salah satu yang terkenal adalah perusahaan konsultansi politik Inggris, Cambridge Analytica, yang kini sudah tak ada lagi.
Pada 2010-an, firma ini memanen data dari 87 juta pengguna Facebook tanpa izin, untuk kampanye politik tersasar demi kepentingan calon-calon presiden AS dari Partai Republik, terutama Donald Trump.
Cambridge Analytica juga dituding memanipulasi data pengguna media sosial demi memenangkan referendum Inggris keluar dari Uni Eropa atau Brexit.
Contoh lain adalah sebuah perusahaan konsultansi politik Israel, yang Februari tahun lalu disingkapkan oleh laporan investigatif sebuah konsorsium media yang di antara anggotanya adalah The Guardian, Der Spiegel, Le Monde, dan Haaretz.
Konsorsium itu berhasil menyingkapkan peretasan, sabotase dan pengembangbiakan disinformasi yang dilakukan oleh perusahaan konsultasi media Israel itu dalam berbagai pemilu di seluruh dunia, selama dua puluh tahun terakhir.
Berdasarkan laporan investigasi konsorsium itu yang diterbitkan Guardian pada 15 Februari 2023, pemilik perusahaan konsultansi politik Israel tersebut mengaku beroperasi terselubung untuk kepentingan badan-badan intelijen asing, kampanye-kampanye politik dan perusahaan-perusahaan swasta yang ingin memanipulasi opini publik.
Mereka mempekerjakan sejumlah tentara siber untuk mengendalikan ribuan profil palsu dalam Twitter, LinkedIn, Facebook, Telegram, Gmail, Instagram, dan YouTube.
Ada banyak lembaga seperti itu di dunia ini, termasuk Internet Research Agency. Menurut sejumlah analis, seperti dilaporkan Washington Post pada 16 Februari 2023, perusahaan yang satu pemilik dengan tentara bayaran Wagner Group dari Rusia ini selama bertahun-tahun melancarkan perang informasi di seluruh dunia, dengan menyebarluaskan disinformasi.
Pemanfaatan AI untuk tujuan-tujuan buruk semacam itu mesti dilawan. Dalam konteks ini, literasi dan perlindungan hukum menjadi keniscayaan guna memastikan tujuan buruk itu tak merusak tatanan nasional, termasuk kualitas demokrasi.
Baca juga: BPSDM Kominfo sebut harus ada pemimpin yang paham AI
Baca juga: Superkomputer berskala otak manusia hadir tahun depan
Sejumlah pihak, termasuk Kementerian Komunikasi dan Informatika, menyimpulkan video itu merupakan hasil suntingan yang menyesatkan, karena aslinya adalah unggahan kanal YouTube Masyarakat Indonesia-Amerika Serikat (USINDO) pada 13 November 2015.
Video itu telah disunting sedemikian rupa dengan memanfaatkan "deepfake", yang merupakan jenis kecerdasan buatan (AI) yang dapat membuat foto, audio dan video, nyaris sesuai aslinya.
Dalam kata lain, video Jokowi itu adalah disinformasi untuk menguatkan narasi jahat bahwa pemerintahan Presiden Joko Widodo dikendalikan oleh China.
Hal seperti itu terjadi di mana-mana dan biasanya muncul menjelang atau selama pemilihan umum, termasuk di India, Taiwan, Prancis, Filipina, Brazil, dan Amerika Serikat yang seperti Indonesia menggelar pemilu pada 2024.
Salah satu produk "deepfake" dalam Pemilu AS adalah iklan politik Partai Republik yang menarasikan skenario buruk seandainya Presiden Joe Biden terpilih lagi, mulai dari invasi China ke Taiwan, sampai gelombang imigran ke AS.
Muncul video palsu Hillary Clinton yang karena skenario buruk Biden itu menyatakan mendukung Gubernur Florida Ron DeSantis pada Pemilu 2024.
Padahal, DeSantis adalah bakal calon presiden dari Partai Republik yang nyaris mustahil didukung seorang tokoh Demokrat seperti Hillary yang mantan calon presiden pada Pemilu 2016.
Ternyata kemudian, sama dengan video Presiden Jokowi berbahasa Mandarin itu, video Hillary Clinton pun adalah hasil rekayasa "deepfake".
Senjata baru
AI Generatif seperti "deepfake" telah menjadi senjata baru untuk membuat disinformasi dan hoax yang sangat dikhawatirkan banyak kalangan, termasuk oleh media massa dan pemerintah-pemerintah di banyak negara.
"Deepfake" bisa mengkloning dengan cepat suara orang, membuat video palsu, atau narasi palsu untuk menjatuhkan atau merusak citra lawan politik. Di sini, "Big Data" atau "Mahadata" menjadi bagian penting.
Dulu, para politisi berusaha merebut suara rakyat dalam Pemilu dengan menggunakan alat terbatas dalam mengukur sentimen dan opini pemilih. Tapi kini, Mahadata dan penerapannya dalam kampanye pemilu mengubah itu semua.
Contohnya, Pemilihan Presiden AS pada 2008 yang saat itu untuk pertama kalinya analisis data media sosial digunakan dalam skala besar, guna meningkatkan upaya penggalangan dana dan mengoordinasikan relawan.
Kini, transformasi digital tingkat berikutnya umum melibatkan integrasi AI dalam kampanye pemilu dan hampir semua aspek kehidupan politik.
Manfaat positif AI sendiri jauh lebih besar ketimbang negatifnya. Namun orang-orang licik memanfaatkan teknologi ini untuk tujuan buruk sehingga tak sedikit kalangan menjadi jatuh khawatir terhadap AI, termasuk dalam kaitan dengan proses politik.
Tapi memang ada bukti yang menunjukkan AI telah disalahgunakan secara sistematis untuk memanipulasi masyarakat, demi kepentingan dalam momen-momen seperti referendum dan pemilu.
Bukti pertama, adalah adanya bot-bot untuk menyebarkan propaganda dan berita palsu di media sosial.
Bot adalah akun otonom yang diprogram di arena politik guna menyebarkan pesan politik sepihak sehingga tercipta ilusi dukungan publik.
Jauh lebih dahsyat
Bot-bot itu menyamar sebagai akun manusia biasa, dalam media sosial seperti Facebook, YouTube, TikTok dan sejenisnya, bahkan akun-akun platform perpesanan seperti WhatsApp dan Telegram.
Akun-akun yang pada dasarnya digerakkan mesin sehingga tak mengenal waktu itu efektif mengguncang pemilih.
Bot juga menyusup ke ruang-ruang online untuk mendominasi dan menguatkan narasi yang hanya mendukung salah satu pihak yang dipromosikan bot dan sebaliknya mendiskreditkan yang lainnya.
Kedua, AI juga digunakan untuk memanipulasi pemilih tersasar dengan memanfaatkan Mahadata dan pembelajaran mesin, guna mempengaruhi emosi massa.
Tujuannya adalah membuat guncang pemilih sehingga mengurungkan niat memilih pilihannya.
Perang informasi model baru dengan menggunakan propaganda komputasi ini adalah fenomena baru yang sifat dan skala dampaknya jauh lebih dahsyat ketimbang perang informasi biasa.
Di Indonesia sendiri, AI tampaknya sudah banyak digunakan, baik lewat bot-bot politik, maupun dengan bombardemen pesan kepada pemilih agar keyakinan mereka goyah.
Akun-akun bot ini aktif melemparkan pesan yang kebanyakan audiovisual, yang umumnya disebarkan lewat media sosial.
Akun-akun itu hanya memancing perdebatan untuk mengguncangkan keyakinan pemilih, tapi tak interaktif akun manusia biasa, karena memang mesin.
Literasi jadi keniscayaan
Upaya berbasis AI itu pastinya dilakukan terkoordinasi oleh lembaga yang khusus membentuk opini publik. Salah satu yang terkenal adalah perusahaan konsultansi politik Inggris, Cambridge Analytica, yang kini sudah tak ada lagi.
Pada 2010-an, firma ini memanen data dari 87 juta pengguna Facebook tanpa izin, untuk kampanye politik tersasar demi kepentingan calon-calon presiden AS dari Partai Republik, terutama Donald Trump.
Cambridge Analytica juga dituding memanipulasi data pengguna media sosial demi memenangkan referendum Inggris keluar dari Uni Eropa atau Brexit.
Contoh lain adalah sebuah perusahaan konsultansi politik Israel, yang Februari tahun lalu disingkapkan oleh laporan investigatif sebuah konsorsium media yang di antara anggotanya adalah The Guardian, Der Spiegel, Le Monde, dan Haaretz.
Konsorsium itu berhasil menyingkapkan peretasan, sabotase dan pengembangbiakan disinformasi yang dilakukan oleh perusahaan konsultasi media Israel itu dalam berbagai pemilu di seluruh dunia, selama dua puluh tahun terakhir.
Berdasarkan laporan investigasi konsorsium itu yang diterbitkan Guardian pada 15 Februari 2023, pemilik perusahaan konsultansi politik Israel tersebut mengaku beroperasi terselubung untuk kepentingan badan-badan intelijen asing, kampanye-kampanye politik dan perusahaan-perusahaan swasta yang ingin memanipulasi opini publik.
Mereka mempekerjakan sejumlah tentara siber untuk mengendalikan ribuan profil palsu dalam Twitter, LinkedIn, Facebook, Telegram, Gmail, Instagram, dan YouTube.
Ada banyak lembaga seperti itu di dunia ini, termasuk Internet Research Agency. Menurut sejumlah analis, seperti dilaporkan Washington Post pada 16 Februari 2023, perusahaan yang satu pemilik dengan tentara bayaran Wagner Group dari Rusia ini selama bertahun-tahun melancarkan perang informasi di seluruh dunia, dengan menyebarluaskan disinformasi.
Pemanfaatan AI untuk tujuan-tujuan buruk semacam itu mesti dilawan. Dalam konteks ini, literasi dan perlindungan hukum menjadi keniscayaan guna memastikan tujuan buruk itu tak merusak tatanan nasional, termasuk kualitas demokrasi.
Baca juga: BPSDM Kominfo sebut harus ada pemimpin yang paham AI
Baca juga: Superkomputer berskala otak manusia hadir tahun depan