Hidupgaya.co – Kecerdasan buatan (AI) memang membantu memudahkan hidup, namun jika tak digunakan secara bijak bisa sangat merusak. Dari beberapa tuduhan palsu yang dilayangkan terhadap aktor terkemuka Korea, Kim Soo-hyun, yang paling merusak adalah beredarnya rekaman audio yang diduga menampilkan suara mendiang aktor Kim Sae-ron, yang hubungannya dengan sang aktor Queen of Tears menjadi fokus kontroversi.

“Kami mulai berpacaran ketika saya masih SMP dan putus setelah saya masuk kuliah. Pertama kali kami berhubungan seks adalah saat liburan musim dingin di tahun kedua SMP saya. Melihat ke belakang sekarang, saya menyadari bahwa saya telah dimanfaatkan,” bunyi rekaman tersebut yang seolah suara dari Kim Sae-ron.

Rekaman tersebut kemudian ternyata dihasilkan menggunakan kecerdasan buatan (AI). Rekaman itu termasuk di antara materi palsu yang dikutip dalam kasus terhadap YouTuber Kim Se-eui, yang ditahan atas tuduhan menyebarkan informasi palsu tentang Kim Soo-hyun.

Jika dilihat ke belakang, keadaan mungkin akan berbeda jika tuduhan tersebut disampaikan dalam bentuk lain. Jika tuduhan itu disampaikan dalam pernyataan tertulis atau secara langsung oleh Kim Se-eui, sosok penuh kontroversi, publik kemungkinan akan bereaksi dengan hati-hati dan menuntut verifikasi.

Namun, hal itu muncul dalam bentuk rekaman audio yang diduga menampilkan suara mendiang aktor tersebut, dan publik langsung bereaksi. Tiba-tiba, tuduhan yang sulit dipercaya itu tampak didukung oleh bukti yang kredibel.

Kasus ini menunjukkan bagaimana informasi palsu yang dihasilkan menggunakan AI dapat jauh lebih berbahaya daripada bentuk-bentuk misinformasi yang telah mengguncang masyarakat di masa lalu.

AI dapat pengaruhi opini lebih cepat daripada verifikasi

Tuduhan palsu terhadap Kim Soo-hyun tidak hanya terbatas pada rumor kotor yang beredar di YouTube. Dengan dirilisnya rekaman audio yang dibuat oleh AI, tuduhan Kim Se-eui tiba-tiba tampak sebagai pengungkapan yang didukung bukti, sesuatu yang dapat dibenarkan oleh wartawan arus utama untuk meliput berita itu, sesuatu yang mudah untuk ditulis dan dikutip.

Perkiraan dari sebuah kelompok masyarakat menunjukkan bahwa 2.026 artikel berita diterbitkan selama delapan hari antara 10 Maret 2025, ketika Kim Se-eui pertama kali membuat tuduhan terhadap Kim Soo-hyun, hingga 17 Maret 2025.

Dalam upaya untuk meredam dampaknya, Kim Soo-hyun mengadakan konferensi pers sendiri dan membantah klaim yang dibuat dalam rekaman tersebut. Tetapi hanya sedikit yang yakin, sebagian besar karena suara itu terdengar sangat nyata.

Bahaya yang ditimbulkan oleh informasi palsu yang dimanipulasi AI tidak berakhir di situ. Bahkan setelah penyelidikan dimulai dan pihak berwenang mencurigai bahwa materi tersebut telah dipalsukan, membuktikannya adalah masalah lain.

Layanan Forensik Nasional, menanggapi pertanyaan dari polisi, menjawab bahwa mereka tidak dapat menentukan apakah rekaman audio tersebut telah dimanipulasi menggunakan AI karena file yang diajukan untuk analisis bukanlah file aslinya.

Kecuali polisi dapat menetapkan bagaimana rekaman itu dibuat, membuktikan bahwa itu dipalsukan mungkin sulit, menciptakan celah yang dapat dieksploitasi oleh terdakwa.

Dalam kasus Kim Soo-hyun, polisi menyimpulkan bahwa rekaman tersebut dipalsukan berdasarkan keadaan sekitarnya. Meskipun mereka tidak dapat menentukan dengan pasti bahwa file tersebut telah dimanipulasi, mereka mencapai kesimpulan tersebut setelah mempertimbangkan jejak distribusinya, keberadaan beberapa versi yang saling bertentangan, pernyataan dari pihak yang terlibat, dan tanda-tanda bahwa pesan KakaoTalk juga telah diubah.

Ko Sang-rok, seorang pengacara di Firma Hukum Pil yang mewakili Kim Soo-hyun, mengatakan kepada Hankook Ilbo bahwa para penyelidik kemungkinan mempertimbangkan fakta bahwa “versi rekaman yang sama sekali berbeda yang dikatakan menangkap percakapan yang sama pada hari dan waktu yang sama didistribusikan oleh sumber kepada banyak orang.”

Bagi Kim Soo-hyun, keberuntungan berpihak padanya. Yang lain mungkin tidak seberuntung itu. Kesulitan yang dihadapi para penyelidik pada akhirnya dapat berlanjut ke ruang sidang, di mana membuktikan bahwa bukti tersebut dipalsukan mungkin akan lebih sulit.

“Di masa lalu, dokumen palsu atau yang diubah dapat diidentifikasi secara visual melalui tulisan tangan, stempel resmi, dan fitur lainnya. Tetapi dengan bukti yang dimanipulasi menggunakan AI, mungkin sulit untuk menentukan bagaimana jaksa harus membuktikan pemalsuan tersebut di persidangan,” kata Lee Chang-hyun, mantan jaksa dan profesor di Fakultas Hukum Universitas Hankuk untuk Studi Asing.

Namun, Lee menambahkan bahwa laju kemajuan AI yang cepat juga dapat membuat pemalsuan semacam itu lebih mudah dideteksi. “Dengan teknologi analitik canggih saat ini, informasi palsu atau yang dimanipulasi tetap harus tunduk pada verifikasi dan bukti yang memadai setelah kejadian,” katanya.

AI mudahkan manipulasi, butuh pengamanan lebih cepat

Untuk saat ini, kekhawatiran terbesar adalah apakah kasus serupa yang melibatkan bukti yang dimanipulasi AI akan muncul, sebuah prospek yang tampaknya sudah di depan mata.

Di masa lalu, mengubah suara seseorang membutuhkan peralatan khusus dan waktu yang cukup lama. Sekarang, sampel suara singkat dan alat daring mungkin sudah cukup untuk menghasilkan imitasi yang meyakinkan.

Itulah mengapa para ahli memperingatkan bahwa kasus ini tidak boleh dianggap hanya sebagai kasus pencemaran nama baik selebriti lainnya.

“Kotak Pandora telah dibuka, dan bukan dalam arti yang baik,” kata Yoo Hyun-jae, seorang profesor di Sekolah Pascasarjana Komunikasi Universitas Sogang.

“Kasus Kim Soo-hyun baru saja menunjukkan kepada orang-orang dengan niat kriminal bagaimana materi yang dihasilkan AI dapat digunakan untuk melancarkan pertempuran opini publik,” kata Yoo.

Tidak diragukan lagi akan ada orang-orang yang mempelajari metode baru untuk melakukan kejahatan dari kasus ini. “Kecuali pengamanan institusional segera diterapkan, kita bisa melihat Kim Se-eui kedua, dan kemudian yang ketiga,” tandasnya. (HG)