Oleh: Muhamamad Haris – 20410577
Mahasiswa Fakultas Hukum Universitas Islam Indonesia

Masyarakat telah digemparkan oleh lonjakan dan penggunaan teknologi yang menghasilkan konten melalui perintah promt (command promt), menghasilkan berbagai jenis konten seperti teks, gambar, audio, dan video dengan menggunakan Artificial Intelligence Content Generated (AI-CG). Mengutip dari Explodingtopics.com penggunaan AI-CG ini terbukti dengan adanya 100 (seratus) juta lebih user pada tahun 2023 pada salah satu platform AI-CG yang paling populer, yaitu ChatGPT, angka ini juga belum ditotal dengan AI-CG lainnya seperti Perplexity AI, Google Bard, Bing AI, dan lain sebagainya. Jumlah pengguna yang sangat fantastis ini memang pada dasarnya dikarenakan AI-CG memberikan kemudahan dalam menyelesaikan permasalahan maupun membantu kegiatan sehari-hari user dengan beberapa ketik saja.

Penggunaan AI-CG pada masyarakat tidak lepas dari salah satu permasalahan yang muncul dikarenakan penyalahgunaan terhadap teknologi AI-CG itu sendiri, yaitu kemampuan AI-CG yang disalahgunakan untuk membuat sebuah foto palsu yang bernuansa pornografi atau yang disebut dengan AI-Generated Fake Pornographic Images, yang mana muka dari foto hasil AI-CG dapat disesuaikan dengan hanya memasukan foto seseorang. Penyalahgunaan kemampuan AI-CG dengan membuat konten pornografi tersebut dapat menjadi polemik yang sangat serius bahkan dapat mengancam nama baik seseorang apabila permasalahan ini tidak diselesaikan secepatnya terhadap penyalahgunaan AI-CG.

Penyanyi musik pop asal Amerika Serikat, Taylor Alison Swift atau yang lebih dikenal dengan “Taylor Swift” menjadi salah satu korban AI-Generated Fake Pornographic Images pada awal tahun 2024 tepatnya 26 Januari. Foto-foto palsu dirinya yang telah dibuat ulang dengan AI-CG tersebar di social media “X” (sebelumnya dikenal Twitter) oleh akun anonim. Foto palsu Taylor Swift itu mendapat 47 juta views di X dan telah diunggah ulang hingga 24 ribu kali ke berbagai media sosial lain seperti X, Instagram, dan Facebook.

Meskipun akun anonim yang pertama membagikan foto itu akhirnya ditutup, dampak penyebaran AI-Generated Fake Pornographic Images telah mencederai nama baik dan membuat geram penyanyi pop asal Amerika tersebut. Wajahnya disalahgunakan untuk membuat foto palsu yang tidak senonoh. Taylor Swift merasa dilecehkan dan marah atas perbuatan tidak terpuji itu. Pihak manajemennya mempertimbangkan untuk mengambil upaya hukum kepada oknum yang membuat AI-Generated Fake Pornographic Images dari wajah Taylor Swift.

Pada kasus Taylor Swift tersebut dapat dipetik 3 (tiga) permasalahan hukum yang muncul, yaitu: Pertama, pelanggaran privasi dikarenakan telah menyalahgunakan wajah seseorang dengan tanpa izin untuk membuat sebuah konten bernuansa pornografi. Kedua, penggunaan AI-CG di masyarakat secara bebas tanpa adanya pembatasan dari hukum atau regulasi menyebabkan kerusuhan terhadap tertabrak-nya etika sosial di masyarakat. Ketiga, permasalahan yang disebabkan oleh penyalahgunaan AI-CG di masyarakat menjadikan landasan baru bagi para Aparat Penegak Hukum (APH) untuk melakukan kajian bagaimana untuk memberantas permasalahan penyalahgunaan AI-CG pada masyarakat.

Masyarakat perlu sadar bahwa ketika menggunakan teknologi AI-CG untuk menghasilkan AI-Generated Fake Pornographic Images akan menimbulkan pelanggaran hukum dikarenakan telah menyalahgunakan dengan tanpa izin wajah seseorang atau dalam bahasa Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi Indonesia (UU PDP) dikenal dengan “Data biometrik”. Penyalahgunaan ini dapat menimbulkan pelanggaran data pribadi terhadap pihak yang melakukan tindakan tidak senonoh tersebut.

Maraknya penyalahgunaan teknologi AI-CG Pemerintah Indonesia merespons melalui Kementerian Komunikasi dan Informatika (Kemenkominfo) dengan Surat Edaran Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial (SE Etika Kecerdasan Artifisial). Menegaskan bahwa penggunaan AI-CG harus dapat dipastikan sebagai teknologi yang digunakan untuk ke arah yang mempertimbangkan prinsip etis, kehati-hatian, keselamatan, serta berorientasi pada dampak positif. Penyelenggaraan terhadap pemilik teknologi AI-CG juga mesti memperhatikan nilai-nilai etika yang dijalankan ketika memberikan akses teknologi-nya terhadap masyarakat, seperti: Inklusivitas, kemanusiaan, keamanan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, pelindungan data pribadi, pembangunan dan lingkungan berkelanjutan, dan kekayaan intelektual.

Penulis menilai bahwa seyogianya aksesibilitas terhadap AI-CG harus mulai diawasi oleh para APH maupun masyarakat Indonesia dikarenakan teknologi AI-CG ini sangat berpotensi menyebabkan berbagai permasalahan yang baru dan bahkan tidak diatur oleh undang-undang oleh negara seperti Indonesia dikarenakan barunya teknologi AI-CG yang hadir pada abad ke ke-21 (dua puluh satu). Perlu dipertimbangkan juga untuk langkah pemerintah Indonesia untuk mulai ke langkah yang pro-aktif untuk memberikan awareness terhadap masifnya peningkatan penggunaan terhadap teknologi AI-CG dan melindungi masyarakat dari penyalahgunaan kemampuan AI-CG seperti AI-Generated Fake Pornographic Images.

Kesimpulan yang dapat ditarik terhadap permasalahan AI-CG adalah penggunaan AI-CG telah memberikan kemudahan dalam menciptakan konten multimedia. Namun, terhadap penyalahgunaannya, khususnya dalam pembuatan konten pornografi palsu, menimbulkan permasalahan hukum dan sosial serius. Oleh karena itu, pemerintah perlu mengembangkan mekanisme yang efektif untuk membatasi dan mengawasi penggunaan AI-CG melalui regulasi yang ketat dan jelas, sementara itu perlu dipersiapkan dengan pengetahuan yang cukup untuk menghadapi kasus-kasus serupa di masa mendatang. Regulasi yang lebih jelas dan komprehensif juga diperlukan untuk mengatur penggunaan AI-CG, mengingat perkembangan teknologi AI yang terus meningkat di masa depan, maka dari itu penggunaan teknologi ini dapat berada dalam batas etika dan hukum yang jelas. (editor: IB)