Rakyatmerdekanews, Jakarta – Bagaimana jika sebuah bukti terlihat autentik, tetapi ternyata dibuat oleh kecerdasan artifisial? Bagaimana jika kutipan putusan yang tampak meyakinkan ternyata tidak pernah ada?
Pertanyaan tersebut menjadi alarm keras dalam pelatihan Mahkamah Agung. Perkembangan AI tidak hanya menghadirkan peluang, tetapi juga memunculkan tantangan baru yang harus dipahami setiap insan peradilan, khususnya hakim.
Hal itu disampaikan Windy Gambetta dari Kelompok Keahlian Informatika STEI ITB sekaligus Pusat AI ITB, dalam kegiatan Pelatihan Mahkamah Agung pada 26 Oktober 2026, melalui materi “Artificial Intelligence dan Perubahan Lanskap Peradilan”.
Bahaya Deepfake dan Synthetic Media
Salah satu tantangan paling serius adalah semakin mudahnya penciptaan konten digital sintetis melalui teknologi Generative AI. Teknologi ini mampu menghasilkan teks, gambar, suara, hingga video yang menyerupai materi autentik.
Windy secara khusus menyoroti fenomena deepfake, yaitu teknologi yang memungkinkan penciptaan wajah atau suara sintetis, serta *synthetic media* berupa gambar, video, maupun audio hasil AI.
Kondisi tersebut menuntut hakim untuk semakin cermat memeriksa autentisitas bukti digital. Tidak cukup hanya melihat apakah rekaman terlihat meyakinkan, tetapi juga perlu memperhatikan asal-usul dokumen, integritasnya, rantai penguasaan (chain of custody), serta kemungkinan verifikasi secara independen.
Windy mengingatkan, penggunaan perangkat pendeteksi AI tidak dapat dijadikan satu-satunya dasar untuk menentukan autentisitas bukti. Pemeriksaan bukti digital tetap memerlukan penilaian menyeluruh dan tidak boleh semata-mata diserahkan kepada algoritma.
5 Risiko Utama AI yang Wajib Dikenali Hakim
1. Hallucination: AI menghasilkan informasi tidak benar tetapi disampaikan seolah-olah fakta.
2. Fabricated Citation: Penciptaan kutipan atau referensi putusan yang sebenarnya tidak pernah ada.
3. Informasi Usang: Data yang tidak lagi sesuai perkembangan hukum terkini.
4. Bias Data: Data latih yang bias dapat memengaruhi hasil analisis.
5. Overreliance: Ketergantungan berlebihan terhadap keluaran AI tanpa pemeriksaan mandiri.
Risiko tersebut menjadi semakin relevan ketika AI digunakan untuk membantu penelitian hukum, meringkas berkas perkara, atau menyusun draf dokumen. Jawaban yang tersusun sistematis dan menggunakan bahasa hukum meyakinkan belum tentu memiliki dasar hukum yang benar.
Human in The Loop dan Tanggung Jawab Pribadi
Windy menekankan pentingnya verifikasi terhadap sumber primer, perlindungan data dan kerahasiaan informasi, serta penerapan prinsip Human in The Loop. Prinsip ini menempatkan manusia sebagai pihak yang tetap melakukan pemeriksaan dan pengambilan keputusan, sementara AI hanya sebagai alat bantu.
Materi tersebut turut menyinggung pedoman yudisial Inggris yang mengingatkan adanya risiko kesalahan AI, bias, dan kerahasiaan informasi. Pedoman itu juga menekankan tanggung jawab pribadi pejabat yudisial atas materi yang dihasilkan atas namanya.
Pada bagian penutup, Windy mengajak peserta mengajukan 5 pertanyaan wajib sebelum menggunakan AI:
1. Apakah penggunaannya diizinkan?
2. Apakah data dan kerahasiaan terlindungi?
3. Dapatkah sumber dan hasilnya diverifikasi?
4. Adakah bias, kesalahan, atau pengaruh berlebihan?
5. Apakah tanggung jawab dan keputusan tetap berada pada hakim?
Lima pertanyaan tersebut menjadi pengingat bahwa kemajuan teknologi tidak boleh menggeser prinsip dasar kekuasaan kehakiman. AI dapat membantu hakim bekerja lebih cepat dan efisien, tetapi tidak dapat mengambil alih tanggung jawab profesional maupun independensi hakim.
Pada akhirnya, semakin canggih teknologi yang digunakan, semakin besar pula tuntutan terhadap kecermatan manusia yang mengendalikannya. Teknologi boleh berkembang, tetapi kebenaran, keadilan, dan tanggung jawab atas putusan tetap tidak dapat diserahkan kepada algoritma.
(Red)
Dari Hallucination Hingga Fabricated Citation: Bahaya AI Bagi Peradilan dan Prinsip Human in The Loop
Pos terkait
Mahkamah Agung Pelajari AI: Bisa Ringkas Berkas Perkara, Tapi Tak Bisa Gantikan Putusan Hakim
Waspada Manipulasi Pasar Kripto: OJK Bisa Blokir Transaksi, Ancam Pidana 5 Tahun
Ketua PA Kuningan: Pencari Keadilan Datang Dalam Kondisi Cemas, Pelayanan Ramah Jadi Obat
Seleksi Cakim MA 2026 Diundur, Pengumuman Kelulusan Tetap 31 Desember
Opini: Pasal 50 Bukan Sekadar Pindah Rumah, Tapi Koreksi Sejarah Organisasi MA Sejak 2019
Mantan SesMA Sugiyanto: Jangan Hanya Wariskan Pekerjaan, Wariskan Sistem Yang Lebih Baik
