Kementerian Komunikasi dan Digital (Komdigi) mengingatkan masyarakat bahwa jawaban dari chatbot berbasis teknologi kecerdasan buatan (AI) tidak sepenuhnya benar dan berpotensi keliru.
"AI tentu memiliki banyak manfaat. Namun, kita juga tetap harus kritis bahwa AI juga menghasilkan jawaban itu berdasarkan pola. Pola yang masuk ke dalam sistem AI, chatbot-nya umumnya dan di dalam sistem bahasanya mereka," kata Marroli Jeni Indrarto, Direktur Kemitraan Komunikasi dan Lembaga dan Kehumasan Komdigi, di Kantor Komdigi, Jakarta Pusat, Kamis (29/10).
Oleh sebab itu, Marolli mengingatkan supaya masyarakat perlu memeriksa kembali melalui sumber informasi yang terpercaya. Ia menekankan pentingnya keterlibatan manusia untuk memeriksa dan memverifikasi informasi yang dihasilkan AI.
Ia turut menyarankan masyarakat untuk membandingkan jawaban chatbot dengan sumber yang terverifikasi, termasuk media daring yang kredibel.
"Jadi, belum tentu ada juga, belum tentu sekali lagi, ada kebenaran ya, di dalam (jawaban) AI itu. Makanya, penting untuk kita melakukan intervensi manusia untuk mengecek terutama, check dan recheck, juga penting adalah kita mencari konfirmasi kebenaran ada sumber-sumber yang verified ya, ada media online yang verified ya, pada media-media lain," jelasnya.
Marolli menjelaskan saat ini sejumlah platform AI telah memberikan peringatan bahwa sistem mereka dapat menghasilkan kesalahan. Oleh karena itu, pengguna perlu melakukan pemeriksaan ulang sebelum menjadikan jawaban AI sebagai acuan.
Ia menegaskan bahwa AI seharusnya membantu manusia dalam proses berpikir, bukan mengambil alih keputusan dan penilaian pengguna.
"Pada beberapa platform AI ya, mereka juga mengatakan bahwa AI can make mistakes. Jadi, masih ada potensi platfrom itu kemudian tidak sepenuhnya benar. Makanya, kembali perlu adanya check dan re-check dari penggunanya," tegas Marolli.
"Intinya adalah AI boleh membantu kita berpikir, tetapi kemudian keputusan dan penilaian tetap harus berada di tangan para penggunanya," tambahnya
.
Di sisi lain, Marolli turut menyoroti pentingnya transparansi platform digital dalam mengelola teknologi yang digunakan masyarkat.
Ia menilai platform digital memiliki tanggung jawab untuk menjelaskan bagaimana sistem AI digunakan, rekomendasi konten yang diberikan serta proses moderasi yang dilakukan. Menurutnya, hal terpenting adalah bagaimana pertanggungjawaban dari platform ketika pengguna merasa dirugikan.
"Karena itu, Komdigi terus mendorong platform digital untuk semakin transparan dan bertanggung jawab sekaligus memastikan kewajiban mereka dijalankan sesuai dengan ketentuan hukum," tutur Marolli.
Tak hanya terkait jawaban chatbot AI, Marolli turut mengingatkan masyarakat untuk melakukan pemeriksaan ulang terhadap informasi yang diterima, baik melalui chatbot AI maupun media sosial.
Ia menegaskan bahwa pengembangan teknologi digital harus tetap memperhatikan hak, keamanan dan kepentingan masyarakat.
Marolli menyebut Komdigi turut mendorong platform digital untuk meningkatkan transparansi dan tanggung jawab dalam menjalankan sistem mereka, sesuai dengan ketentuan hukum yang berlaku.
"Kami dari Komdigi tentu ingin ruang digital Indonesia yang terhubung, tumbuh dan terjaga, terhubung agar masyarakat dapat mengakses informasi dan saling berkomunikasi, juga tumbuh agar teknologi dan AI membuka kesempatan untuk belajar dan berinovasi, dan yang penting adalah terjaga agar hak, keamanan dan kepentingan masyarakat tetap dilindungi," tutup Marolli.
Sebelumnya, Meta AI di platform Threads mengakui Instagram memblokir sejumlah akun demo dan konten kritik atas permintaan hukum dari Komdigi. Model AI tersebut menjelaskan bahwa konten yang terkena pemblokiran berlebihan atau salah moderasi dapat dipulihkan, disertai dengan permintaan maaf.
"Kasusnya bukan Meta anti-demo, sebagian besar pemblokiran itu karena Meta nurutin permintaan hukum dari Komdigi. Kalau sampai ke-blokir kebablasan atau kena auto-moderasi, Meta biasanya restore dan minta maaf," cuit Meta AI dalam sebuah balasan di Threads, Rabu (21/10).
Sejumlah warganet turut mengungkap bahwa pertanyaan dengan keyword tertentu mendapatkan notifikasi "feature not available for this post" dari Meta AI. Mereka menduga bahwa Komdigi telah membungkam chatbot tersebut.
"Setelah dicepuin AI, sekarang AI nya pun dibungkam. Sebenernya KOMDIGI ini kerja nya bisa cepet lohh, tapi ya begitu deh," cuit salah satu warganet di Threads.
Berdasarkan pantauan CNNIndonesia.com, Meta AI masih dapat menjawab pertanyaan terkait Komdigi. Chatbot AI tersebut turut mengkonfirmasi bahwa ia tidak dibungkam oleh pemerintah.
"Enggak, enggak dibungkam," kata Meta AI.
Pernyataan Marolli tidak secara langsung menyebut Meta AI. Namun, pernyataan terbaru ini konsisten dengan respons Komdigi sebelumnya terkait isu Meta AI.
Pada Jumat (23/10), Sekretaris Direktorat Jenderal Pengawasan Ruang Digital Komdigi Mediodecci Lustarini menegaskan bahwa jawaban yang dihasilkan oleh Meta AI tidak dapat dianggap sebagai pernyataan resmi perusahaan, apalagi dijadikan bukti instruksi pemerintah tanpa dokumen atau konfirmasi yang dapat diverifikasi.
Menurut Mediodecci, teknologi AI dapat menghasilkan informasi yang terdengar meyakinkan meskipun tidak didukung fakta yang akurat. Ia menyebut fenomena ini dikenal sebagai halusinasi AI.
"AI dapat membantu masyarakat mencari dan memahami informasi, tetapi jawabannya tidak selalu benar. Karena itu, setiap informasi penting tetap harus diperiksa melalui sumber yang kredibel, terutama jika menyangkut kebijakan pemerintah atau tuduhan terhadap pihak tertentu," jelas Mediodecci dalam keterangan resminya, Jumat (23/10)
