Pakar UGM: AI Bisa Halu, Anak SD Belum Bisa Cek Sendiri

AI bisa menjawab dengan percaya diri, tapi jawabannya belum tentu benar. Itu inti peringatan Dedy Permadi, dosen Hubungan Internasional Universitas Gadjah Mada (UGM), soal rencana mengenalkan AI langsung ke anak sekolah dasar (SD). Menurut Dedy, AI berbasis model bahasa besar (LLM) cenderung mengalami halusinasi, yaitu menghasilkan informasi yang keliru atau palsu, sementara anak SD dinilai belum cukup punya bekal untuk memeriksa kebenaran hasil tersebut. Karena itu, ia meminta rencana pengenalan AI ke anak SD ditinjau dulu, sebelum diterapkan langsung ke anak-anak. Dedy menyampaikan pandangan itu dalam lokakarya Indonesian Next Generation Journalist Network on Korea di Jakarta, Jumat, 30 Oktober 2026. Buat orang tua dan guru, pesannya bukan soal menolak AI sama sekali, tapi soal urutan yang benar: pendampingan dan literasi dulu, baru anak dilepas memakai AI.

Latar belakang

Rencana memasukkan pembelajaran AI ke kurikulum generasi muda, termasuk siswa SD, diperkenalkan pemerintah Indonesia pada 2024. Saat itu Dedy sudah meminta rencana tersebut ditinjau sebelum AI dikenalkan langsung kepada anak-anak. Kekhawatirannya bukan pada teknologinya saja, melainkan pada kesiapan anak untuk memakai teknologi itu dengan aman. Anak SD masih belajar membedakan informasi yang benar dan yang keliru, dan jawaban AI sering tampil rapi, lancar, dan meyakinkan, sehingga mudah diterima begitu saja. Tanpa pendampingan dan bekal literasi yang memadai, anak bisa menganggap jawaban AI selalu benar, padahal hasil AI tetap perlu diperiksa manusia.

Dedy juga membedakan dua hal yang sering dicampuradukkan. Pertama, AI untuk pendidikan, yaitu memakai AI untuk mendukung proses belajar. Contoh yang ia sebut antara lain aplikasi yang membantu siswa dengan disabilitas memahami materi, dan sistem belajar yang disesuaikan dengan kemampuan tiap siswa. Menurut Dedy, pemanfaatan semacam ini justru bisa dipakai untuk meningkatkan kualitas pendidikan. Pembelajaran AI yang dipersonalisasi juga disebut bisa membantu mengatasi keterbatasan kapasitas dan keterampilan guru, karena guru jadi lebih mudah menyesuaikan metode belajar dengan kebutuhan tiap siswa. Kedua, pendidikan AI, yaitu mengajarkan AI kepada siswa. Bagian kedua inilah yang menurut Dedy perlu mendapat perhatian dan ditinjau, terutama bila sasarannya anak SD yang belum punya bekal verifikasi yang cukup.

Detail utama

Soal halusinasi, Dedy menjelaskan bahwa LLM cenderung mengalami halusinasi dan algoritmanya bisa menghasilkan berita dan informasi palsu. Pertanyaan kuncinya, menurut dia, adalah siapa yang memeriksa hasil tersebut. Dalam prinsip AI yang berpusat pada manusia, hasil yang dibuat AI harus diperiksa manusia, dan anak-anak belum punya bekal yang cukup untuk melakukan pemeriksaan itu. Artinya, risiko bukan cuma jawaban yang salah, tapi jawaban salah yang dipercaya karena tidak ada yang mengeceknya. Dedy menyorot penggunaan aplikasi seperti ChatGPT, Copilot, dan Gemini tanpa pendampingan serta bekal literasi yang memadai, dan menilai pemakaian seperti itu berisiko mengganggu perkembangan anak.

Dedy juga mengaitkan penggunaan AI dan paparan layar yang berlebihan dengan potensi dampak negatif bagi anak muda. Ia menyampaikan kekhawatiran soal menurunnya kemampuan kognitif anak, dan menyebut istilah cognitive death saat menjelaskan risiko tersebut. Dalam pemberitaan ini, hal itu disampaikan sebagai kekhawatiran yang diangkat Dedy, bukan sebagai ukuran atau angka yang sudah ditetapkan. Yang jelas dari penekanannya adalah pola yang sama: anak memakai teknologi yang jawabannya cepat dan gampang, tanpa proses memeriksa, dan tanpa orang dewasa yang mendampingi proses itu. Di sinilah pendampingan menjadi pembeda, karena orang dewasa bisa membantu anak bertanya balik, membandingkan sumber, dan memutuskan mana yang bisa dipercaya.

Apa yang bisa langsung dicoba

Dari penekanan Dedy soal pendampingan dan literasi, tiga langkah ini bisa langsung dipakai di rumah saat anak memakai AI. Pertama, dampingi anak dan jangan lepas anak memakai ChatGPT, Copilot, atau Gemini sendirian, terutama untuk tugas sekolah. Kedua, cek bareng jawaban AI sebelum dipercaya: baca hasilnya bersama, tanyakan apakah isinya masuk akal, dan cocokkan dengan buku, materi guru, atau sumber lain yang sudah dikenal. Ketiga, biasakan manusia yang memegang keputusan akhir: jawaban AI boleh jadi bahan awal, tapi kesimpulan dan keputusan tetap ditentukan manusia setelah dicek. Tiga langkah ini tidak mengubah fitur AI apa pun, tapi mengubah cara anak memakai AI, dari menerima jawaban mentah menjadi memeriksa jawaban bersama orang dewasa.

Contoh Jepang dan apa selanjutnya

Sebagai pembanding, Dedy bercerita soal pengamatannya di Jepang, yang ia kunjungi satu tahun setelah inisiatif pengenalan AI di Indonesia. Menurut pengamatannya, Jepang baru mengenalkan AI kepada siswa SMA, dengan bimbingan dan pendampingan guru. Penggunaan AI di sekolah juga dibatasi lewat perangkat khusus yang disediakan sekolah, memakai platform dengan akses terbatas sehingga siswa hanya bisa mengakses sejumlah kanal yang sudah ditentukan. Jepang juga punya kelas khusus dan kurikulum khusus bagi siswa dengan kemampuan atau bakat khusus di bidang AI, sehingga pengenalan AI bisa disesuaikan untuk siswa yang lebih mampu, sementara penggunaan umum oleh anak tetap dibatasi. Secara umum, kata Dedy, mereka melindungi anak-anak dari penggunaan AI.

Prinsip yang Dedy tekankan untuk semua pemakaian AI adalah human-centered AI, yaitu AI yang berpusat pada manusia. Manusia harus tetap terlibat di setiap tahap pengembangan dan pemakaian AI, termasuk mengawasi hasil dan keputusan yang dibuat AI. AI tidak boleh dibiarkan mengambil keputusan sendiri tanpa pengawasan manusia, karena tanggung jawab atas kesalahan dari pemakaian teknologi tetap berada di tangan manusia. Dedy menegaskan, manusia harus memegang kendali penuh atas keputusan. Artikel sumber tidak menyebut keputusan atau tanggal baru soal rencana kurikulum AI untuk anak SD, jadi langkah berikutnya yang tercatat dalam pemberitaan ini adalah peninjauan yang diminta Dedy, bukan jadwal penerapan yang baru. Buat orang tua dan guru, sikap paling aman untuk sekarang adalah mengikuti urutan yang Dedy tekankan: dampingi, bekali literasi, cek bareng, dan jangan jadikan jawaban AI sebagai keputusan akhir tanpa diperiksa.

Sumber: CNN Indonesia, https://s.peka.ai.id/27g9sx