AI Bukan Mesin Kebenaran : Memahami Mengapa Kita Tidak Boleh Langsung Mempercayai Jawaban AI

Saat ini Artificial Intelligence atau AI semakin banyak digunakan dalam kehidupan sehari-hari. Kita dapat bertanya kepada AI tentang sejarah, teknologi, pendidikan, kesehatan, pekerjaan, bahkan meminta AI membuat tulisan atau program komputer.

Karena jawabannya cepat, rapi, dan terdengar cerdas, banyak orang kemudian menganggap bahwa apa yang dikatakan AI pasti benar.

Anggapan tersebut perlu diluruskan.

AI, khususnya Large Language Model (LLM), bukanlah mesin yang memiliki kemampuan untuk mengetahui kebenaran seperti manusia membayangkan sebuah "ensiklopedia hidup". LLM bekerja dengan mempelajari pola dari data dalam jumlah sangat besar dan kemudian menggunakan pola tersebut untuk memprediksi token atau bagian teks berikutnya yang paling sesuai dengan konteks pertanyaan.

Dengan memahami hal ini, masyarakat dapat menggunakan AI secara lebih bijaksana.

1. Dari Mana AI Mendapatkan Pengetahuannya?

Sebelum dapat digunakan, sebuah LLM menjalani proses yang disebut training atau pelatihan.

Dalam proses tersebut, model dapat mempelajari pola dari berbagai jenis data, tergantung pada dataset dan proses pelatihan yang digunakan oleh pembuat model. Data tersebut dapat berupa buku, artikel, dokumen, kode program, ensiklopedia, dan berbagai teks lainnya.

Misalnya dalam data pelatihan terdapat banyak informasi tentang sejarah Indonesia:

Indonesia memproklamasikan kemerdekaan pada 17 Agustus 1945.

Model tidak sekadar menyimpan kalimat tersebut seperti manusia menyimpan sebuah dokumen PDF.

Model melakukan proses pembelajaran menggunakan jaringan neural dan menghasilkan sejumlah besar parameter berupa angka-angka yang digunakan untuk merepresentasikan pola hubungan yang dipelajarinya.

Secara sederhana:

Data  ↓ Training  ↓ Neural Network  ↓ Parameter  ↓ Model LLM

Parameter tersebut kemudian digunakan ketika model menerima pertanyaan.

2. Lalu Apa yang Dilakukan AI Ketika Kita Bertanya?

Ketika seseorang bertanya:

"Kapan Indonesia merdeka?"

Pertanyaan tersebut diubah menjadi token.

Kemudian token diproses oleh neural network menggunakan parameter yang telah dipelajari.

Secara sederhana:

Pertanyaan    ↓ Tokenisasi    ↓ Neural Network    ↓ Parameter    ↓ Perhitungan probabilitas    ↓ Prediksi token    ↓ Jawaban

Model kemudian menghasilkan token-token berikutnya sampai terbentuk sebuah jawaban.

Inilah salah satu alasan mengapa LLM sering disebut sebagai mesin prediksi bahasa.

3. Apakah AI Benar-Benar "Tahu"?

Ini adalah pertanyaan yang sangat penting.

Ketika AI menjawab:

"Indonesia merdeka pada 17 Agustus 1945."

kita sebagai manusia dapat mengatakan bahwa jawaban tersebut benar berdasarkan sumber sejarah.

Tetapi mekanisme internal LLM bukanlah seperti seseorang membuka buku sejarah lalu memeriksa halaman tertentu.

Model menggunakan pola yang telah dipelajarinya untuk menghasilkan prediksi.

Oleh karena itu:

Kemampuan menghasilkan jawaban tidak sama dengan kemampuan menjamin kebenaran jawaban.

Ini adalah konsep yang harus dipahami oleh masyarakat ketika menggunakan AI.

4. Mengapa Jawaban AI Terlihat Sangat Meyakinkan?

Inilah salah satu alasan masyarakat sering mempercayai AI.

AI dapat menghasilkan tulisan yang:

• rapi,
• cepat,
• sistematis,
• menggunakan bahasa profesional,
• menggunakan istilah teknis,
• memiliki penjelasan panjang,
• dan terdengar sangat percaya diri.

Manusia kemudian secara alami dapat berpikir:

"Kalau jawabannya sedetail ini, pasti benar."

Padahal belum tentu.

AI dapat menghasilkan kalimat yang terlihat benar, tetapi tetap mengandung kesalahan.

Dengan kata lain:

Bahasa yang meyakinkan bukan bukti bahwa informasi tersebut benar.

5. AI Bisa Salah Tetapi Tetap Terlihat Yakin

Bayangkan seseorang bertanya:

"Siapa penemu teknologi ABC pada tahun 1920?"

Jika pertanyaan tersebut memiliki premis yang salah, model tetap dapat mencoba memberikan jawaban.

Misalnya AI menghasilkan nama seseorang dan menjelaskan sejarah penemuannya dengan sangat rinci.

Bagi orang awam, jawaban tersebut mungkin terlihat seperti fakta.

Padahal bisa saja:

tokohnya tidak pernah ada,

penemuannya tidak pernah terjadi,

tahunnya salah,

atau sumbernya tidak pernah ada.

Kesalahan semacam ini sering disebut halusinasi AI.

Masalahnya bukan hanya AI bisa salah.

Masalah yang lebih berbahaya adalah:

AI dapat menyampaikan kesalahan dengan bahasa yang sangat meyakinkan.

6. Mengapa Masyarakat Mudah Mempercayai AI?

Ada beberapa alasan.

• Pertama, AI memberikan jawaban dalam hitungan detik.
• Kedua, bahasa AI terlihat profesional.
• Ketiga, manusia cenderung mempercayai teknologi yang terlihat canggih.
• Keempat, banyak orang belum memahami bagaimana LLM bekerja.
• Kelima, AI sering benar pada pertanyaan umum sehingga pengguna kemudian menganggap bahwa semua jawabannya pasti benar.

Padahal kemampuan AI sangat bergantung pada konteks, data yang tersedia, kualitas model, dan cara pertanyaan diberikan.

7. AI Bukan Mesin Pencari Kebenaran

Perbedaan ini sangat penting.

• Mesin pencari dapat membantu kita menemukan sumber.
• Database dapat menyimpan catatan.
• Buku dapat menjadi referensi.
• Dokumen resmi dapat menjadi bukti.

Sedangkan LLM terutama dirancang untuk memahami dan menghasilkan bahasa berdasarkan pola yang dipelajarinya.

Karena itu, ketika informasi sangat penting, jangan berhenti pada jawaban AI.

Gunakan AI sebagai pintu awal untuk memahami suatu persoalan, kemudian periksa sumber yang dapat dipercaya.

8. Bagaimana Seharusnya Kita Menggunakan AI?

Gunakan AI sebagai:

Asisten, bukan hakim.

Pembantu berpikir, bukan sumber kebenaran mutlak.

Alat untuk menjelaskan, bukan pengganti sumber resmi.

Alat untuk mencari kemungkinan, bukan pengganti verifikasi.

Contohnya:

AI memberikan jawaban        

↓

Apakah informasi penting?        

↓      

YA        

↓

Cari sumber terpercaya        

↓

Bandingkan informasi        

↓

Verifikasi        

↓

Ambil kesimpulan

Untuk informasi sederhana yang risikonya rendah, proses verifikasi mungkin cukup ringan.

Tetapi untuk kesehatan, hukum, keamanan, keuangan, penelitian, dan keputusan penting lainnya, verifikasi harus dilakukan lebih serius.

9. Bagaimana Dengan Data Sejarah?

Data sejarah adalah contoh yang sangat menarik.

LLM dapat mempelajari banyak informasi sejarah dari data yang digunakan dalam proses training.

Namun model tidak otomatis memiliki seluruh sejarah manusia.

• Ada sejarah yang terdokumentasi dengan sangat baik.
• Ada pula sejarah yang hanya memiliki sedikit dokumen.
• Ada informasi yang berbeda antara satu sumber dengan sumber lainnya.
• Ada pula informasi yang mungkin tidak terdapat dalam data pelatihan model.
• Karena itu, untuk penelitian sejarah, sumber primer dan sumber akademik tetap sangat penting.
• AI dapat membantu menjelaskan sejarah.

Tetapi AI tidak boleh menggantikan arsip dan sumber sejarah.

10. Apakah AI Sedang Memprediksi Masa Depan?

Istilah "prediksi" sering disalahpahami.

Ketika kita mengatakan LLM melakukan prediksi, bukan berarti AI sedang melihat masa depan.

Yang dimaksud adalah prediksi token berikutnya.

Misalnya:

"Indonesia merdeka pada tanggal ..."

Model memperkirakan token apa yang paling sesuai untuk melanjutkan kalimat tersebut.

Kemudian token berikutnya diprediksi lagi.

Proses tersebut berlangsung berulang:

Token 1  

↓

Prediksi Token 2  

↓

Prediksi Token 3  

↓

Prediksi Token 4  

↓

...  

↓

Jawaban

Jadi:

Prediksi pada LLM adalah prediksi terhadap keluaran bahasa, bukan ramalan masa depan.

11. Mengapa Pemahaman Ini Penting?

Tanpa pemahaman ini, masyarakat dapat menganggap AI sebagai sesuatu yang selalu mengetahui kebenaran.

Padahal AI dapat:

salah memahami pertanyaan,

menghasilkan fakta yang keliru,

mencampurkan beberapa informasi,

memberikan kesimpulan yang tidak tepat,

atau menghasilkan informasi yang terdengar benar tetapi tidak memiliki dasar yang kuat.

Semakin pintar AI berbicara, semakin penting kemampuan manusia untuk melakukan verifikasi.

Ini menghasilkan sebuah prinsip penting:

Semakin meyakinkan jawaban AI, semakin kita harus mampu membedakan antara bahasa yang meyakinkan dan fakta yang benar.

12. Literasi AI Bukan Berarti Takut Menggunakan AI

Memahami kelemahan AI bukan berarti kita harus takut menggunakan AI.

Justru sebaliknya.

Orang yang memahami cara kerja AI akan dapat menggunakannya dengan lebih efektif.

AI sangat berguna untuk:

• belajar,
• mencari ide,
• memahami konsep,
• membuat rangkuman,
• membantu pemrograman,
• menerjemahkan,
• membuat draft tulisan,
• menganalisis informasi,
• dan membantu pekerjaan sehari-hari.

Yang perlu diubah bukan penggunaan AI-nya, tetapi cara kita mempercayai hasilnya.

13. Prinsip Sederhana untuk Masyarakat

Ketika menggunakan AI, ingat lima prinsip berikut:

1. AI bisa benar

Jangan menganggap semua jawaban AI salah.

2. AI bisa salah

Jangan menganggap semua jawaban AI benar.

3. AI bisa terdengar yakin ketika salah

Jangan mengukur kebenaran berdasarkan gaya bahasa.

4. Informasi penting harus diverifikasi

Periksa sumber resmi, dokumen, jurnal, buku, atau sumber terpercaya.

5. Keputusan akhir tetap berada pada manusia

AI membantu manusia mengambil keputusan, tetapi manusia tetap bertanggung jawab terhadap keputusan tersebut.

Kesimpulan

AI LLM adalah salah satu teknologi paling kuat yang pernah dibuat manusia dalam bidang pengolahan bahasa.

Namun kecanggihan AI tidak berarti AI adalah mesin kebenaran.

LLM belajar dari data melalui proses training, membentuk parameter pada neural network, kemudian menggunakan parameter tersebut untuk memproses konteks dan menghasilkan prediksi token demi token.

Dari proses tersebut lahirlah jawaban yang dapat terlihat sangat cerdas.

Tetapi jawaban yang cerdas belum tentu jawaban yang benar.

Karena itu, masyarakat perlu memiliki literasi AI.

Jangan hanya belajar:

"Bagaimana cara menggunakan AI?"

Tetapi juga belajar:

"Bagaimana cara menilai jawaban AI?"

Dan prinsip yang paling sederhana untuk diingat adalah:

AI menghasilkan jawaban. Manusia memeriksa kebenarannya.

AI seharusnya tidak membuat manusia berhenti berpikir.

Sebaliknya, AI seharusnya membuat manusia lebih kritis, lebih cepat belajar, dan lebih mampu memverifikasi informasi.