Materi 1Materi 2Materi 3
Materi 4Materi 5

AI Bias & Hallucination: When Machines Reflect and Imagine

Materi 3

AI bukanlah netral sepenuhnya. Teknologi ini dapat "mewarisi" prasangka manusia (bias) dan bahkan "mengarang" fakta (halusinasi). Kedua fenomena ini membawa risiko serius dalam dunia nyata, dari rekutmen kerja hingga layanan kesehatan.

Apa itu Bias AI? AI bisa memperkuat prasangka yang ada dalam data, algoritma, atau bahkan dari pembuatnya.

Sumber utama bias:

  1. Data Bias, data historis yang tidak seimbang melahirkan diskriminasi.

  2. Algorithmic Bias, aturan algoritma yang tampak netral, tapi diskriminatif.

  3. Human Bias, prasangka tim pengembang ikut tercermin di sistem.

Contoh nyata: rekrutmen Amazon bias terhadap wanita, algoritma COMPAS diskrimiatif terhadap ras kulit hitam, algoritma kesehatan meremehkan pasien kulit hitam, Apple Card dituding bias gender dalam kredit.

Apa itu Halusinasi AI? Model AI bisa menghasilkan jawaban yang terdengar meyakinkan tapi sepenuhnya salah.

Penyebab utama:

  1. Prediksi probabilistik kata (LLM tidak "mengerti", hanya menebak).
  2. Tidak "grounded" pada realitas.
  3. Data pelatihan terbatas atau cacat.
  4. Overfitting → hafal data, gagal di kasus baru.

Contoh nyata: Pengacara di New York dihukum karena pakai kasus palsu dari ChatGPT, Google Bard salah info tentang teleskop James Webb, dan ChatGPT memberi saran medis berbahaya (bromida).