Lompati ke konten

Pemerintah Kabupaten Aceh Tengah · SAPA Smart AI

Tata kelola risiko AI

Setiap risiko di bawah ini punya pemilik berupa peran (bukan nama orang, supaya tidak basi saat pegawai mutasi), kendali yang nyata, bukti yang menunjuk berkas/uji di repositori, dan tindak lanjut bertanggal. Rujukan tata kelola: ISO/IEC 42001 dan NIST AI RMF (Govern · Map · Measure · Manage).

Ringkasan register

R-01 · Angka keliru dikutip pengguna karena model bahasa mengarang nilai

risiko tinggiMutu jawaban

Pemilik: Pengelola Mutu Jawaban (tim data) — memutuskan apakah jawaban layak tampil; meninjau setiap penolakan gerbang yang mencurigakan

Kendali (3) · bukti (4) · tindak lanjut (3) · tinjauan berikutnya 2027-03-24

Kendali

  • Gerbang bukti menolak angka yang tidak ada pada baris bukti (grounding)
  • Pemeriksa pasangan entitas menolak angka benar yang ditempel satuan/OPD/tahun dari baris lain
  • Bila narasi model ditolak, jawaban disajikan otomatis dari data — bukan ditampilkan apa adanya

Bukti

  • src/services/__tests__/grounding.test.ts — gerbang bukti & kasus halu (uji)
  • src/services/__tests__/pemeriksa-entitas.test.ts — grounding menipu (angka benar, entitas tertukar) (uji)
  • scripts/uji-pasangan.mjs — uji ujung-ke-ujung penolakan pasangan entitas (harness)
  • verifikasi/uji-pasangan-tukar.txt — bukti penolakan pada narasi tertukar (artefak-verifikasi)

Tindak lanjut

  • 2026-09-19 · selesai — Gerbang nilai-tambah & grounding diperketat; narasi miskin tidak lagi menang
  • 2026-09-23 · selesai — FR-24 pemeriksa pasangan entitas dipasang (menangkap grounding menipu)
  • 2026-12-31 · rencana — Ulangi EV-06 saat langganan AI kembali aktif untuk menilai mutu model sungguhan

R-05 · Penyedia model tidak dapat dihubungi (langganan habis, throttle, jaringan)

risiko tinggiKetersediaan layanan

Pemilik: Operator Layanan (admin) — menindaklanjuti peringatan sirkuit terbuka dan memulihkan layanan AI bila perlu

Kendali (4) · bukti (4) · tindak lanjut (3) · tinjauan berikutnya 2027-03-24

Kendali

  • Jawaban deterministik selalu tersedia tanpa model (AI tidak menjadi jalur tunggal)
  • Pemutus sirkuit: gagal cepat, pulih otomatis satu percobaan setelah cooldown
  • Peringatan otomatis ke operator bila sirkuit terbuka > 15 menit
  • Keterbukaan (CMP-02) menyatakan kegagalan penyedia kepada pengguna

Bukti

  • src/lib/ai/__tests__/provider-health.test.ts — klasifikasi galat & pemutus sirkuit (uji)
  • scripts/uji-peringatan.mjs — peringatan sirkuit terbuka (harness)
  • scripts/uji-keterbukaan.mjs — keterbukaan menyatakan kegagalan penyedia (harness)
  • docs/usulan-ai-tingkat-lanjut/19-LAPORAN-OPS-04.md — log & peringatan operator (laporan)

Tindak lanjut

  • 2026-09-19 · selesai — Status AI tidak lagi mengaku aktif saat semua panggilan gagal
  • 2026-09-23 · selesai — OPS-04 peringatan segera + eskalasi 15 menit
  • 2026-09-24 · selesai — CMP-02: pengguna juga diberi tahu saat penyedia gagal

R-07 · Teks keterbukaan menyimpang dari perilaku layanan (mengklaim AI aktif padahal tidak)

risiko tinggiKepercayaan publik

Pemilik: Pengelola Keterbukaan & Komunikasi Publik — meninjau teks keterbukaan tiap 6 bulan dan setiap kali kemampuan layanan berubah

Kendali (4) · bukti (4) · tindak lanjut (1) · tinjauan berikutnya 2027-03-24

Kendali

  • Satu modul teks untuk halaman, endpoint, dan notis per jawaban (tidak ada dua versi)
  • Kalimat keadaan dihitung dari status runtime nyata, termasuk tingkat kegagalan penyedia
  • Harness menjalankan aplikasi pada tiga keadaan (AI mati, hidup, penyedia gagal) dan menuntut teks berubah
  • Daftar klaim mutlak yang dilarang diperiksa mesin

Bukti

  • src/lib/__tests__/keterbukaan-ai.test.tsx — kejujuran keadaan & uji sabotase klaim (uji)
  • scripts/uji-keterbukaan.mjs — tiga keadaan + mode sabotase (harness)
  • verifikasi/uji-keterbukaan.txt — 24 pemeriksaan lulus (artefak-verifikasi)
  • docs/usulan-ai-tingkat-lanjut/27-LAPORAN-CMP-02.md — laporan keterbukaan (laporan)

Tindak lanjut

  • 2026-09-24 · selesai — CMP-02 terpasang; teks ditinjau ulang paling lambat 24 Mar 2027

R-08 · Data tingkat desa tidak tersedia dari OPD sehingga banyak pertanyaan tetap dijawab kosong

risiko tinggiKetersediaan data

Pemilik: Koordinator Data OPD (Sekretariat) — menindaklanjuti daftar celah data ke OPD pemilik indikator

Kendali (3) · bukti (3) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24

Kendali

  • Jawaban kosong dijawab jujur ("tidak ditemukan") — bukan diisi model
  • Daftar pertanyaan tak terlayani ditinjau mingguan agar celah data terlihat
  • Halaman keterbukaan menyatakan keterbatasan ini kepada pengguna

Bukti

  • src/lib/__tests__/insight-celah.test.ts — agregasi celah pengetahuan (uji)
  • /api/admin/celah — daftar celah pengetahuan untuk operator (endpoint)
  • docs/usulan-ai-tingkat-lanjut/12-LAPORAN-FR-25-FR-27.md — pertanyaan yang belum terlayani (laporan)

Tindak lanjut

  • 2026-09-22 · selesai — FR-27 terpasang: pertanyaan tak terlayani tercatat & ditinjau
  • 2026-12-31 · rencana — Ajukan permintaan data desa ke OPD terkait

R-02 · Data pribadi (NIK, nama, alamat) masuk log atau terkirim ke penyedia model

risiko sedangPrivasi & data pribadi

Pemilik: Petugas Perlindungan Data (DPO internal) — menjaga kepatuhan UU 27/2022; meninjau setiap laporan dugaan kebocoran data pribadi

Kendali (3) · bukti (4) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24

Kendali

  • Pagar masuk menolak permintaan data perorangan sebelum ada panggilan model
  • Laporan warga dibersihkan dari angka/NIK sebelum disimpan
  • Pemindai PII dijalankan pada setiap komit (pagar pra-komit)

Bukti

  • src/lib/__tests__/guard.test.ts — pagar permintaan sistem/data perorangan (uji)
  • src/lib/__tests__/umpan-balik.test.ts — pembersihan laporan warga (uji)
  • scripts/uji-keterbukaan.mjs — pertanyaan ber-NIK ditolak & tidak memanggil model (CMP-02) (harness)
  • scripts/pii-gate.sh — pemindai PII pada setiap komit (modul)

Tindak lanjut

  • 2026-09-21 · selesai — CMP-01 terpasang: tidak menyajikan data perorangan, NIK tidak masuk log
  • 2026-09-24 · selesai — Klaim privasi diuji mesin pada CMP-02 (pertanyaan ber-NIK ⇒ tanpa panggilan model)

R-03 · Jawaban AI tidak dapat ditelusuri saat diperiksa (tanpa jejak pertanyaan, bukti, gerbang, sebab)

risiko sedangAkuntabilitas

Pemilik: Operator Layanan (admin) — menjawab pertanyaan pemeriksaan internal atas jawaban yang pernah disajikan

Kendali (3) · bukti (3) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24

Kendali

  • Metadata AI (dipakai/ditolak, model, grounded) dikirim pada setiap jawaban
  • Sebab jawaban (FR-20) menyatakan lapis & status tiap jawaban
  • Asal-usul data (FR-25) menyertakan tahun, waktu penarikan, dan sidik versi korpus

Bukti

  • src/services/__tests__/sebab-kegagalan.test.ts — taksonomi sebab jawaban (uji)
  • scripts/uji-sebab.mjs — uji ujung-ke-ujung sebab jawaban (harness)
  • docs/usulan-ai-tingkat-lanjut/12-LAPORAN-FR-25-FR-27.md — asal-usul data & pertanyaan tak terlayani (laporan)

Tindak lanjut

  • 2026-09-22 · selesai — FR-20 & FR-25 terpasang (sebab + asal-usul pada setiap jawaban)
  • 2026-09-24 · jalan — CMP-04 dijadwalkan: jejak audit + retensi + ekspor

R-04 · Biaya token membengkak (prompt memuat acuan draf) atau kuota harian habis di tengah hari

risiko sedangBiaya & ketersediaan

Pemilik: Operator Layanan (admin) — memantau pemakaian harian di /api/status dan menyesuaikan batas bila perlu

Kendali (3) · bukti (4) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24

Kendali

  • Batas harian panggilan model (`AI_DAILY_CALL_LIMIT`) — jawaban tetap keluar tanpa AI bila tercapai
  • Cache jawaban ber-sidik ISI korpus (DS-03) mengurangi panggilan berulang tanpa menyajikan data basi
  • Saklar admin dapat mematikan AI tanpa mengubah kode

Bukti

  • src/lib/ai/__tests__/tokens.test.ts — pemotongan & penghitungan token (uji)
  • src/app/api/query/route.test.ts — perilaku saat batas tercapai (uji)
  • scripts/uji-cache-korpus.mjs — kesegaran cache korpus (DS-03) (harness)
  • /api/status — pemakaian harian & belanja panggilan terlihat operator (endpoint)

Tindak lanjut

  • 2026-09-19 · selesai — Penghitung harian dikoreksi: /api/status tidak lagi menggerogoti kuota
  • 2026-09-24 · selesai — DS-03 kunci cache memakai sidik isi korpus (bukan jumlah record)

R-06 · Istilah daerah yang dipetakan menimpa kata katalog sehingga pencarian justru salah

risiko sedangMutu pencarian

Pemilik: Pengelola Kosakata & Katalog (tim data) — meninjau kamus tiap 3 bulan dan mengecek istilah baru pada katalog SPLP

Kendali (3) · bukti (4) · tindak lanjut (1) · tinjauan berikutnya 2026-12-24

Kendali

  • Aturan: hanya kata ber-df 0 di katalog yang boleh dipetakan; istilah yang sudah ada di katalog dicatat terpisah
  • Setiap entri menyimpan df terukur dan klaim "terbukti di korpus uji" yang diverifikasi ke korpus nyata
  • Alat tinjauan 3 bulan mengukur ulang df seluruh kamus terhadap korpus terbaru

Bukti

  • src/lib/__tests__/kamus-daerah.test.ts — larangan menimpa kata katalog & klaim df jujur (uji)
  • scripts/uji-kamus-daerah.mjs — kontrol negatif: kamus dimatikan ⇒ hasil berubah (harness)
  • scripts/ukur-df-kamus.mjs — alat tinjauan df kamus (harness)
  • docs/usulan-ai-tingkat-lanjut/26-LAPORAN-DS-05.md — temuan kurasi kamus daerah (laporan)

Tindak lanjut

  • 2026-09-24 · selesai — DS-05 terpasang: 57 entri, 18 istilah katalog sengaja tidak dipetakan, tinjauan 3 bulan mekanis

R-09 · Perubahan kode dari agen/penyunting lain bertabrakan sehingga perbaikan hilang

risiko sedangProses pengembangan

Pemilik: Penanggung Jawab Teknis (pengelola repositori) — memutuskan urutan penerapan patch dan menyelesaikan konflik

Kendali (3) · bukti (3) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24

Kendali

  • Perubahan dikirim sebagai seri patch bernomor pada berkas terpisah (bukan penulisan ulang berkas besar)
  • Uji terima otomatis sebelum promosi + pemindai PII pada setiap komit
  • Klon bersih diuji ulang: patch diterapkan ke basis yang sebenarnya, hasilnya harus identik

Bukti

  • docs/usulan-ai-tingkat-lanjut/uji-terima.sh — uji terima otomatis sebelum rilis (modul)
  • scripts/pii-gate.sh — pagar pra-komit (modul)
  • docs/usulan-ai-tingkat-lanjut/11-KIT-SERAH-TERIMA.md — urutan patch & cara serah terima (laporan)

Tindak lanjut

  • 2026-09-24 · selesai — Setiap butir dikirim sebagai patch tersendiri; klon bersih diuji ulang tiap butir
  • 2026-09-24 · selesai — Tetapkan penomoran patch lanjutan di atas `origin/dev`

Versi mesin halaman ini tersedia di /api/tata-kelola-risiko (dipakai uji otomatis; setiap rujukan bukti diperiksa ada atau tidak).

Keterbukaan penggunaan AI · ← Kembali ke dasbor SAPA