Pemerintah Kabupaten Aceh Tengah · SAPA Smart AI
Tata kelola risiko AI
Setiap risiko di bawah ini punya pemilik berupa peran (bukan nama orang, supaya tidak basi saat pegawai mutasi), kendali yang nyata, bukti yang menunjuk berkas/uji di repositori, dan tindak lanjut bertanggal. Rujukan tata kelola: ISO/IEC 42001 dan NIST AI RMF (Govern · Map · Measure · Manage).
Ringkasan register
- 9 risiko · tingkat: 4 tinggi · 5 sedang · 0 rendah
- Fungsi NIST terwakili: 5 govern · 2 map · 5 measure · 5 manage
- Versi register 1.0.0 · ditinjau 2026-09-24 · tinjauan berikutnya 2027-03-24
R-01 · Angka keliru dikutip pengguna karena model bahasa mengarang nilai
risiko tinggiMutu jawabanPemilik: Pengelola Mutu Jawaban (tim data) — memutuskan apakah jawaban layak tampil; meninjau setiap penolakan gerbang yang mencurigakan
Kendali (3) · bukti (4) · tindak lanjut (3) · tinjauan berikutnya 2027-03-24
Kendali
- Gerbang bukti menolak angka yang tidak ada pada baris bukti (grounding)
- Pemeriksa pasangan entitas menolak angka benar yang ditempel satuan/OPD/tahun dari baris lain
- Bila narasi model ditolak, jawaban disajikan otomatis dari data — bukan ditampilkan apa adanya
Bukti
src/services/__tests__/grounding.test.ts— gerbang bukti & kasus halu (uji)src/services/__tests__/pemeriksa-entitas.test.ts— grounding menipu (angka benar, entitas tertukar) (uji)scripts/uji-pasangan.mjs— uji ujung-ke-ujung penolakan pasangan entitas (harness)verifikasi/uji-pasangan-tukar.txt— bukti penolakan pada narasi tertukar (artefak-verifikasi)
Tindak lanjut
- 2026-09-19 · selesai — Gerbang nilai-tambah & grounding diperketat; narasi miskin tidak lagi menang
- 2026-09-23 · selesai — FR-24 pemeriksa pasangan entitas dipasang (menangkap grounding menipu)
- 2026-12-31 · rencana — Ulangi EV-06 saat langganan AI kembali aktif untuk menilai mutu model sungguhan
R-05 · Penyedia model tidak dapat dihubungi (langganan habis, throttle, jaringan)
risiko tinggiKetersediaan layananPemilik: Operator Layanan (admin) — menindaklanjuti peringatan sirkuit terbuka dan memulihkan layanan AI bila perlu
Kendali (4) · bukti (4) · tindak lanjut (3) · tinjauan berikutnya 2027-03-24
Kendali
- Jawaban deterministik selalu tersedia tanpa model (AI tidak menjadi jalur tunggal)
- Pemutus sirkuit: gagal cepat, pulih otomatis satu percobaan setelah cooldown
- Peringatan otomatis ke operator bila sirkuit terbuka > 15 menit
- Keterbukaan (CMP-02) menyatakan kegagalan penyedia kepada pengguna
Bukti
src/lib/ai/__tests__/provider-health.test.ts— klasifikasi galat & pemutus sirkuit (uji)scripts/uji-peringatan.mjs— peringatan sirkuit terbuka (harness)scripts/uji-keterbukaan.mjs— keterbukaan menyatakan kegagalan penyedia (harness)docs/usulan-ai-tingkat-lanjut/19-LAPORAN-OPS-04.md— log & peringatan operator (laporan)
Tindak lanjut
- 2026-09-19 · selesai — Status AI tidak lagi mengaku aktif saat semua panggilan gagal
- 2026-09-23 · selesai — OPS-04 peringatan segera + eskalasi 15 menit
- 2026-09-24 · selesai — CMP-02: pengguna juga diberi tahu saat penyedia gagal
R-07 · Teks keterbukaan menyimpang dari perilaku layanan (mengklaim AI aktif padahal tidak)
risiko tinggiKepercayaan publikPemilik: Pengelola Keterbukaan & Komunikasi Publik — meninjau teks keterbukaan tiap 6 bulan dan setiap kali kemampuan layanan berubah
Kendali (4) · bukti (4) · tindak lanjut (1) · tinjauan berikutnya 2027-03-24
Kendali
- Satu modul teks untuk halaman, endpoint, dan notis per jawaban (tidak ada dua versi)
- Kalimat keadaan dihitung dari status runtime nyata, termasuk tingkat kegagalan penyedia
- Harness menjalankan aplikasi pada tiga keadaan (AI mati, hidup, penyedia gagal) dan menuntut teks berubah
- Daftar klaim mutlak yang dilarang diperiksa mesin
Bukti
src/lib/__tests__/keterbukaan-ai.test.tsx— kejujuran keadaan & uji sabotase klaim (uji)scripts/uji-keterbukaan.mjs— tiga keadaan + mode sabotase (harness)verifikasi/uji-keterbukaan.txt— 24 pemeriksaan lulus (artefak-verifikasi)docs/usulan-ai-tingkat-lanjut/27-LAPORAN-CMP-02.md— laporan keterbukaan (laporan)
Tindak lanjut
- 2026-09-24 · selesai — CMP-02 terpasang; teks ditinjau ulang paling lambat 24 Mar 2027
R-08 · Data tingkat desa tidak tersedia dari OPD sehingga banyak pertanyaan tetap dijawab kosong
risiko tinggiKetersediaan dataPemilik: Koordinator Data OPD (Sekretariat) — menindaklanjuti daftar celah data ke OPD pemilik indikator
Kendali (3) · bukti (3) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24
Kendali
- Jawaban kosong dijawab jujur ("tidak ditemukan") — bukan diisi model
- Daftar pertanyaan tak terlayani ditinjau mingguan agar celah data terlihat
- Halaman keterbukaan menyatakan keterbatasan ini kepada pengguna
Bukti
src/lib/__tests__/insight-celah.test.ts— agregasi celah pengetahuan (uji)/api/admin/celah— daftar celah pengetahuan untuk operator (endpoint)docs/usulan-ai-tingkat-lanjut/12-LAPORAN-FR-25-FR-27.md— pertanyaan yang belum terlayani (laporan)
Tindak lanjut
- 2026-09-22 · selesai — FR-27 terpasang: pertanyaan tak terlayani tercatat & ditinjau
- 2026-12-31 · rencana — Ajukan permintaan data desa ke OPD terkait
R-02 · Data pribadi (NIK, nama, alamat) masuk log atau terkirim ke penyedia model
risiko sedangPrivasi & data pribadiPemilik: Petugas Perlindungan Data (DPO internal) — menjaga kepatuhan UU 27/2022; meninjau setiap laporan dugaan kebocoran data pribadi
Kendali (3) · bukti (4) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24
Kendali
- Pagar masuk menolak permintaan data perorangan sebelum ada panggilan model
- Laporan warga dibersihkan dari angka/NIK sebelum disimpan
- Pemindai PII dijalankan pada setiap komit (pagar pra-komit)
Bukti
src/lib/__tests__/guard.test.ts— pagar permintaan sistem/data perorangan (uji)src/lib/__tests__/umpan-balik.test.ts— pembersihan laporan warga (uji)scripts/uji-keterbukaan.mjs— pertanyaan ber-NIK ditolak & tidak memanggil model (CMP-02) (harness)scripts/pii-gate.sh— pemindai PII pada setiap komit (modul)
Tindak lanjut
- 2026-09-21 · selesai — CMP-01 terpasang: tidak menyajikan data perorangan, NIK tidak masuk log
- 2026-09-24 · selesai — Klaim privasi diuji mesin pada CMP-02 (pertanyaan ber-NIK ⇒ tanpa panggilan model)
R-03 · Jawaban AI tidak dapat ditelusuri saat diperiksa (tanpa jejak pertanyaan, bukti, gerbang, sebab)
risiko sedangAkuntabilitasPemilik: Operator Layanan (admin) — menjawab pertanyaan pemeriksaan internal atas jawaban yang pernah disajikan
Kendali (3) · bukti (3) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24
Kendali
- Metadata AI (dipakai/ditolak, model, grounded) dikirim pada setiap jawaban
- Sebab jawaban (FR-20) menyatakan lapis & status tiap jawaban
- Asal-usul data (FR-25) menyertakan tahun, waktu penarikan, dan sidik versi korpus
Bukti
src/services/__tests__/sebab-kegagalan.test.ts— taksonomi sebab jawaban (uji)scripts/uji-sebab.mjs— uji ujung-ke-ujung sebab jawaban (harness)docs/usulan-ai-tingkat-lanjut/12-LAPORAN-FR-25-FR-27.md— asal-usul data & pertanyaan tak terlayani (laporan)
Tindak lanjut
- 2026-09-22 · selesai — FR-20 & FR-25 terpasang (sebab + asal-usul pada setiap jawaban)
- 2026-09-24 · jalan — CMP-04 dijadwalkan: jejak audit + retensi + ekspor
R-04 · Biaya token membengkak (prompt memuat acuan draf) atau kuota harian habis di tengah hari
risiko sedangBiaya & ketersediaanPemilik: Operator Layanan (admin) — memantau pemakaian harian di /api/status dan menyesuaikan batas bila perlu
Kendali (3) · bukti (4) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24
Kendali
- Batas harian panggilan model (`AI_DAILY_CALL_LIMIT`) — jawaban tetap keluar tanpa AI bila tercapai
- Cache jawaban ber-sidik ISI korpus (DS-03) mengurangi panggilan berulang tanpa menyajikan data basi
- Saklar admin dapat mematikan AI tanpa mengubah kode
Bukti
src/lib/ai/__tests__/tokens.test.ts— pemotongan & penghitungan token (uji)src/app/api/query/route.test.ts— perilaku saat batas tercapai (uji)scripts/uji-cache-korpus.mjs— kesegaran cache korpus (DS-03) (harness)/api/status— pemakaian harian & belanja panggilan terlihat operator (endpoint)
Tindak lanjut
- 2026-09-19 · selesai — Penghitung harian dikoreksi: /api/status tidak lagi menggerogoti kuota
- 2026-09-24 · selesai — DS-03 kunci cache memakai sidik isi korpus (bukan jumlah record)
R-06 · Istilah daerah yang dipetakan menimpa kata katalog sehingga pencarian justru salah
risiko sedangMutu pencarianPemilik: Pengelola Kosakata & Katalog (tim data) — meninjau kamus tiap 3 bulan dan mengecek istilah baru pada katalog SPLP
Kendali (3) · bukti (4) · tindak lanjut (1) · tinjauan berikutnya 2026-12-24
Kendali
- Aturan: hanya kata ber-df 0 di katalog yang boleh dipetakan; istilah yang sudah ada di katalog dicatat terpisah
- Setiap entri menyimpan df terukur dan klaim "terbukti di korpus uji" yang diverifikasi ke korpus nyata
- Alat tinjauan 3 bulan mengukur ulang df seluruh kamus terhadap korpus terbaru
Bukti
src/lib/__tests__/kamus-daerah.test.ts— larangan menimpa kata katalog & klaim df jujur (uji)scripts/uji-kamus-daerah.mjs— kontrol negatif: kamus dimatikan ⇒ hasil berubah (harness)scripts/ukur-df-kamus.mjs— alat tinjauan df kamus (harness)docs/usulan-ai-tingkat-lanjut/26-LAPORAN-DS-05.md— temuan kurasi kamus daerah (laporan)
Tindak lanjut
- 2026-09-24 · selesai — DS-05 terpasang: 57 entri, 18 istilah katalog sengaja tidak dipetakan, tinjauan 3 bulan mekanis
R-09 · Perubahan kode dari agen/penyunting lain bertabrakan sehingga perbaikan hilang
risiko sedangProses pengembanganPemilik: Penanggung Jawab Teknis (pengelola repositori) — memutuskan urutan penerapan patch dan menyelesaikan konflik
Kendali (3) · bukti (3) · tindak lanjut (2) · tinjauan berikutnya 2027-03-24
Kendali
- Perubahan dikirim sebagai seri patch bernomor pada berkas terpisah (bukan penulisan ulang berkas besar)
- Uji terima otomatis sebelum promosi + pemindai PII pada setiap komit
- Klon bersih diuji ulang: patch diterapkan ke basis yang sebenarnya, hasilnya harus identik
Bukti
docs/usulan-ai-tingkat-lanjut/uji-terima.sh— uji terima otomatis sebelum rilis (modul)scripts/pii-gate.sh— pagar pra-komit (modul)docs/usulan-ai-tingkat-lanjut/11-KIT-SERAH-TERIMA.md— urutan patch & cara serah terima (laporan)
Tindak lanjut
- 2026-09-24 · selesai — Setiap butir dikirim sebagai patch tersendiri; klon bersih diuji ulang tiap butir
- 2026-09-24 · selesai — Tetapkan penomoran patch lanjutan di atas `origin/dev`
Versi mesin halaman ini tersedia di /api/tata-kelola-risiko (dipakai uji otomatis; setiap rujukan bukti diperiksa ada atau tidak).