AI Risk Assessment Framework: Cara Menilai Risiko Sistem AI.

AI SAFETY • FRAMEWORK GUIDE

Enam langkah untuk mengenal pasti risiko sistem AI, memilih kawalan dan menyemak sama ada kawalan itu berfungsi.

Oleh Nobodynaga 

Ringkasan

AI Risk Assessment ialah proses untuk mengenal pasti perkara yang boleh menjadi salah apabila sistem AI dibina, dibeli atau digunakan. Penilaian yang berguna menerangkan tujuan sistem, pihak yang mungkin terkesan, kemungkinan bahaya dan tindakan yang akan diambil.

Framework ini menyediakan enam langkah praktikal untuk membantu pasukan memulakan penilaian dan menyemaknya dari semasa ke semasa. Ia mengambil ilham umum daripada fungsi NIST AI RMF, tetapi bukan salinan lengkap framework itu, senarai pematuhan atau jaminan bahawa sistem AI selamat.

Siapa yang sesuai menggunakan framework ini?

Framework ini sesuai untuk organisasi yang mahu mencuba AI, menambah fungsi AI pada sistem sedia ada atau menilai perkhidmatan daripada vendor. Perniagaan kecil boleh menggunakannya sebagai rekod ringkas. Organisasi yang mengendalikan data sensitif atau keputusan penting mungkin memerlukan penilaian lebih mendalam.

Libatkan orang yang memahami sistem dan tugasnya. Bergantung pada risikonya, pasukan juga mungkin perlu mendapatkan pandangan daripada pakar keselamatan, privasi, undang-undang, bidang kerja berkaitan dan orang yang akan terkesan oleh keputusan AI.

AI Risk Assessment Framework: enam langkah

1. Tetapkan tujuan, pemilik dan had penggunaan

Mulakan dengan menjawab soalan asas:

• Apakah nama sistem atau perkhidmatan AI?
• Untuk tujuan apa ia akan digunakan?
• Siapakah pemilik yang bertanggungjawab?
• Siapakah penggunanya dan siapa yang mungkin terkesan?
• Apakah perkara yang sistem dibenarkan dan tidak dibenarkan lakukan?

Terangkan sama ada AI hanya memberi cadangan atau boleh menghantar mesej, mengubah rekod, meluluskan permohonan atau membuat transaksi. Tentukan juga siapa yang boleh mengehadkan atau menghentikan penggunaannya apabila masalah berlaku.

2. Petakan cara sistem digunakan

Catat bagaimana sistem berfungsi dalam keadaan sebenar. Senaraikan data yang diterima, sumber maklumat yang disambungkan, tools yang boleh digunakan, siapa yang melihat output dan bagaimana output itu mempengaruhi keputusan.

Kenal pasti juga perkara yang mungkin berubah daripada rancangan asal. Contohnya, alat yang dibeli untuk menyediakan draf mungkin kemudian digunakan untuk membuat keputusan automatik. Catat andaian dan batas yang belum disahkan.

3. Tulis senario bahaya yang jelas

Jangan berhenti pada label umum seperti “bias”, “privasi” atau “keselamatan”. Terangkan apa yang mungkin berlaku, bagaimana ia bermula dan siapa yang terkesan.

Contoh senario: “Sistem mengambil rekod pelanggan yang salah, lalu pekerja menggunakan maklumat itu untuk meluluskan bayaran kepada penerima yang tidak sepatutnya.”

Pertimbangkan kesilapan, maklumat tidak lengkap, layanan tidak adil, pendedahan data, penyalahgunaan, gangguan operasi dan kegagalan kawalan manusia. Untuk setiap senario, catat pencetus, kemungkinan kesan dan cara masalah itu boleh dikesan.

4. Nilai risiko berdasarkan bukti

Nilai dua perkara: seberapa mungkin senario itu berlaku dan seberapa besar kesannya jika berlaku. Pertimbangkan bilangan orang yang mungkin terkesan, tempoh kesan, sama ada kesan boleh dipulihkan dan seberapa cepat masalah dapat dikesan.

Jika data tidak cukup untuk menghasilkan angka yang boleh dipercayai, gunakan skala seperti rendah, sederhana dan tinggi. Terangkan maksud setiap tahap dan bukti yang digunakan. Skor membantu pasukan menentukan keutamaan; ia bukan ukuran keselamatan yang tepat dengan sendirinya.

Uji sistem berdasarkan senario yang dikenal pasti. Semak contoh output, keadaan luar biasa, akses kepada data dan cara kawalan manusia berfungsi. Catat apa yang diuji, apa yang tidak diuji dan perkara yang masih belum pasti.

5. Pilih tindakan dan buat penilaian risiko yang masih ada

Selepas menilai risiko, tentukan tindakan yang sesuai. Pilihannya termasuk tidak menggunakan sistem untuk tujuan itu, mengehadkan skop, menambah kawalan atau meneruskan dengan syarat pemantauan yang jelas.

Contoh kawalan termasuk menghadkan akses kepada data, meminta semakan manusia sebelum keputusan penting, menetapkan had transaksi, memeriksa maklumat dengan sumber yang diluluskan dan menyediakan saluran untuk membetulkan atau merayu keputusan.

Berikan setiap tindakan kepada pemilik yang jelas, tetapkan tarikh siap dan nyatakan bukti yang akan menunjukkan kawalan itu berfungsi. Selepas kawalan dilaksanakan, nilai semula risiko yang masih tinggal. Jika risiko serius tidak dapat dikurangkan atau dipantau dengan memadai, tangguhkan atau hentikan penggunaan tersebut.

6. Pantau, semak semula dan hentikan dengan selamat

Risiko boleh berubah selepas sistem mula digunakan. Pantau kesilapan, aduan, insiden, perubahan prestasi dan jumlah keputusan yang perlu disemak oleh manusia.

Tetapkan keadaan yang mencetuskan penilaian semula, seperti perubahan model, data, vendor, tujuan penggunaan, pengguna atau tahap kebebasan sistem. Sediakan juga cara untuk menghentikan fungsi AI atau menarik balik akses tanpa menambah kesan buruk kepada pengguna.

Rekod ringkas penilaian risiko

Gunakan jadual ini sebagai rekod permulaan. Tambah ruangan mengikut keperluan organisasi dan jenis sistem.

Bahagian	Perkara yang direkod
Tujuan dan pemilik	Tujuan, pengguna, had sistem dan pihak bertanggungjawab
Konteks	Data, tools, integrasi, keputusan dan pihak yang mungkin terkesan
Senario risiko	Punca, perkara yang boleh berlaku, kesan dan cara mengesannya
Penilaian dan bukti	Kemungkinan, keterukan, keputusan ujian dan ketidakpastian
Tindakan	Kawalan, pemilik tindakan, tarikh siap dan risiko baki
Pemantauan	Petunjuk, pencetus semakan, saluran insiden dan syarat henti

Contoh simulasi: pembantu khidmat pelanggan

Nota: Ini adalah contoh simulasi untuk menerangkan proses dan bukan ujian produk atau laporan kes sebenar.

Sebuah perniagaan mahu menggunakan AI untuk membantu menjawab soalan pelanggan. Pada peringkat awal, AI hanya menyediakan draf berdasarkan polisi yang diluluskan. Pekerja menyemak jawapan sebelum menghantarnya penilaian.

Kemudian, pihak organisasi mempertimbangkan untuk membenarkan AI meluluskan bayaran balik secara automatik. Perubahan itu memberi sistem kuasa lebih besar dan boleh menyebabkan kerugian jika berlaku kesilapan. Pihak pengurusan akan memetakan data pelanggan, syarat polisi, had bayaran, akses kepada sistem pembayaran dan cara membetulkan keputusan.

Pekerja organisasi akan menguji kes biasa dan pengecualian, menetapkan semakan manusia untuk transaksi tertentu, memilih pemilik pemantauan serta merekodkan aduan dan pembatalan. Jika bukti ujian atau kawalan belum mencukupi, fungsi kelulusan automatik tidak diaktifkan.

Hubungan dengan NIST AI RMF

NIST AI Risk Management Framework (AI RMF) menyusun aktiviti pengurusan risiko AI melalui empat fungsi: Govern (menetapkan tanggungjawab dan dasar), Map (memahami konteks dan risiko), Measure (menilai serta memantau risiko) dan Manage (mengutamakan tindakan dan mengurus risiko).

Empat fungsi itu membantu menyusun kerja, tetapi NIST menyatakan ia bukan senarai langkah wajib yang mesti dibuat satu demi satu. Pengurusan risiko perlu diteruskan sepanjang hayat sistem. Enam langkah dalam artikel ini ialah cara ringkas untuk memulakan kerja tersebut; ia bukan pengganti AI RMF atau pelaksanaan penuh framework NIST.

NIST menyatakan AI RMF 1.0 sedang dikemas kini. Semak laman rasmi NIST untuk versi serta bahan terbaru sebelum menggunakan framework itu dalam dasar organisasi.

Checklist permulaan

• ☐ Tujuan sistem, pemilik, pengguna dan had penggunaan telah ditetapkan.
• ☐ Data, integrasi, tools dan tindakan sistem telah dikenal pasti.
• ☐ Pihak yang mungkin terkesan dan senario bahaya telah direkodkan.
• ☐ Penilaian menyatakan bukti, andaian dan perkara yang belum diketahui.
• ☐ Kawalan mempunyai pemilik serta cara untuk memeriksa keberkesanannya.
• ☐ Risiko yang masih tinggal telah disemak oleh pihak yang bertanggungjawab.
• ☐ Pemantauan, pelaporan insiden dan syarat menghentikan sistem telah ditetapkan.
• ☐ Ada pencetus untuk menilai semula risiko apabila sistem atau tujuan berubah.

Batas penggunaan

Melengkapkan rekod atau checklist ini tidak membuktikan bahawa sistem selamat, mematuhi semua undang-undang atau bebas daripada risiko. Sesuaikan penilaian dengan tujuan, data, pengguna, bidang kuasa dan kesan yang mungkin berlaku. Untuk keputusan berimpak tinggi, dapatkan pandangan pakar berkaitan.

Soalan lazim

Adakah skor risiko membuktikan sistem AI selamat?

Tidak. Skor membantu menyusun keutamaan, tetapi bergantung pada maklumat, andaian dan kaedah yang digunakan. Sertakan bukti ujian, batas penilaian dan ketidakpastian supaya keputusan boleh difahami.

Perlukah penilaian dibuat sebelum sistem digunakan sahaja?

Tidak. Semak risiko semula apabila model, data, vendor, pengguna, tujuan atau tahap kuasa sistem berubah. Pantau juga masalah yang muncul semasa penggunaan.

Bolehkah perniagaan kecil menggunakan framework ini?

Ya. Mulakan dengan rekod ringkas tentang tujuan, data, pihak terkesan, senario bahaya, kawalan dan pemilik tindakan. Tambah perincian apabila kesan atau kerumitan sistem meningkat.

Adakah framework ini pensijilan NIST?

Tidak. Ini panduan kerja Nobodynaga yang diinspirasikan secara umum oleh cara NIST menyusun pengurusan risiko. Ia bukan produk rasmi NIST, pensijilan atau pengesahan pematuhan.

Rujukan rasmi

• NIST — AI Risk Management Framework
• NIST AI Resource Center — AI RMF Core
• NIST AI Resource Center — AI RMF Playbook

Artikel berkaitan

• AI Safety — Canon silang AI Infrastructure.
• AI Governance & Security — rujukan silang AI Infrastructure.
• AI Privacy Framework: Kerangka mengurus privasi data dalam sistem AI.
• AI Safety Hub: Hub ini menunjukkan hubungan dan laluan artikel yang berkaitan

Nilai risiko berdasarkan konteks dan bukti.

Kenal pasti siapa yang boleh terkesan, kawal akses dan semak semula keputusan apabila sistem berubah.