AI Safety: Cara Menilai dan Mengurus Risiko Penggunaan AI.

AI SAFETY • CANON GUIDE • BEGINNER → INTERMEDIATE

Panduan asas untuk mengenal pasti risiko penggunaan AI, memilih kawalan yang sesuai dan menyemak semula keputusan apabila keadaan berubah.

AI Safety: Cara Menilai dan Mengurus Risiko Penggunaan AI

Ringkasan

AI Safety ialah usaha memastikan AI digunakan dengan cara yang mengurangkan kemungkinan bahaya kepada manusia, organisasi dan masyarakat. Ia bermula dengan memahami tujuan penggunaan, siapa yang terlibat, maklumat yang digunakan dan tindakan yang boleh dibuat oleh sistem.

Tiada satu kawalan yang sesuai untuk semua penggunaan AI. AI yang mencadangkan tajuk blog mempunyai kesan yang berbeza daripada AI yang memberi maklumat kesihatan, menilai permohonan atau mengubah rekod pelanggan. Kawalan perlu dipilih berdasarkan keadaan sebenar.

Fahami penggunaan → kenal pasti risiko → pilih kawalan → uji → pantau.

Kedudukan Artikel Ini

Artikel ini ialah Canon Guide utama untuk AI Safety Hub. Fokusnya ialah cara menilai penggunaan AI dari sudut risiko dan kesannya kepada pihak yang terlibat.

Canon ini berbeza daripada Canon AI Safety dalam AI Infrastructure, yang menerangkan AI Safety dalam konteks teknikal dan Reliability Layer. Kedua-duanya berkaitan, tetapi mempunyai tujuan bacaan yang berbeza.

AI Safety Hub : Hub yang berfungsi sebagai direktori bacaan

Baca Canon AI Safety dalam AI Infrastructure untuk gambaran teknikal yang berkaitan.

1. Apakah Maksud AI Safety?

AI Safety menumpukan pada kemungkinan sistem AI menghasilkan kesan yang tidak diingini dan cara mengurangkan kesan tersebut. Perhatian bukan hanya pada jawapan yang salah. Risiko juga boleh melibatkan maklumat sulit, keputusan yang tidak adil, tindakan tanpa kebenaran atau kesukaran membetulkan kesilapan.

Keselamatan perlu dipertimbangkan sepanjang penggunaan AI: ketika merancang sistem, memilih data, menguji fungsi, melancarkan sistem dan memantaunya. Jika tujuan atau keupayaan sistem berubah, penilaian juga mungkin perlu dibuat semula.

AI Safety, Security, Governance dan Privacy

Bidang ini saling berkait tetapi menjawab soalan yang berlainan:

AI Safety: Apakah bahaya yang mungkin timbul daripada penggunaan ini, dan bagaimana kesannya dikurangkan?
AI Security: Bagaimana sistem, data dan akses dilindungi daripada pencerobohan atau penyalahgunaan?
AI Governance: Siapa bertanggungjawab, apakah peraturannya dan bagaimana keputusan diawasi?
Privacy: Apakah maklumat peribadi yang digunakan, dan bagaimana maklumat itu dilindungi?

Satu isu boleh melibatkan lebih daripada satu bidang. Contohnya, pendedahan data pelanggan mungkin menjadi isu privacy, security dan AI Safety pada masa yang sama.

2. Apa yang Perlu Dinilai?

Sebelum memilih kawalan, jelaskan dahulu konteks penggunaan. Soalan berikut membantu memulakan penilaian:

Tujuan: Kerja apakah yang AI akan bantu? Kerja apakah yang tidak dibenarkan?
Pengguna: Siapa akan menggunakan AI, dan siapa mungkin terkesan oleh hasilnya?
Maklumat: Data apakah yang dimasukkan atau boleh dicapai oleh sistem?
Keupayaan: Adakah AI hanya memberi cadangan, atau boleh membuat perubahan dan menghantar arahan?
Kesan: Apa yang mungkin berlaku jika output salah, berat sebelah atau disalahgunakan?
Pemulihan: Bolehkah keputusan dibetulkan? Siapa yang menerima aduan dan menyelesaikan masalah?

Contoh jenis risiko

Bahagian yang dinilai	Contoh soalan
Ketepatan	Bolehkah jawapan yang salah menyebabkan pengguna mengambil tindakan yang merugikan?
Data dan privacy	Adakah maklumat sensitif dimasukkan, disimpan atau dikongsi?
Akses dan tindakan	Bolehkah AI mengubah fail, menghantar mesej atau membuat transaksi?
Layanan kepada pengguna	Adakah sesetengah kumpulan mungkin menerima keputusan atau layanan yang lebih buruk?
Operasi	Bagaimana pasukan mengesan kegagalan, menghentikan sistem atau membetulkan kesannya?

3. Proses Menilai Risiko AI

Gunakan proses ini sebagai panduan umum. Sesuaikan dengan tujuan, pengguna dan kesan sistem; ia bukan senarai pematuhan atau jaminan keselamatan.

Tetapkan tujuan dan tanggungjawab. Nyatakan siapa pemilik sistem, siapa membuat keputusan dan siapa menangani masalah.
Fahami keadaan penggunaan. Kenal pasti pengguna, data, tools, tindakan dan pihak yang mungkin terkesan.
Senaraikan perkara yang boleh gagal. Fikirkan kesilapan biasa, penggunaan di luar tujuan dan penyalahgunaan yang munasabah.
Tentukan cara menguji. Pilih contoh dan ukuran yang sepadan dengan risiko. Rekodkan batas ujian dan perkara yang belum diketahui.
Pilih tindakan. Kurangkan risiko, hadkan penggunaan, tambah semakan atau jangan gunakan AI jika risikonya belum dapat diterima.
Semak semula. Pantau masalah selepas penggunaan dan nilai semula apabila model, data, pengguna atau tujuan berubah.

Proses ini selari dengan idea umum dalam NIST AI RMF—Govern, Map, Measure dan Manage—tetapi bukan salinan langkah rasmi satu demi satu. NIST menerangkan fungsi tersebut sebagai cara menyusun pengurusan risiko, bukan urutan wajib yang menjamin hasil selamat.

4. Contoh Simulasi: AI Membantu Pasukan Khidmat Pelanggan

Nota: Contoh ini ialah simulasi untuk menerangkan cara menilai penggunaan. Ia bukan ujian produk atau laporan kes sebenar.

Sebuah perniagaan mahu menggunakan AI untuk membantu menjawab soalan pelanggan. Pada peringkat pertama, AI hanya menyediakan draf jawapan berdasarkan maklumat produk yang diluluskan. Pekerja membaca draf sebelum menghantarnya.

Pasukan mengenal pasti beberapa perkara untuk diperiksa:

Adakah jawapan AI sepadan dengan polisi dan maklumat produk semasa?
Bolehkah AI memasukkan maklumat pelanggan yang tidak patut dikongsi?
Adakah pekerja tahu bila perlu membetulkan jawapan atau mengambil alih?
Bagaimana pelanggan boleh meminta bantuan manusia?

Kemudian, pasukan mencadangkan supaya AI boleh meluluskan bayaran balik secara automatik. Ini mengubah kuasa sistem dan kesan jika berlaku kesilapan. Sebelum membuat perubahan itu, pasukan perlu menilai semula had transaksi, bukti yang diperlukan, kelulusan manusia, rekod tindakan dan cara membatalkan atau membetulkan keputusan.

Contoh ini menunjukkan bahawa tahap kawalan bergantung pada tugas dan kuasa yang diberikan. Menghasilkan draf dan meluluskan transaksi bukan penggunaan yang sama.

5. Memilih Kawalan yang Sesuai

Kawalan ialah langkah untuk mengurangkan kemungkinan atau kesan masalah. Pilih kawalan yang menangani risiko yang telah dikenal pasti; menambah kawalan tanpa tujuan boleh menambah kerumitan tanpa menyelesaikan masalah utama.

Hadkan akses: berikan AI akses kepada data dan tindakan yang benar-benar diperlukan.
Semak output: minta semakan manusia apabila kesilapan boleh memberi kesan besar kepada seseorang.
Minta kelulusan sebelum tindakan: gunakan pengesahan sebelum AI menghantar, memadam, mengubah atau membeli sesuatu.
Terangkan batas kepada pengguna: beritahu perkara yang AI boleh bantu dan bila pengguna perlu mendapatkan bantuan lain.
Sediakan cara melaporkan masalah: tetapkan siapa yang menyiasat dan bagaimana penggunaan boleh dihadkan atau dihentikan.

Pengawasan manusia perlu mempunyai tujuan dan sokongan yang jelas. Reviewer memerlukan maklumat, masa dan kuasa untuk membetulkan atau menolak cadangan AI; kehadiran manusia semata-mata tidak menjamin keputusan yang betul.

6. Semakan Selepas AI Digunakan

Penilaian tidak berakhir selepas pelancaran. Semak sama ada sistem masih digunakan untuk tujuan asal, sama ada masalah baharu timbul dan sama ada kawalan yang dipilih benar-benar membantu.

Rekodkan aduan, kesilapan dan keadaan apabila manusia perlu mengambil alih.
Semak perubahan pada model, data, integrasi dan kumpulan pengguna.
Tentukan siapa boleh menghentikan sistem atau menarik balik akses.
Semak semula keputusan apabila kesan atau tujuan penggunaan berubah.

7. Checklist Permulaan

☐ Tujuan penggunaan AI dan batasnya jelas.
☐ Pengguna, data dan tindakan yang dibenarkan dikenal pasti.
☐ Pihak yang mungkin terkesan dikenal pasti.
☐ Kesilapan atau penyalahgunaan yang munasabah dipertimbangkan.
☐ Ujian dan cara menyemak hasil ditentukan.
☐ Tanggungjawab untuk meluluskan, menyiasat dan membetulkan masalah diberikan kepada pihak tertentu.
☐ Ada cara untuk mengehadkan atau menghentikan sistem jika perlu.
☐ Semakan semula dirancang apabila sistem atau penggunaannya berubah.

Batas checklist: Menandakan semua kotak tidak membuktikan sistem selamat atau mematuhi semua peraturan. Gunakannya sebagai permulaan perbincangan, bukan pengganti penilaian khusus.

8. Rujukan Lanjutan

Untuk senarai Canon, Framework, Tool Guide dan Supporting Guide mengikut kategori, gunakan AI Safety Hub. Hub berfungsi sebagai direktori bacaan; bahagian ini mengekalkan rujukan yang menyokong penerangan dalam Canon.

AI Safety Hub: Hub berfungsi sebagai direktori bacaan.

NIST AI Risk Management Framework Core — rujukan bagi fungsi Govern, Map, Measure dan Manage.
NIST Generative AI Profile (AI 600-1) — profil risiko generative AI.
UNESCO Recommendation on the Ethics of Artificial Intelligence — prinsip etika dan tanggungjawab berkaitan AI.

Soalan Lazim

Adakah AI Safety sama dengan AI Security?

Tidak. Security memberi tumpuan kepada perlindungan sistem dan data daripada ancaman. Safety melihat bahaya yang mungkin timbul daripada cara sistem digunakan. Kedua-duanya boleh berkait dalam satu penggunaan.

Adakah human review menjamin AI selamat?

Tidak. Semakan manusia boleh membantu, tetapi reviewer memerlukan maklumat, masa dan kuasa untuk campur tangan. Kawalan lain mungkin masih diperlukan.

Adakah NIST AI RMF satu-satunya cara mengurus risiko AI?

Tidak. Ia salah satu framework rujukan. NIST menyatakan AI RMF 1.0 sedang disemak semula; semak laman rasmi untuk versi terkini dan pilih pendekatan yang sesuai dengan penggunaan anda.

Glosari Ringkas

AI Safety: usaha mengenal pasti dan mengurangkan bahaya yang mungkin timbul daripada penggunaan AI.
Risk: kemungkinan masalah berlaku dan kesannya dalam sesuatu keadaan.
Human oversight: penglibatan manusia dalam memantau, menyemak atau membuat keputusan berkaitan AI.
Residual risk: risiko yang masih wujud selepas kawalan digunakan.

Rujukan

NIST — AI Risk Management Framework — halaman utama dan status semakan AI RMF.
NIST — Generative AI Profile (AI 600-1).
UNESCO — Recommendation on the Ethics of Artificial Intelligence.

Nota Editorial

Canon ini menerangkan cara berfikir tentang risiko dan kesan penggunaan AI. Ia bukan penilaian terhadap produk tertentu, nasihat undang-undang atau pengesahan bahawa sistem tertentu selamat. Contoh dalam artikel ialah simulasi.

Kesimpulan

AI Safety bermula dengan soalan mudah: AI digunakan untuk apa, siapa yang mungkin terkesan dan apa yang boleh berlaku jika sistem tersilap? Jawapannya membantu menentukan sama ada AI patut digunakan, apa yang perlu diuji dan kawalan yang perlu disediakan.

Semak semula keputusan apabila tujuan, data, pengguna atau keupayaan sistem berubah. Gunakan Hub untuk memilih bacaan seterusnya, Framework untuk kaedah dan Tool Guide untuk panduan produk khusus.

Kenal pasti kesan. Pilih kawalan. Semak semula.

AI Safety bergantung pada konteks penggunaan dan tanggungjawab yang jelas.

Artikel ini disediakan mengikut Editorial Policy Nobodynaga, dengan bantuan AI dalam sebahagian proses kerja seperti dinyatakan dalam AI Usage & Disclosure. Semakan akhir dan ketepatan fakta kekal tanggungjawab manusia.