AI Governance Framework: Prinsip, Risiko dan Akauntabiliti AI

AI INFRASTRUCTURE • FRAMEWORK GUIDE

Memahami cara organisasi menetapkan polisi, mengurus risiko, menentukan akauntabiliti dan mengawal penggunaan Artificial Intelligence sepanjang kitaran hayat sistem AI.

AI Governance Framework yang menggambarkan polisi, pengurusan risiko, pengawasan dan akauntabiliti AI

AI Governance menghubungkan tanggungjawab organisasi, pengurusan risiko dan kawalan operasi supaya penggunaan AI dapat dipertanggungjawabkan.

Ringkasan

AI Governance ialah sistem tadbir urus yang menetapkan bagaimana organisasi membuat keputusan, menentukan tanggungjawab, mengurus risiko dan mengawasi penggunaan Artificial Intelligence (AI).

Ia bukan sekadar polisi atau senarai peraturan. Tadbir urus yang berkesan memerlukan peranan yang jelas, proses pengurusan risiko, dokumentasi, kawalan yang sesuai, pengawasan manusia dan mekanisme untuk menangani insiden.

AI Governance juga bukan jaminan bahawa sesuatu model akan sentiasa tepat, selamat atau bebas daripada bias. Keberkesanannya bergantung pada pelaksanaan kawalan, bukti yang dikumpulkan dan tindakan yang diambil apabila risiko dikesan.

1. Apa Itu AI Governance?

AI Governance ialah susunan polisi, tanggungjawab, proses membuat keputusan dan mekanisme kawalan yang membimbing pembangunan serta penggunaan AI dalam sesebuah organisasi.

Matlamatnya adalah memastikan keputusan berkaitan AI dibuat oleh pihak yang mempunyai tanggungjawab jelas, risiko dinilai mengikut konteks penggunaan dan tindakan organisasi boleh disemak apabila diperlukan.

Contohnya, organisasi yang menggunakan AI untuk membantu menilai permohonan pinjaman perlu menentukan siapa yang meluluskan penggunaan sistem tersebut, data yang dibenarkan, cara prestasinya dinilai, pihak yang menyemak keputusan bermasalah dan proses rayuan untuk pelanggan.

AI Governance membantu menyusun keputusan dan tanggungjawab ini. Ia tidak semestinya menetapkan satu teknologi khusus kerana kawalan yang diperlukan berbeza mengikut tujuan sistem, tahap risiko dan persekitaran operasi.

Prinsip utama: AI Governance menentukan siapa yang bertanggungjawab, keputusan yang perlu dibuat, risiko yang perlu dikawal dan bukti yang diperlukan untuk menunjukkan bahawa sistem AI digunakan mengikut keperluan organisasi.

Apakah yang bukan AI Governance?

AI Governance tidak sama dengan satu polisi penggunaan AI, satu alat keselamatan atau satu ujian prestasi model. Semua itu mungkin menjadi sebahagian daripada pelaksanaannya, tetapi tadbir urus merangkumi struktur tanggungjawab dan proses membuat keputusan yang lebih luas.

Polisi AI menetapkan peraturan dan keperluan yang perlu dipatuhi.
AI Risk Management mengenal pasti, menilai dan mengurus risiko.
AI Evaluation menguji tingkah laku dan prestasi sistem berdasarkan kriteria tertentu.
AI Security melindungi sistem, data, akses dan komponen teknikal.
AI Governance menyelaraskan tanggungjawab, keputusan dan kawalan dalam organisasi.

2. Skop dan Kedudukan AI Governance

Dalam seni bina pengetahuan Nobodynaga, AI Governance ialah salah satu Framework yang berkaitan dengan Canon AI Governance & Security. Artikel ini menerangkan mekanisme tadbir urus, manakala Canon menerangkan domain yang lebih luas serta hubungannya dengan domain AI yang lain.

AI Governance bukan sebahagian eksklusif daripada AI Reliability. Ia mempunyai hubungan dengan Reliability, Integration & Intelligence, pembangunan model, penggunaan data dan operasi sistem AI. Hubungan ini bergantung pada fungsi serta risiko sistem yang dibangunkan.

Hubungan dengan AI Infrastructure Knowledge Hub

Artikel ini merupakan Framework Guide yang menerangkan pelaksanaan AI Governance secara khusus. Untuk memahami kedudukan topik ini dalam keseluruhan seni bina AI Infrastructure, rujuk Canon dan Hub berikut.

Parent Canon: AI Governance & Security — Canon Guide
Memahami domain utama tadbir urus, pengurusan risiko dan keselamatan AI serta hubungannya dengan domain AI Infrastructure yang lain.
AI Infrastructure Hub: Panduan Lengkap AI Infrastructure
Melihat gambaran keseluruhan seni bina AI, komponen utama, hubungan antara domain dan laluan pembelajaran AI Infrastructure.

Hubungan dengan empat Canon AI Infrastructure

AI Foundation: menyediakan asas untuk memahami model, data dan keupayaan AI yang tertakluk kepada tadbir urus.
AI Integration & Intelligence: melibatkan integrasi model, tools, data dan agents yang mungkin memerlukan kawalan akses, kebenaran tindakan dan tanggungjawab operasi.
AI Reliability: menyokong penilaian, pengesanan kegagalan dan pemantauan kebolehpercayaan yang boleh digunakan sebagai bukti untuk keputusan tadbir urus.
AI Governance & Security: merangkumi tadbir urus, akauntabiliti, pengurusan risiko dan perlindungan sistem AI.

Keempat-empat Canon ini ialah domain yang saling berkaitan, bukannya empat langkah wajib dalam satu urutan linear. Sesebuah sistem mungkin memerlukan kawalan daripada beberapa domain secara serentak.

Governance tidak menggantikan kawalan teknikal

Polisi yang menyatakan bahawa sistem mesti melindungi data tidak dengan sendirinya menghalang kebocoran data. Organisasi masih perlu melaksanakan kawalan teknikal, menguji keberkesanannya dan menetapkan tindakan apabila kawalan gagal.

Begitu juga, arahan supaya model memberikan jawapan yang tepat tidak menjamin ketepatan. Keperluan itu perlu diterjemahkan kepada kriteria penilaian, pemantauan, proses semakan dan tindakan pembetulan yang sesuai.

3. Prinsip Utama AI Governance

Pelaksanaan AI Governance perlu disesuaikan dengan tujuan sistem, konteks penggunaan dan tahap risiko. Prinsip berikut boleh dijadikan asas untuk membina pendekatan tadbir urus yang praktikal.

3.1 Akauntabiliti yang jelas

Organisasi perlu menetapkan pihak yang bertanggungjawab terhadap kelulusan, pembangunan, penggunaan, pemantauan dan tindakan pembetulan sistem AI. Tanggungjawab tidak sepatutnya dibiarkan kabur antara pasukan teknikal, pengurusan dan pengguna akhir.

3.2 Pengurusan risiko mengikut konteks

Risiko perlu dinilai berdasarkan tujuan sistem, pengguna yang terlibat, jenis data, kesan kesilapan dan tahap autonomi. Sistem yang mencadangkan tajuk artikel tidak semestinya memerlukan tahap kawalan yang sama seperti sistem yang menyokong keputusan klinikal atau kewangan.

3.3 Ketelusan dan dokumentasi

Organisasi perlu menyimpan maklumat yang mencukupi tentang tujuan penggunaan AI, batasan sistem, data yang relevan, keputusan penting, kawalan yang dilaksanakan dan perubahan yang dibuat. Tahap penjelasan kepada pengguna pula perlu disesuaikan dengan konteks dan keperluan yang berkenaan.

3.4 Pengawasan manusia yang bermakna

Pengawasan manusia bukan sekadar meletakkan seseorang untuk menekan butang kelulusan. Individu yang menjalankan pengawasan perlu mempunyai maklumat, kuasa, masa dan saluran eskalasi yang sesuai untuk menyemak atau mencabar output AI.

3.5 Privasi dan keselamatan

Penggunaan AI perlu mengambil kira perlindungan data, kawalan akses, pengendalian maklumat sensitif dan ancaman terhadap sistem. Keperluan khusus bergantung pada data, seni bina, pengguna dan persekitaran operasi.

3.6 Pemantauan dan penambahbaikan

Tadbir urus tidak berakhir apabila sistem dilancarkan. Organisasi perlu menilai perubahan prestasi, risiko baharu, aduan pengguna, insiden dan perubahan keperluan peraturan. Hasil pemantauan perlu membawa kepada tindakan apabila diperlukan.

4. Komponen AI Governance

AI Governance yang praktikal menggabungkan struktur organisasi, proses dan kawalan. Komponen berikut saling menyokong, tetapi tidak semestinya dilaksanakan sebagai langkah yang berasingan atau dalam susunan tetap.

4.1 Polisi dan standard dalaman

Polisi menentukan penggunaan AI yang dibenarkan, sekatan penggunaan, keperluan kelulusan, pengendalian data dan tanggungjawab pengguna. Polisi perlu jelas tentang skopnya dan dikemas kini apabila penggunaan atau risiko berubah.

4.2 Struktur tanggungjawab

Organisasi perlu mengenal pasti pemilik sistem, pemilik risiko, pasukan teknikal, pihak pematuhan dan pihak yang berkuasa membuat keputusan. Untuk sistem berisiko tinggi, pengasingan tugas atau semakan bebas mungkin diperlukan mengikut konteks.

4.3 Penilaian dan rawatan risiko

Proses ini mengenal pasti kemungkinan bahaya, pihak yang mungkin terjejas, tahap impak dan kawalan yang sesuai. Risiko baki selepas kawalan juga perlu dipertimbangkan sebelum organisasi membuat keputusan untuk menggunakan sistem tersebut.

4.4 Dokumentasi dan rekod

Dokumentasi boleh merangkumi tujuan penggunaan, batasan sistem, sumber data yang relevan, keputusan penilaian, kelulusan, perubahan konfigurasi dan insiden. Rekod perlu mencukupi untuk menyokong penyiasatan, audit atau semakan keputusan.

4.5 Pengujian dan assurance

Organisasi perlu menetapkan kriteria penerimaan serta bukti yang diperlukan sebelum penggunaan. Bergantung pada risiko, proses ini boleh melibatkan AI Evaluation, ujian keselamatan, ujian bias, red teaming atau semakan bebas. Tiada satu jenis ujian yang dapat membuktikan semua aspek keselamatan dan kebolehpercayaan.

4.6 Pengawasan dan eskalasi

Prosedur perlu menerangkan bila output AI mesti disemak manusia, siapa yang boleh menghentikan penggunaan, bagaimana aduan ditangani dan bila isu perlu dirujuk kepada pihak yang lebih berkuasa.

4.7 Pemantauan dan pengurusan insiden

Organisasi perlu menentukan indikator yang dipantau, ambang tindakan, pemilik respons dan kaedah merekod insiden. Tindakan boleh merangkumi sekatan fungsi, penggantungan sistem, pembetulan konfigurasi, pemberitahuan kepada pihak berkaitan atau penilaian semula risiko.

Perkara penting: Mempunyai polisi, dokumentasi atau jawatankuasa sahaja tidak membuktikan bahawa AI Governance berkesan. Keberkesanan perlu dinilai melalui pelaksanaan kawalan dan bukti bahawa tindakan yang diperlukan benar-benar diambil.

5. Cara Melaksanakan AI Governance

Tiada satu urutan pelaksanaan yang sesuai untuk semua organisasi. Walau bagaimanapun, organisasi boleh menggunakan pendekatan berikut sebagai panduan. Aktiviti ini boleh berulang, berjalan selari atau kembali ke peringkat terdahulu apabila maklumat baharu ditemui.

Langkah 1 — Kenal pasti penggunaan AI

Senaraikan sistem AI yang dibangunkan, dibeli atau digunakan melalui perkhidmatan pihak ketiga. Catat tujuan, pemilik, pengguna, data yang terlibat dan keputusan yang disokong oleh sistem.

Langkah 2 — Tetapkan tanggungjawab dan kriteria

Tentukan siapa yang meluluskan penggunaan, siapa yang mengurus risiko, siapa yang menyemak prestasi dan siapa yang bertindak apabila masalah berlaku. Tetapkan kriteria penerimaan berdasarkan tujuan dan risiko penggunaan.

Langkah 3 — Nilai risiko dan keperluan kawalan

Kenal pasti kesan yang mungkin berlaku kepada pengguna, organisasi dan pihak lain. Tentukan kawalan yang sesuai, termasuk keperluan privasi, keselamatan, pengawasan manusia, pengujian dan dokumentasi.

Langkah 4 — Kumpulkan bukti sebelum penggunaan

Jalankan penilaian dan ujian yang relevan. Rekodkan hasil, batasan yang diketahui, risiko baki serta keputusan pihak yang diberi kuasa. Keputusan penggunaan perlu mengambil kira sama ada risiko yang masih ada boleh diterima.

Langkah 5 — Kawal penggunaan sebenar

Laksanakan kawalan akses, had penggunaan, mekanisme semakan dan prosedur eskalasi yang diperlukan. Untuk sistem yang boleh memanggil tools atau melaksanakan tindakan, kebenaran sistem perlu disesuaikan dengan skop tugas dan tahap risiko.

Langkah 6 — Pantau dan bertindak

Perhatikan prestasi, perubahan tingkah laku, aduan, insiden dan perubahan konteks. Jika sesuatu ambang dilanggar, organisasi perlu mempunyai proses yang jelas untuk menyiasat, mengehadkan penggunaan atau mengambil tindakan pembetulan.

Langkah 7 — Semak semula tadbir urus

Gunakan hasil pemantauan, audit dan insiden untuk menilai semula risiko serta keberkesanan kawalan. Polisi, ujian dan tanggungjawab mungkin perlu diubah apabila model, data, pengguna atau peraturan berubah.

Langkah-langkah ini ialah panduan pelaksanaan, bukannya bukti bahawa setiap sistem AI mesti melalui tujuh peringkat secara linear. Sesetengah aktiviti perlu berlaku berulang kali atau serentak sepanjang kitaran hayat sistem.

6. Framework, Standard dan Peraturan AI Governance

Organisasi boleh merujuk kepada beberapa sumber untuk membina pendekatan tadbir urus AI. Namun, framework pengurusan risiko, standard sistem pengurusan, prinsip panduan dan undang-undang mempunyai fungsi yang berbeza. Ia tidak boleh dianggap sebagai kategori yang sama.

6.1 NIST AI Risk Management Framework (AI RMF)

NIST AI RMF menyediakan pendekatan untuk membantu organisasi mengurus risiko AI. Ia menyusun aktiviti pengurusan risiko melalui fungsi Govern, Map, Measure dan Manage. Framework ini boleh membantu organisasi membina proses pengenalpastian risiko, penilaian, pengurusan dan pemantauan.

Rujuk NIST AI RMF 1.0.

6.2 ISO/IEC 42001

ISO/IEC 42001 ialah standard untuk sistem pengurusan AI. Ia menyediakan keperluan bagi organisasi membangunkan, melaksanakan, mengekalkan dan menambah baik sistem pengurusan AI. Organisasi perlu merujuk teks standard rasmi untuk memahami skop dan keperluan yang berkenaan.

Rujuk ISO/IEC 42001 di laman ISO.

6.3 EU AI Act

EU AI Act ialah undang-undang Kesatuan Eropah yang menetapkan keperluan tertentu untuk AI berdasarkan skop dan keadaan yang ditentukan oleh undang-undang tersebut. Organisasi perlu menilai sama ada aktiviti dan sistem mereka tertakluk kepada keperluannya, termasuk kewajipan yang berkaitan dengan peranan organisasi dan kategori sistem.

Ia tidak tepat untuk menganggap semua sistem AI tertakluk kepada kewajipan yang sama atau bahawa satu polisi dalaman sahaja membuktikan pematuhan.

Rujuk teks rasmi EU AI Act.

6.4 OECD AI Principles

OECD AI Principles menyediakan prinsip dasar untuk AI yang boleh dipercayai, termasuk pertimbangan tentang hak asasi manusia, ketelusan, keselamatan dan akauntabiliti. Prinsip ini boleh membantu organisasi membentuk dasar, tetapi ia bukan pengganti kepada undang-undang yang terpakai.

Rujuk OECD AI Principles.

Bagaimana organisasi memilih sumber yang sesuai?

Gunakan framework pengurusan risiko untuk menyusun aktiviti pengenalpastian dan rawatan risiko.
Rujuk standard sistem pengurusan untuk keperluan organisasi dan proses yang berkenaan.
Semak undang-undang yang terpakai berdasarkan lokasi, peranan organisasi dan penggunaan sistem.
Gunakan prinsip panduan untuk membantu membentuk keputusan dan dasar dalaman.
Dokumentasikan bagaimana sumber yang dipilih diterjemahkan kepada kawalan sebenar.

Memilih satu framework tidak secara automatik menjamin pematuhan kepada semua undang-undang atau menghapuskan risiko AI. Organisasi perlu menilai keperluan sebenar dan melaksanakan kawalan yang sepadan.

7. Contoh Penggunaan AI Governance

Pelaksanaan AI Governance bergantung pada keputusan yang disokong oleh sistem, kemungkinan kesilapan dan kesan kepada pihak yang terlibat. Berikut ialah contoh bagaimana prinsip yang sama boleh diterapkan dalam konteks berbeza.

7.1 Perbankan dan kewangan

Jika AI digunakan untuk membantu menilai permohonan pinjaman, organisasi perlu menetapkan tujuan penggunaan, kriteria penilaian, akses kepada data, proses semakan keputusan dan kaedah menangani aduan. Kawalan yang sesuai juga perlu mengambil kira risiko keputusan tidak adil dan keperluan peraturan yang berkaitan.

7.2 Penjagaan kesihatan

Jika AI menyokong analisis klinikal, organisasi perlu menentukan batas penggunaan, pihak profesional yang bertanggungjawab, kaedah penilaian dan proses mengurus output yang tidak meyakinkan. Penggunaan AI tidak secara automatik menggantikan pertimbangan klinikal atau tanggungjawab profesional.

7.3 Perkhidmatan kerajaan

Bagi sistem AI yang membantu menyediakan maklumat atau menyokong keputusan pentadbiran, tadbir urus perlu mempertimbangkan ketelusan, akses yang adil, perlindungan data, rekod keputusan dan saluran semakan bagi individu yang terjejas.

7.4 Penggunaan AI dalam perusahaan

Organisasi yang membenarkan pekerja menggunakan Generative AI boleh menetapkan kategori data yang boleh dikongsi, alat yang diluluskan, proses semakan output dan tanggungjawab pengguna. Bagi AI agents yang boleh menjalankan tindakan, organisasi juga perlu menetapkan had kebenaran, pengesahan tindakan berisiko dan mekanisme untuk menghentikan operasi apabila diperlukan.

Apakah hasil yang patut dijangka?

AI Governance yang dilaksanakan dengan baik boleh membantu menjelaskan tanggungjawab, meningkatkan kebolehkesanan keputusan dan menjadikan pengurusan risiko lebih konsisten. Walau bagaimanapun, hasil sebenar bergantung pada reka bentuk kawalan, pelaksanaan dan tindakan susulan. Tadbir urus tidak menghapuskan semua kesilapan atau risiko.

8. Amalan Terbaik dan Cabaran

Amalan terbaik

Mulakan dengan inventori AI: kenal pasti sistem, pemilik, tujuan dan konteks penggunaannya.
Gunakan pendekatan berasaskan risiko: sesuaikan tahap kawalan dengan kemungkinan dan kesan kegagalan.
Tentukan pemilik keputusan: jelaskan pihak yang meluluskan penggunaan dan pihak yang bertindak apabila berlaku masalah.
Rekodkan bukti: simpan hasil penilaian, kelulusan, perubahan penting dan tindakan pembetulan.
Uji kawalan, bukan polisi sahaja: sahkan bahawa mekanisme yang ditetapkan berfungsi dalam keadaan penggunaan sebenar.
Pastikan eskalasi boleh dilaksanakan: pengguna dan pasukan operasi perlu tahu bila dan kepada siapa isu perlu dilaporkan.
Semak semula secara berkala: nilai perubahan model, data, ancaman, penggunaan dan keperluan peraturan.

Cabaran pelaksanaan

Perubahan teknologi: keupayaan dan cara penggunaan AI boleh berubah lebih pantas daripada polisi sedia ada.
Peraturan yang berbeza: organisasi yang beroperasi merentas bidang kuasa mungkin perlu memenuhi keperluan yang berlainan.
Kekurangan bukti: data penilaian atau dokumentasi mungkin tidak mencukupi untuk menyokong keputusan risiko.
Peranan yang tidak jelas: pemilikan yang kabur boleh melambatkan tindakan apabila berlaku insiden.
Kawalan yang sukar dikuatkuasakan: polisi tidak akan mencukupi jika akses, proses kerja dan tingkah laku pengguna tidak menyokongnya.
AI agents dan automasi: sistem yang boleh memanggil tools atau bertindak secara autonomi memerlukan kawalan terhadap kebenaran, skop tindakan dan eskalasi.

Cabaran ini tidak diselesaikan dengan menambah lebih banyak dokumen semata-mata. Organisasi perlu memastikan bahawa tanggungjawab, kawalan teknikal, proses kerja dan bukti pelaksanaan saling menyokong.

9. Framework Berkaitan dalam Nobodynaga

AI Governance mempunyai hubungan dengan beberapa topik AI Infrastructure. Hubungan ini tidak bermaksud semua artikel di bawah ialah subkomponen eksklusif AI Governance. Setiap Framework mempunyai skop tersendiri dan boleh berkait dengan lebih daripada satu Canon.

AI Guardrails — mekanisme kawalan terhadap input, output atau tindakan sistem AI. Guardrails boleh menyokong dasar tadbir urus, tetapi tidak menjamin semua risiko dapat dicegah.
AI Safety — berkaitan pengenalpastian dan pengurangan bahaya daripada sistem AI. Governance boleh menetapkan tanggungjawab serta proses bagi mengurus isu keselamatan.
AI Alignment — mengkaji sejauh mana tingkah laku sistem AI selaras dengan objektif, arahan atau nilai yang dimaksudkan. Alignment bukan jaminan bahawa sistem sentiasa berkelakuan betul.
AI Evaluation — menilai tingkah laku atau prestasi sistem menggunakan kriteria dan kaedah tertentu. Hasil penilaian boleh menyokong keputusan tadbir urus.
AI Benchmark — menggunakan ujian atau set penanda aras untuk membandingkan prestasi. Skor benchmark perlu ditafsir mengikut skop, konfigurasi dan batasan ujian.
AI Hallucination — menerangkan keadaan apabila sistem menghasilkan maklumat yang tidak tepat atau tidak disokong. Governance boleh menetapkan tahap risiko, keperluan semakan dan tindakan pembetulan.
Explainable AI (XAI) — berkaitan kaedah menjelaskan aspek tertentu output atau tingkah laku model. Penjelasan yang tersedia tidak semestinya membuktikan bahawa keputusan itu betul atau adil.

Artikel berkaitan tentang AI Security, AI Red Teaming dan AI Observability juga boleh menyokong aspek perlindungan, pengujian adversarial serta pemantauan operasi.

Kembali ke AI Infrastructure Hub ·

10. Soalan Lazim (FAQ)

Apakah tujuan utama AI Governance?

Tujuan utamanya ialah menetapkan tanggungjawab, proses membuat keputusan dan kawalan bagi mengurus risiko serta memastikan penggunaan AI selaras dengan keperluan organisasi dan peraturan yang terpakai.

Adakah AI Governance menjamin AI selamat?

Tidak. AI Governance membantu organisasi menetapkan dan mengawasi kawalan keselamatan, tetapi tidak menjamin bahawa semua risiko dapat dihapuskan. Keberkesanannya bergantung pada pelaksanaan, pengujian, pemantauan dan tindakan susulan.

Apakah perbezaan AI Governance dengan AI Safety?

AI Governance mengurus struktur tanggungjawab, dasar, keputusan dan kawalan organisasi. AI Safety memberi tumpuan kepada pengenalpastian serta pengurangan bahaya daripada sistem AI. Kedua-duanya saling berkaitan tetapi bukan perkara yang sama.

Apakah perbezaan AI Governance dengan AI Evaluation?

AI Evaluation menguji sistem berdasarkan kriteria tertentu. AI Governance menggunakan hasil penilaian bersama bukti lain untuk menyokong keputusan, menetapkan tanggungjawab dan menentukan tindakan yang perlu diambil.

Adakah semua organisasi perlu menggunakan framework yang sama?

Tidak semestinya. Pilihan bergantung pada tujuan penggunaan AI, saiz organisasi, risiko, sektor dan bidang kuasa. Organisasi perlu menilai kesesuaian sumber yang digunakan serta kewajipan yang benar-benar terpakai.

Adakah AI Governance hanya untuk organisasi besar?

Tidak. Organisasi kecil juga boleh menetapkan polisi, pemilik sistem, kawalan data, proses semakan dan pengurusan insiden. Skop pelaksanaan boleh disesuaikan dengan skala serta risiko penggunaan AI.

Bilakah AI Governance perlu disemak semula?

Semakan perlu dibuat apabila terdapat perubahan ketara pada model, data, tujuan penggunaan, pengguna, risiko, insiden atau keperluan peraturan. Organisasi juga boleh menetapkan semakan berkala mengikut tahap risiko.

Kesimpulan

AI Governance ialah asas pengurusan tanggungjawab dan risiko dalam penggunaan Artificial Intelligence. Ia menghubungkan polisi, pemilik keputusan, penilaian, dokumentasi, kawalan operasi dan tindakan pembetulan supaya penggunaan AI dapat diurus secara sistematik.

Namun, tadbir urus tidak boleh bergantung pada polisi atau dokumen semata-mata. Organisasi perlu memastikan kawalan benar-benar dilaksanakan, bukti disimpan dan tindakan diambil apabila risiko atau kegagalan dikenal pasti.

Dalam seni bina AI Infrastructure, AI Governance mempunyai hubungan dengan Reliability, Integration & Intelligence serta domain keselamatan. Setiap domain menyumbang keupayaan yang berbeza; tiada satu daripadanya secara bersendirian menjamin bahawa sistem AI sentiasa selamat, tepat atau mematuhi semua keperluan.

Dengan skop yang jelas, pengurusan risiko yang sepadan dan proses semakan yang berterusan, organisasi mempunyai asas yang lebih kukuh untuk membuat keputusan tentang penggunaan AI secara bertanggungjawab.

References

Artikel ini disediakan mengikut Editorial Policy Nobodynaga, dengan bantuan AI dalam sebahagian proses kerja seperti dinyatakan dalam AI Usage & Disclosure. Semakan akhir dan ketepatan fakta kekal tanggungjawab manusia.