AI Privacy Framework: Kerangka Mengurus Privasi Data dalam Sistem AI

AI SAFETY • FRAMEWORK GUIDE

Kerangka praktikal untuk mengurus data peribadi apabila organisasi membangun, memilih atau menggunakan sistem AI.

AI Privacy Framework: Cara Mengurus Risiko Privasi dalam Sistem AI

Ringkasan

AI Privacy Framework membantu organisasi memahami data peribadi yang diproses oleh sistem AI, sebab data itu diperlukan, siapa yang boleh mengaksesnya dan bagaimana individu boleh terjejas. Skopnya meliputi keseluruhan aliran data, daripada pengumpulan dan prompt kepada penyedia, output, log, pemadaman serta penggunaan seterusnya.

Artikel ini membentangkan kerangka amalan Nobodynaga yang mengambil inspirasi daripada NIST Privacy Framework dan prinsip JPDP Malaysia. Ia bukan framework rasmi atau senarai pematuhan undang-undang. Peraturan dan status bahan rasmi boleh berubah; anda perlu menyemak sumber ini dari masa ke semasa.

Untuk siapa dan bila perlu digunakan?

Gunakan kerangka ini apabila organisasi mempertimbangkan chatbot, pemprosesan dokumen, analitik, AI generatif, profil atau keputusan automatik yang melibatkan data peribadi. Ia juga sesuai apabila tujuan, model, vendor, integrasi, jenis data atau kumpulan pengguna berubah. Untuk penggunaan berisiko tinggi, libatkan pegawai privasi, keselamatan, perundangan dan pemilik proses.

AI Privacy Framework: lima fungsi utama

1. Kenal pasti pemprosesan dan risiko privasi

Bina inventori sistem dan aliran data: kategori data, sumber, individu yang berkaitan, tujuan, lokasi pemprosesan, tempoh simpanan, penerima, subpemproses serta komponen AI yang menerima atau menjana data. Bezakan data latihan, prompt pengguna, data retrieval, output, telemetry dan log. Kenal pasti inferens atau profil yang mungkin terbentuk walaupun atribut sensitif tidak diberikan secara langsung.

Buat penilaian terhadap kesan kepada individu, bukan hanya risiko kebocoran. Pertimbangkan pendedahan, pemantauan, kesimpulan yang tidak tepat, layanan berbeza, kehilangan kawalan, penggunaan di luar jangkaan dan kesukaran membetulkan rekod.

2. Tadbir urus, tujuan dan akauntabiliti

Tetapkan pemilik pemprosesan, pihak yang meluluskan penggunaan, had tujuan, tahap risiko yang boleh diterima serta proses membuat keputusan. Semak sama ada organisasi mempunyai tujuan dan asas yang sesuai untuk mengumpul serta menggunakan data; sediakan notis yang relevan dan rekodkan perubahan tujuan. Tetapkan tanggungjawab vendor, pasukan dalaman dan pengguna.

Di Malaysia, JPDP menyenaraikan prinsip perlindungan data peribadi di bawah Akta 709, termasuk prinsip am, notis dan pilihan, penzahiran, keselamatan, penyimpanan, integriti data dan akses. Pemakaian undang-undang bergantung pada fakta dan skopnya; dapatkan nasihat agensi yang berkelayakan untuk membuat keputusan pematuhan.

3. Kawal data dan pilihan individu

Minimisasi: gunakan hanya data yang diperlukan; nyahkenal pasti atau ringkaskan bahan jika identiti tidak diperlukan.
Ketepatan dan tujuan: pastikan data serta inferens sesuai untuk tujuan yang dinyatakan; jangan gunakan semula output untuk tujuan baharu tanpa semakan.
Akses dan perkongsian: hadkan orang, sistem, plugin dan vendor yang menerima data; gunakan kawalan akses mengikut peranan.
Penyimpanan dan pemadaman: tetapkan tempoh bagi prompt, fail, output dan log; uji bahawa pemadaman berfungsi pada salinan serta integrasi yang berkaitan.
Hak dan permintaan individu: sediakan proses untuk menyemak, membetulkan atau menangani permintaan berkaitan data mengikut tanggungjawab dan undang-undang yang terpakai.
Keputusan automatik: kenal pasti apabila profil atau output AI mempengaruhi seseorang dan tentukan keperluan penerangan, semakan atau laluan rayuan.

4. Terangkan amalan pemprosesan

Maklumkan kepada pengguna dan pekerja apa yang AI lakukan dengan data dalam bahasa yang mudah: data apa dikumpulkan, tujuan, penerima, penyimpanan, pilihan yang tersedia dan cara mendapatkan bantuan. Pastikan penerangan tidak menjanjikan sesuatu yang tidak dapat dipastikan, seperti “data tidak pernah disimpan”, jika konfigurasi vendor atau log organisasi belum disahkan.

5. Lindungi, respons dan perbaiki

Gunakan perlindungan teknikal dan organisasi yang sesuai untuk penyulitan, akses minimum, pengasingan data pelanggan, kawalan eksport, pengujian kebocoran dan semakan konfigurasi vendor. Sediakan juga proses untuk insiden privasi repot siapa yang dimaklumkan, bagaimana skop dikenal pasti, tindakan untuk menahan pendedahan, rekod keputusan serta cara memenuhi notifikasi atau pelaporan yang digunakan.

Semak keberkesanan kawalan secara berkala, termasuk ujian prompt, output, log, retensi dan integrasi pihak ketiga. Perlu dikemas kini penilaian apabila model, data, tujuan atau pihak pemproses berubah.

Rekod ringkas AI Privacy

Medan	Soalan untuk dijawab
Data dan aliran	Data apa masuk, keluar, disimpan, dihantar kepada vendor atau direkod?
Tujuan dan pihak	Mengapa diproses, siapa bertanggungjawab, siapa terkesan?
Risiko privasi	Apa yang individu mungkin tidak jangka, tidak boleh kawal atau sukar betulkan?
Kawalan	Bagaimana minimisasi, akses, retensi, hak, keselamatan dan pemadaman dilaksanakan?
Vendor dan perubahan	Syarat apa terpakai dan apa yang mencetuskan penilaian semula?

Contoh simulasi: AI merumuskan tiket pelanggan

Nota: Ini adalah simulasi, bukan ujian vendor atau nasihat undang-undang.

Sebuah organisasi mahu menggunakan AI untuk merumuskan tiket sokongan. Tiket mengandungi nama, nombor pesanan, butiran aduan dan kadangkala maklumat sensitif. Pasukan memetakan aliran data termasuk prompt, output, log serta vendor; memutuskan bahawa ringkasan boleh dibuat tanpa nama dan nombor pesanan; menyekat sambungan yang tidak diluluskan; menetapkan tempoh simpanan; dan menguji bahawa output tidak memaparkan pengecam yang dibuang. Pekerja masih mengakses butiran sebenar melalui sistem tiket terkawal apabila perlu menyelesaikan kes.

Hubungan dengan rujukan rasmi

NIST Privacy Framework 1.0 menyusun fungsi Identify-P, Govern-P, Control-P, Communicate-P dan Protect-P. NIST menyenaraikan Privacy Framework 1.1 sebagai “coming soon” pada semakan sumber 3 November 2026; oleh itu artikel ini memautkan versi 1.0 sebagai rujukan yang diterbitkan dan mengesyorkan pembaca menyemak status versi baharu.

JPDP Malaysia menerbitkan Kertas Konsultasi Awam No. 1/2026 tentang AI dan Perlindungan Data Peribadi pada 29 Oktober 2026. Ia ialah kertas konsultasi, bukan kerangka akhir yang boleh dianggap sebagai kewajipan berkuat kuasa. Semak pengumuman JPDP untuk perkembangan seterusnya.

Checklist ringkas

☐ Inventori data, prompt, output, log dan vendor disediakan.
☐ Tujuan, pemilik dan pihak yang terkesan dikenal pasti.
☐ Data yang tidak diperlukan dibuang atau diminimumkan.
☐ Tetapan vendor, integrasi, retensi dan pemadaman disemak.
☐ Notis serta proses permintaan individu diselaraskan dengan keperluan yang terpakai.
☐ Akses, keselamatan, pengujian dan respons insiden ditetapkan.
☐ Penilaian semula dirancang apabila data, model atau tujuan berubah.

Batas penggunaan

Framework ini menyokong pengurusan risiko privasi, tetapi tidak menentukan asas undang-undang bagi sesuatu pemprosesan atau menjamin pematuhan. Semak undang-undang, panduan pengawal selia, kontrak vendor dan keadaan organisasi sebenar. Dapatkan nasihat profesional jika keputusan melibatkan risiko atau kewajipan yang besar.

Rujukan rasmi

Artikel berkaitan:

Artikel ini disediakan mengikut Editorial Policy Nobodynaga, dengan bantuan AI dalam sebahagian proses kerja seperti dinyatakan dalam AI Usage & Disclosure. Semakan akhir dan ketepatan fakta kekal tanggungjawab manusia.