สิ่งที่ฝ่ายความปลอดภัยและฝ่ายกฎหมายต้องเห็นก่อนอนุมัติ
ธรรมาภิบาล AI ในองค์กรไทยตั้งอยู่บนสี่เรื่อง ได้แก่ PDPA การควบคุมสิทธิ์ผ่าน SSO และ IAM การเก็บ audit log ที่ตรวจย้อนหลังได้ และที่ตั้งของข้อมูล หน้านี้เขียนสำหรับ CISO ฝ่ายตรวจสอบภายใน และฝ่ายกฎหมาย ทุกข้อออกแบบไว้ตั้งแต่ขั้นสถาปัตยกรรม ไม่ใช่เพิ่มตอนตรวจรับ
PDPA
PDPA กระทบระบบ AI ตรงไหน
ระบบ AI ที่ค้นเอกสารภายในได้ย่อมแตะข้อมูลส่วนบุคคลไม่ทางใดก็ทางหนึ่ง คำถามจึงไม่ใช่ว่าจะแตะหรือไม่ แต่คือแตะโดยมีฐานอะไรและควบคุมอย่างไร
- ผู้ควบคุมข้อมูลยังคงเป็นองค์กร
- เมื่อระบบรันในศูนย์ข้อมูลขององค์กร ข้อมูลส่วนบุคคลไม่ถูกส่งต่อไปยังผู้ประมวลผลรายอื่น องค์กรจึงคงสถานะผู้ควบคุมข้อมูลไว้เต็มรูปแบบ เราเข้ามาในฐานะผู้ให้บริการติดตั้งและดูแลระบบ และขอบเขตการเข้าถึงของเราถูกกำหนดไว้ในสัญญาเป็นลายลักษณ์อักษร
- ฐานการประมวลผลที่ระบุได้
- ก่อนนำเอกสารชุดใดเข้าระบบ ต้องระบุได้ว่าใช้ฐานใดตาม PDPA เช่น การปฏิบัติตามสัญญา หน้าที่ตามกฎหมาย หรือประโยชน์โดยชอบด้วยกฎหมาย เราช่วยจัดทำรายการชุดข้อมูลพร้อมฐานการประมวลผลของแต่ละชุด เพื่อให้ฝ่ายกฎหมายตรวจสอบได้ก่อนเริ่มใช้งาน
- การจำกัดข้อมูลเท่าที่จำเป็น
- ไม่ใช่ทุกเอกสารควรอยู่ในดัชนีที่ AI ค้นได้ เราแยกชุดข้อมูลที่มีข้อมูลส่วนบุคคลออกจากชุดทั่วไป และเปิดให้เฉพาะกลุ่มที่มีสิทธิ์เข้าถึงเดิมอยู่แล้วเท่านั้น การลดขอบเขตข้อมูลตั้งแต่ต้นลดความเสี่ยงได้มากกว่าการเพิ่มการควบคุมทีหลัง
- ระยะเวลาเก็บรักษาและการลบ
- เอกสารต้นทาง ดัชนี vector และประวัติการสนทนามีรอบการเก็บของตัวเอง ตั้งค่าได้แยกกัน เมื่อเอกสารถูกลบจากต้นทาง ระบบต้องลบทั้งดัชนีและสำเนาที่ใช้ค้นคืนด้วย ไม่ใช่ลบเฉพาะไฟล์ต้นฉบับ
- สิทธิของเจ้าของข้อมูล
- คำขอเข้าถึง แก้ไข หรือลบข้อมูลส่วนบุคคลต้องทำได้จริงในระบบ ไม่ใช่เพียงในนโยบาย เราออกแบบให้ค้นหาได้ว่าข้อมูลของบุคคลหนึ่งปรากฏอยู่ในชุดข้อมูลใดบ้าง และลบออกจากทุกชั้นได้ในรอบเดียว
- การประเมินผลกระทบ
- สำหรับการประมวลผลที่มีความเสี่ยงสูง องค์กรอาจต้องจัดทำการประเมินผลกระทบด้านการคุ้มครองข้อมูล เราจัดเตรียมเอกสารด้านเทคนิคที่ใช้ประกอบ ได้แก่ แผนผังการไหลของข้อมูล รายการมาตรการควบคุม และขอบเขตการเข้าถึงของแต่ละบทบาท
Identity และ access
ใครเข้าถึงอะไรได้
การควบคุมสิทธิ์ที่ถูกต้องเกิดก่อนโมเดลจะเห็นข้อมูล การกรองผลลัพธ์หลังโมเดลตอบแล้วไม่นับเป็นการควบคุม
- SSO ด้วยบัญชีองค์กรเดิม
- เชื่อมกับ identity provider ที่ใช้อยู่ผ่าน SAML 2.0 หรือ OIDC ไม่มีการสร้างชุดรหัสผ่านใหม่ให้ต้องดูแล เมื่อพนักงานลาออกและถูกปิดบัญชีใน directory การเข้าถึง AI ก็ปิดตามทันทีในรอบเดียวกัน
- สิทธิ์ระดับเอกสาร
- การควบคุมสิทธิ์เกิดขึ้นก่อนการค้นคืน ไม่ใช่หลังจากโมเดลตอบแล้ว เอกสารที่ผู้ใช้ไม่มีสิทธิ์เข้าถึงจะไม่ถูกส่งเข้าไปเป็นบริบทของคำตอบตั้งแต่แรก จึงไม่มีทางรั่วผ่านการสรุปหรือการอ้างอิง
- การแยกบทบาทผู้ดูแล
- ผู้ดูแลระบบ ผู้ดูแลข้อมูล และผู้ใช้ทั่วไปมีสิทธิ์แยกกัน การเข้าถึงข้อมูลเชิงเนื้อหาโดยผู้ดูแลระบบต้องมีเหตุผลกำกับและถูกบันทึก การให้สิทธิ์รวมศูนย์ไว้ที่คนเดียวเป็นความเสี่ยงที่ผู้ตรวจสอบมักตั้งคำถามเป็นอันดับแรก
- การเข้าถึงจากภายนอกและเครือข่าย
- ระบบเปิดให้เข้าถึงเฉพาะจากเครือข่ายภายในหรือผ่าน VPN ตามที่องค์กรกำหนด การเชื่อมต่อทั้งหมดเข้ารหัสระหว่างทาง และ storage ที่เก็บเอกสารกับดัชนีเข้ารหัสขณะพัก
Audit และ monitoring
ตรวจสอบย้อนหลังได้แค่ไหน
ระบบที่ตอบไม่ได้ว่าใครถามอะไรและใช้เอกสารใดตอบ คือระบบที่ผ่านการตรวจสอบไม่ได้ ไม่ว่าจะปลอดภัยเพียงใด
- บันทึกทุกคำถามและทุกการอ้างอิง
- audit log เก็บว่าใครถามอะไร เมื่อไร โมเดลใดตอบ และเอกสารใดถูกใช้ประกอบคำตอบ ระดับรายละเอียดนี้คือสิ่งที่ทำให้ตอบคำถามของผู้ตรวจสอบได้ว่าข้อมูลชิ้นหนึ่งถูกใช้ไปในบริบทใดบ้าง
- ส่งออกไปยังระบบกลางขององค์กร
- log ส่งต่อไปยัง SIEM หรือระบบเก็บ log กลางที่องค์กรใช้อยู่ได้ ไม่ถูกขังไว้ในระบบ AI อย่างเดียว การเก็บ log ไว้เฉพาะในระบบที่ถูกตรวจสอบเองไม่เป็นที่ยอมรับในการตรวจสอบส่วนใหญ่
- การเฝ้าระวังเชิงปฏิบัติการ
- GPU utilization, latency ต่อคำขอ, ความยาวคิว, อัตราความล้มเหลว และความพร้อมใช้งานของบริการ ส่งเข้าระบบ monitoring ที่ใช้อยู่ผ่านรูปแบบมาตรฐาน พร้อมเกณฑ์แจ้งเตือนที่ตกลงกันไว้ล่วงหน้า
- ธรรมาภิบาลของโมเดล
- บันทึกว่าโมเดลรุ่นใดให้บริการอยู่ในช่วงเวลาใด เปลี่ยนเมื่อไร และใครอนุมัติ เมื่อคำตอบในอดีตถูกตั้งคำถาม ต้องย้อนได้ว่าโมเดลและชุดข้อมูลใดเป็นผู้ให้คำตอบนั้น
Data residency
ข้อมูลอยู่ที่ไหนและออกไปไหนบ้าง
คำตอบต้องเป็นสถานที่ที่ระบุได้ ไม่ใช่คำว่าปลอดภัย
- ที่ตั้งของข้อมูล
- เมื่อระบบรัน on-premise ข้อมูลอยู่ในประเทศไทยและอยู่ในอาคารที่องค์กรควบคุม สำหรับรูปแบบ private cloud เราระบุภูมิภาคของศูนย์ข้อมูลไว้ในเอกสารสถาปัตยกรรม เพื่อให้ฝ่ายกฎหมายประเมินการโอนข้อมูลข้ามพรมแดนได้
- ไม่มีการส่งข้อมูลออกเพื่อเทรนโมเดล
- โมเดลที่ติดตั้งเป็นน้ำหนักที่รันอยู่ในเครื่องขององค์กร คำถามและเอกสารไม่ถูกส่งไปยังผู้ให้บริการภายนอก และไม่ถูกนำไปใช้ปรับปรุงโมเดลของผู้ใด หากองค์กรเลือกใช้ API ภายนอกสำหรับงานบางส่วน เราระบุขอบเขตนั้นไว้ชัดเจนแยกต่างหาก
- การสำรองข้อมูลและกู้คืน
- แผนสำรองข้อมูลครอบคลุมเอกสารต้นทาง ดัชนี และการตั้งค่าระบบ พร้อมกำหนดเป้าหมายเวลาในการกู้คืนที่ตกลงกันไว้ สำเนาสำรองอยู่ภายใต้การควบคุมการเข้าถึงและการเข้ารหัสชุดเดียวกับระบบหลัก
ส่งข้อกำหนดด้านความปลอดภัยและกฎระเบียบขององค์กรมาให้เรา แล้วเราจะตอบว่าสถาปัตยกรรมต้องเปลี่ยนตรงไหนบ้างเพื่อให้ผ่าน
ปรึกษา Enterprise AI Architect