ความปลอดภัยและธรรมาภิบาล
ความปลอดภัย AI
ธรรมาภิบาล AI ในองค์กรไทยตั้งอยู่บนสี่เรื่อง ได้แก่ PDPA การควบคุมสิทธิ์ผ่าน SSO และ IAM การเก็บ audit log ที่ตรวจย้อนหลังได้ และที่ตั้งของข้อมูล หน้านี้เขียนสำหรับ CISO ฝ่ายตรวจสอบภายใน และฝ่ายกฎหมาย ทุกข้อออกแบบไว้ตั้งแต่ขั้นสถาปัตยกรรม ไม่ใช่เพิ่มตอนตรวจรับ
PDPA
PDPA กระทบระบบ AI ตรงไหน
ระบบ AI ที่ค้นเอกสารภายในได้ย่อมแตะข้อมูลส่วนบุคคลไม่ทางใดก็ทางหนึ่ง คำถามจึงไม่ใช่ว่าจะแตะหรือไม่ แต่คือแตะโดยมีฐานอะไรและควบคุมอย่างไร
- ผู้ควบคุมข้อมูลยังคงเป็นองค์กร
- เมื่อระบบรันในศูนย์ข้อมูลขององค์กร ข้อมูลส่วนบุคคลไม่ถูกส่งต่อไปยังผู้ประมวลผลรายอื่น องค์กรจึงคงสถานะผู้ควบคุมข้อมูลไว้เต็มรูปแบบ เราเข้ามาในฐานะผู้ให้บริการติดตั้งและดูแลระบบ และขอบเขตการเข้าถึงของเราถูกกำหนดไว้ในสัญญาเป็นลายลักษณ์อักษร
- ฐานการประมวลผลที่ระบุได้
- ก่อนนำเอกสารชุดใดเข้าระบบ ต้องระบุได้ว่าใช้ฐานใดตาม PDPA เช่น การปฏิบัติตามสัญญา หน้าที่ตามกฎหมาย หรือประโยชน์โดยชอบด้วยกฎหมาย เราช่วยจัดทำรายการชุดข้อมูลพร้อมฐานการประมวลผลของแต่ละชุด เพื่อให้ฝ่ายกฎหมายตรวจสอบได้ก่อนเริ่มใช้งาน
- การจำกัดข้อมูลเท่าที่จำเป็น
- ไม่ใช่ทุกเอกสารควรอยู่ในดัชนีที่ AI ค้นได้ เราแยกชุดข้อมูลที่มีข้อมูลส่วนบุคคลออกจากชุดทั่วไป และเปิดให้เฉพาะกลุ่มที่มีสิทธิ์เข้าถึงเดิมอยู่แล้วเท่านั้น การลดขอบเขตข้อมูลตั้งแต่ต้นลดความเสี่ยงได้มากกว่าการเพิ่มการควบคุมทีหลัง
- ระยะเวลาเก็บรักษาและการลบ
- เอกสารต้นทาง ดัชนี vector และประวัติการสนทนามีรอบการเก็บของตัวเอง ตั้งค่าได้แยกกัน เมื่อเอกสารถูกลบจากต้นทาง ระบบต้องลบทั้งดัชนีและสำเนาที่ใช้ค้นคืนด้วย ไม่ใช่ลบเฉพาะไฟล์ต้นฉบับ
- สิทธิของเจ้าของข้อมูล
- คำขอเข้าถึง แก้ไข หรือลบข้อมูลส่วนบุคคลต้องทำได้จริงในระบบ ไม่ใช่เพียงในนโยบาย เราออกแบบให้ค้นหาได้ว่าข้อมูลของบุคคลหนึ่งปรากฏอยู่ในชุดข้อมูลใดบ้าง และลบออกจากทุกชั้นได้ในรอบเดียว
- การประเมินผลกระทบ
- สำหรับการประมวลผลที่มีความเสี่ยงสูง องค์กรอาจต้องจัดทำการประเมินผลกระทบด้านการคุ้มครองข้อมูล เราจัดเตรียมเอกสารด้านเทคนิคที่ใช้ประกอบ ได้แก่ แผนผังการไหลของข้อมูล รายการมาตรการควบคุม และขอบเขตการเข้าถึงของแต่ละบทบาท
Identity และ access
ใครเข้าถึงอะไรได้
การควบคุมสิทธิ์ที่ถูกต้องเกิดก่อนโมเดลจะเห็นข้อมูล การกรองผลลัพธ์หลังโมเดลตอบแล้วไม่นับเป็นการควบคุม
- SSO ด้วยบัญชีองค์กรเดิม
- เชื่อมกับ identity provider ที่ใช้อยู่ผ่าน SAML 2.0 หรือ OIDC ไม่มีการสร้างชุดรหัสผ่านใหม่ให้ต้องดูแล เมื่อพนักงานลาออกและถูกปิดบัญชีใน directory การเข้าถึง AI ก็ปิดตามทันทีในรอบเดียวกัน
- สิทธิ์ระดับเอกสาร
- การควบคุมสิทธิ์เกิดขึ้นก่อนการค้นคืน ไม่ใช่หลังจากโมเดลตอบแล้ว เอกสารที่ผู้ใช้ไม่มีสิทธิ์เข้าถึงจะไม่ถูกส่งเข้าไปเป็นบริบทของคำตอบตั้งแต่แรก จึงไม่มีทางรั่วผ่านการสรุปหรือการอ้างอิง
- การแยกบทบาทผู้ดูแล
- ผู้ดูแลระบบ ผู้ดูแลข้อมูล และผู้ใช้ทั่วไปมีสิทธิ์แยกกัน การเข้าถึงข้อมูลเชิงเนื้อหาโดยผู้ดูแลระบบต้องมีเหตุผลกำกับและถูกบันทึก การให้สิทธิ์รวมศูนย์ไว้ที่คนเดียวเป็นความเสี่ยงที่ผู้ตรวจสอบมักตั้งคำถามเป็นอันดับแรก
- การเข้าถึงจากภายนอกและเครือข่าย
- ระบบเปิดให้เข้าถึงเฉพาะจากเครือข่ายภายในหรือผ่าน VPN ตามที่องค์กรกำหนด การเชื่อมต่อทั้งหมดเข้ารหัสระหว่างทาง และ storage ที่เก็บเอกสารกับดัชนีเข้ารหัสขณะพัก
Audit และ monitoring
ตรวจสอบย้อนหลังได้แค่ไหน
ระบบที่ตอบไม่ได้ว่าใครถามอะไรและใช้เอกสารใดตอบ คือระบบที่ผ่านการตรวจสอบไม่ได้ ไม่ว่าจะปลอดภัยเพียงใด
- บันทึกทุกคำถามและทุกการอ้างอิง
- audit log เก็บว่าใครถามอะไร เมื่อไร โมเดลใดตอบ และเอกสารใดถูกใช้ประกอบคำตอบ ระดับรายละเอียดนี้คือสิ่งที่ทำให้ตอบคำถามของผู้ตรวจสอบได้ว่าข้อมูลชิ้นหนึ่งถูกใช้ไปในบริบทใดบ้าง
- ส่งออกไปยังระบบกลางขององค์กร
- log ส่งต่อไปยัง SIEM หรือระบบเก็บ log กลางที่องค์กรใช้อยู่ได้ ไม่ถูกขังไว้ในระบบ AI อย่างเดียว การเก็บ log ไว้เฉพาะในระบบที่ถูกตรวจสอบเองไม่เป็นที่ยอมรับในการตรวจสอบส่วนใหญ่
- การเฝ้าระวังเชิงปฏิบัติการ
- GPU utilization, latency ต่อคำขอ, ความยาวคิว, อัตราความล้มเหลว และความพร้อมใช้งานของบริการ ส่งเข้าระบบ monitoring ที่ใช้อยู่ผ่านรูปแบบมาตรฐาน พร้อมเกณฑ์แจ้งเตือนที่ตกลงกันไว้ล่วงหน้า
- ธรรมาภิบาลของโมเดล
- บันทึกว่าโมเดลรุ่นใดให้บริการอยู่ในช่วงเวลาใด เปลี่ยนเมื่อไร และใครอนุมัติ เมื่อคำตอบในอดีตถูกตั้งคำถาม ต้องย้อนได้ว่าโมเดลและชุดข้อมูลใดเป็นผู้ให้คำตอบนั้น
Data residency
ข้อมูลอยู่ที่ไหนและออกไปไหนบ้าง
คำตอบต้องเป็นสถานที่ที่ระบุได้ ไม่ใช่คำว่าปลอดภัย
- ที่ตั้งของข้อมูล
- เมื่อระบบรัน on-premise ข้อมูลอยู่ในประเทศไทยและอยู่ในอาคารที่องค์กรควบคุม สำหรับรูปแบบ private cloud เราระบุภูมิภาคของศูนย์ข้อมูลไว้ในเอกสารสถาปัตยกรรม เพื่อให้ฝ่ายกฎหมายประเมินการโอนข้อมูลข้ามพรมแดนได้
- ไม่มีการส่งข้อมูลออกเพื่อเทรนโมเดล
- โมเดลที่ติดตั้งเป็นน้ำหนักที่รันอยู่ในเครื่องขององค์กร คำถามและเอกสารไม่ถูกส่งไปยังผู้ให้บริการภายนอก และไม่ถูกนำไปใช้ปรับปรุงโมเดลของผู้ใด หากองค์กรเลือกใช้ API ภายนอกสำหรับงานบางส่วน เราระบุขอบเขตนั้นไว้ชัดเจนแยกต่างหาก
- การสำรองข้อมูลและกู้คืน
- แผนสำรองข้อมูลครอบคลุมเอกสารต้นทาง ดัชนี และการตั้งค่าระบบ พร้อมกำหนดเป้าหมายเวลาในการกู้คืนที่ตกลงกันไว้ สำเนาสำรองอยู่ภายใต้การควบคุมการเข้าถึงและการเข้ารหัสชุดเดียวกับระบบหลัก
ส่งข้อกำหนดด้านความปลอดภัยและกฎระเบียบขององค์กรมาให้เรา แล้วเราจะตอบว่าสถาปัตยกรรมต้องเปลี่ยนตรงไหนบ้างเพื่อให้ผ่าน
ปรึกษา Enterprise AI Architect