Private AI และอธิปไตยของข้อมูล
โมเดลและข้อมูลอยู่ในเครือข่ายขององค์กร ไม่มี prompt เอกสาร หรือผลลัพธ์ถูกส่งออกไปยัง API ภายนอก และไม่มีข้อมูลของคุณถูกนำไปเทรนโมเดลของผู้ให้บริการรายใด
โครงสร้างพื้นฐานและการวางระบบ Enterprise AI สำหรับองค์กรในประเทศไทย
Enterprise AI Thailand คือผู้วางระบบ AI ระดับองค์กรในประเทศไทย ออกแบบสถาปัตยกรรม จัดหา GPU ติดตั้ง private LLM และดูแลระบบให้รันอยู่ในศูนย์ข้อมูลขององค์กรเอง ข้อมูลไม่ออกจากเครือข่าย สิทธิ์การเข้าถึงยึดตาม IAM ที่ใช้อยู่แล้ว และทุกคำถามถูกบันทึกไว้ให้ตรวจสอบได้
สถาปัตยกรรมอ้างอิง
ชั้นของระบบ AI ในองค์กร
ทุกโครงการที่เราส่งมอบมีรูปร่างเดียวกันนี้ ต่างกันที่ขนาดของแต่ละชั้น การตัดสินใจที่แพงที่สุดคือชั้นล่างสุด จึงต้องเริ่มจากงานที่พนักงานจะใช้จริงก่อนเสมอ
พนักงาน (Employees)
01ผู้ใช้งานจริงในองค์กร เข้าผ่านบัญชีเดิมด้วย SSO ไม่ต้องจำรหัสผ่านชุดใหม่
Enterprise AI Interface
02หน้าจอสนทนา ค้นหาเอกสาร และเรียกใช้งาน agent สิทธิ์การเข้าถึงยึดตามกลุ่มใน IAM
Mimir Suites
03ชั้นซอฟต์แวร์ที่เชื่อมหน้าจอผู้ใช้เข้ากับโมเดล จัดการสิทธิ์ ข้อมูลองค์กร และ audit log
- RAG
- Agents
- OCR
- Applications
Model Serving
04รันโมเดลด้วย vLLM หรือ TGI ทำ batching และ routing ระหว่างโมเดลหลายตัวบนคลัสเตอร์เดียว
GPU Infrastructure
05เซิร์ฟเวอร์ GPU, storage, networking และระบบสำรอง ตั้งอยู่ในศูนย์ข้อมูลที่องค์กรกำหนด
สิ่งที่องค์กรต้องได้
เจ็ดเรื่องที่ระบบ AI ระดับองค์กรต้องตอบให้ได้
รายการนี้คือคำถามที่ฝ่าย IT security และฝ่ายกฎหมายถามก่อนอนุมัติทุกครั้ง เราออกแบบระบบโดยตอบคำถามเหล่านี้ตั้งแต่ขั้นสถาปัตยกรรม ไม่ใช่ตอนตรวจรับ
PDPA
ระบุผู้ควบคุมข้อมูลและฐานการประมวลผลให้ชัด กำหนดระยะเวลาเก็บรักษา แยกข้อมูลส่วนบุคคลออกจากดัชนีที่ไม่จำเป็น และรองรับการใช้สิทธิของเจ้าของข้อมูล
SSO, IAM และ audit logging
เข้าใช้งานด้วยบัญชีองค์กรเดิมผ่าน SAML หรือ OIDC สิทธิ์เข้าถึงเอกสารยึดตามกลุ่มใน directory ที่ใช้อยู่ และทุกคำถามพร้อมเอกสารที่ถูกอ้างอิงถูกบันทึกไว้ตรวจสอบย้อนหลังได้
High availability และ GPU cluster
ออกแบบให้มีเครื่องสำรอง กระจายโหลดระหว่างโหนด และถอดเครื่องออกบำรุงรักษาได้โดยบริการไม่หยุด ขนาดคลัสเตอร์มาจากจำนวนผู้ใช้พร้อมกันจริง ไม่ใช่ตัวเลขมาตรฐาน
On-premise และ hybrid
รันทั้งหมดในศูนย์ข้อมูลขององค์กร หรือแยกเฉพาะงานที่ไม่อ่อนไหวออกไป private cloud ทั้งสองแบบใช้ชั้นซอฟต์แวร์และการควบคุมสิทธิ์ชุดเดียวกัน
Monitoring และ SLA
เฝ้าดู GPU utilization, latency ต่อคำขอ, ความยาวคิว และความพร้อมใช้งาน ส่งเข้าระบบ monitoring ที่องค์กรใช้อยู่ พร้อมข้อตกลงระดับบริการเป็นลายลักษณ์อักษร
Enterprise support
ทีมที่ออกแบบและติดตั้งเป็นทีมเดียวกับที่ดูแลต่อ ครอบคลุมการอัปเดตโมเดล การขยายระบบเมื่อผู้ใช้เพิ่ม และการตรวจสอบร่วมกับฝ่าย IT security
วิธีทำงานร่วมกัน
โครงการหนึ่งเดินอย่างไร
ห้าขั้นตอน ตั้งแต่คุยกันครั้งแรกจนถึงการดูแลระบบที่ใช้งานจริง แต่ละขั้นมีสิ่งที่คุณได้รับเป็นเอกสารหรือระบบที่จับต้องได้ ไม่ใช่การประชุมเพิ่ม
- 01 · Assessment
ประเมินความต้องการ
เก็บ use case จริงจากหน่วยงานที่จะใช้ ปริมาณผู้ใช้ ประเภทและปริมาณเอกสาร ข้อจำกัดด้านกฎระเบียบ และระบบเดิมที่ต้องเชื่อมต่อ
- 02 · Architecture
ออกแบบสถาปัตยกรรม
เลือกกลุ่มโมเดลที่เหมาะกับงานและภาษาไทย ประเมิน VRAM, storage, network และจำนวนคำขอพร้อมกัน แล้วส่งมอบเอกสารสถาปัตยกรรมที่ทีม IT ตรวจสอบได้
- 03 · Procurement
จัดหา
จัดหาเซิร์ฟเวอร์ GPU และอุปกรณ์ประกอบผ่านผู้จัดจำหน่ายและ OEM พร้อมเอกสารสเปกและรายการที่ใช้กับกระบวนการจัดซื้อขององค์กรได้โดยตรง
- 04 · Deployment
ติดตั้งและส่งมอบ
ติดตั้ง hardware ตั้งค่า model serving วาง Mimir Suites เชื่อม SSO และ IAM นำเอกสารองค์กรเข้าระบบ แล้วส่งมอบพร้อมการอบรมผู้ดูแลและผู้ใช้
- 05 · Operations
ดูแลระบบต่อเนื่อง
monitoring, การอัปเดตโมเดลและซอฟต์แวร์, การขยายระบบเมื่อผู้ใช้เพิ่มขึ้น และการสนับสนุนตามระดับบริการที่ตกลงไว้
ชั้นซอฟต์แวร์
Mimir Suites คือชั้น AI ขององค์กร
Mimir Suites is the enterprise AI layer between the employee interface and model serving (RAG, agents, OCR, applications).
ระหว่างหน้าจอที่พนักงานใช้กับโมเดลที่รันอยู่บน GPU ยังมีงานอีกชั้นหนึ่งที่ต้องมีคนทำ ได้แก่ การค้นเอกสารที่เกี่ยวข้องมาให้โมเดล การควบคุมว่าใครเห็นอะไรได้ การเก็บ audit log และการเชื่อมผลลัพธ์กลับเข้าระบบงานเดิม
Mimir Suites ทำงานชั้นนั้น องค์กรจึงไม่ต้องประกอบเครื่องมือหลายตัวเข้าด้วยกันเอง และไม่ต้องผูกสถาปัตยกรรมทั้งระบบไว้กับผู้ให้บริการโมเดลรายใดรายหนึ่ง เมื่อเปลี่ยนโมเดล ชั้นบนที่พนักงานใช้ยังเหมือนเดิม
ติดต่อ
คุยกับ Enterprise AI Architect
บอกเราว่าองค์กรต้องการให้ AI ทำอะไร เราตอบกลับด้วยสถาปัตยกรรมที่เป็นไปได้ ข้อกำหนดด้าน hardware และประเด็นด้านความปลอดภัยที่ต้องตัดสินใจ ก่อนจะมีการเสนอราคาใดๆ