ระบบ AI ครบชุดภายในองค์กรของคุณ
Private AI Server: AI ส่วนตัวในองค์กร
Private AI server คือเครื่องเดียวที่รวม LLM, RAG, OCR และ AI agent ไว้ในเครือข่ายขององค์กรคุณเอง เหมาะกับองค์กรที่ข้อมูลออกนอกบริษัทไม่ได้ ต้องใช้เครื่องที่ตั้งอยู่ในไซต์ของคุณ ข้อมูล เอกสาร และคำถามจึงอยู่ในองค์กร ไม่ถูกส่งออกไปยังบริการภายนอก
ใครต้องการเครื่องแบบนี้
องค์กรที่ข้อมูลออกจากบริษัทไม่ได้
ไม่ใช่ทุกองค์กรที่ต้องมีเครื่องของตัวเอง แต่เมื่อข้อมูลที่อยากให้ AI อ่านคือข้อมูลที่รั่วไม่ได้ คำถามจะเปลี่ยนจากค่าใช้จ่ายต่อเดือน ไปเป็นข้อมูลอยู่ที่ไหนและใครเข้าถึงได้บ้าง
โรงพยาบาลและคลินิก
เวชระเบียน ผลตรวจ และบันทึกทางคลินิก เป็นข้อมูลอ่อนไหวที่ออกจากองค์กรไม่ได้
ธนาคารและสถาบันการเงิน
ข้อมูลลูกค้า สินเชื่อ และธุรกรรม ต้องอยู่ในระบบที่ตรวจสอบย้อนหลังได้
สำนักงานกฎหมาย
สัญญาและสำนวนคดีของลูกความ อยู่ภายใต้หน้าที่รักษาความลับ
โรงงานและภาคการผลิต
สูตรการผลิต ค่าพารามิเตอร์ของเครื่องจักร และข้อมูลคุณภาพ เป็นทรัพย์สินทางปัญญา
องค์กรที่ข้อมูลออกนอกประเทศไม่ได้
งานราชการ และงานภายใต้สัญญาที่กำหนดให้ข้อมูลอยู่ในประเทศไทย
สิ่งที่รันอยู่บนเครื่อง
ทั้งระบบอยู่ที่ไซต์ ไม่ใช่แค่ตัวโมเดล
private AI server ที่คนใช้งานจริงต้องมีทั้งโมเดล ฐานความรู้ การอ่านเอกสาร และชั้นจัดการผู้ใช้ อยู่บนเครื่องเดียวกัน
LLM
โมเดลภาษาสำหรับแชท สรุป แปล และร่างเอกสาร รันบน GPU ในเครื่องของคุณเอง
RAG
ฐานความรู้ที่สร้างจากเอกสารภายใน ตอบพร้อมอ้างอิงหน้าเอกสาร โดย index ทั้งหมดอยู่บนเครื่อง
OCR
แปลงเอกสารสแกน ใบแจ้งหนี้ และแบบฟอร์ม ให้เป็นข้อความที่ค้นและประมวลผลต่อได้
AI agent
งานหลายขั้นตอนที่ต่อเข้ากับระบบภายใน ดึงข้อมูล สรุป แล้วเขียนผลกลับเข้าระบบ
Mimir Suites
ชั้นที่ทำให้ส่วนที่เหลือใช้งานได้จริง คือ ล็อกอิน สิทธิรายฝ่าย แอปหน้าบ้าน และการจัดการโมเดล
เทียบกับ AI บนคลาวด์
| หัวข้อ | private AI server | AI บนคลาวด์ |
|---|---|---|
| ที่อยู่ของข้อมูล | อยู่บนเครื่องของคุณและในเครือข่ายของคุณ ณ สถานที่ที่ระบุได้ | อยู่บนโครงสร้างพื้นฐานของผู้ให้บริการ ซึ่งอาจอยู่นอกประเทศ |
| รูปแบบของต้นทุน | ลงทุนฮาร์ดแวร์ครั้งเดียว บวกค่าดูแลและค่าไฟรายปี | จ่ายรายเดือนตามการใช้งาน โดยไม่มีสินทรัพย์เหลืออยู่ |
| การควบคุมโมเดล | คุณเลือกและตรึงเวอร์ชันของโมเดลเอง แล้วเปลี่ยนเมื่อพร้อม | ผู้ให้บริการอัปเดตหรือยกเลิกโมเดลได้ตามกำหนดของเขาเอง |
| latency | อยู่ในเครือข่ายภายใน ไม่ขึ้นกับอินเทอร์เน็ตขาออกของคุณ | ขึ้นกับเส้นทางอินเทอร์เน็ต และระยะทางไปยัง region ที่ใช้ |
| ความรับผิดชอบตาม PDPA | คุณเป็นผู้ควบคุมข้อมูล และไม่มีข้อมูลออกไปยังผู้ประมวลผลภายนอก | ต้องมีข้อตกลงกับผู้ประมวลผล และจัดการเรื่องการโอนข้อมูลข้ามพรมแดน |
ความปลอดภัย
อยู่ที่ไซต์แล้วก็ยังต้องออกแบบให้ปลอดภัย
การวางเครื่องไว้ในอาคารของคุณเองตัดความเสี่ยงที่ข้อมูลจะออกนอกองค์กร แต่ยังต้องตัดสินใจว่าใครเข้าถึงอะไรได้ และตรวจสอบย้อนหลังได้ไกลแค่ไหน
- การแบ่งเครือข่าย
- เครื่อง AI อยู่ใน segment ของตัวเอง เปิดเฉพาะ port ที่แอปภายในต้องใช้ และไม่เปิดออกอินเทอร์เน็ตโดยตรง
- ไม่ต้องใช้อินเทอร์เน็ตในการทำ inference
- เมื่อโมเดลอยู่บนเครื่องแล้ว การถามตอบยังทำงานได้แม้อินเทอร์เน็ตถูกตัด อินเทอร์เน็ตใช้เฉพาะการอัปเดตตามรอบที่คุณกำหนด
- การบันทึกการใช้งาน
- บันทึกว่าใครถามอะไร โมเดลใดตอบ และอ้างอิงเอกสารใด สำหรับการตรวจสอบภายใน และการสืบหาสาเหตุเมื่อเกิดปัญหา
- สิทธิแยกตามฝ่าย
- กลุ่มผู้ใช้เป็นตัวกำหนดว่าใครเห็นชุดเอกสารใด และเรียกใช้โมเดลใดได้ ตั้งค่าจากศูนย์กลาง และผูกกับ directory ผู้ใช้ที่องค์กรใช้อยู่แล้วได้
- การสำรองและกู้คืน
- สำรองโมเดล index การตั้งค่า และ log การใช้งาน พร้อมทดสอบกู้คืนจริงตอนส่งมอบ ไม่ใช่แค่ตั้งค่าไว้เฉย ๆ
ขนาดเครื่องตามขนาดองค์กร
เริ่มจากจำนวนผู้ใช้และขอบเขตของงาน
สามจุดตั้งต้น ตัวเลขจริงขึ้นกับโมเดลที่คุณเลือก ความยาว context และจำนวนคนที่ใช้พร้อมกันในช่วงที่ยุ่งที่สุดของวัน
| ขนาดองค์กร | ผู้ใช้ทั้งหมด | ขนาดเครื่อง | ขอบเขตของงาน | หมายเหตุ |
|---|---|---|---|---|
| องค์กรขนาดเล็ก | 10 ถึง 50 | ระดับ Workstation ถึง Server 1 GPU | แชท LLM ภายใน และ RAG บนคลังเอกสารเดียว | เริ่มจากฝ่ายที่มีปัญหาชัดที่สุด แล้วค่อยขยายเมื่อพิสูจน์ผลแล้ว |
| องค์กรขนาดกลาง | 50 ถึง 200 | Server 1 GPU ถึง Server 4 GPU | LLM, RAG, OCR และ AI agent ชุดแรก | หลายฝ่ายใช้ร่วมกัน จึงต้องมีสิทธิและระบบคิวตั้งแต่วันแรก |
| องค์กรขนาดใหญ่ | 200 ขึ้นไป | Server 8 GPU หรือหลายเครื่อง | หลายโมเดลพร้อมกัน, AI agent และ fine-tuning ภายในองค์กร | ออกแบบให้มีระบบสำรอง และช่วงบำรุงรักษาที่ไม่ทำให้ระบบหยุด |
คำถามที่พบบ่อย
คำถามที่มักเกิดขึ้นก่อนนำ AI เข้ามาไว้ในองค์กร
- AI แบบส่วนตัวช้ากว่าบริการบนคลาวด์ไหม
- ขึ้นกับขนาดของเครื่องเทียบกับโมเดลที่คุณเลือก เครื่องที่มี VRAM พอสำหรับโมเดลและสำหรับจำนวนผู้ใช้พร้อมกัน ตอบได้เร็วพอให้คนทำงานต่อเนื่อง และไม่ต้องวิ่งออกอินเทอร์เน็ต เราคำนวณให้จากงานจริงของคุณก่อนเสนอสเปก
- ต้องมีทีม IT ของตัวเองไหม
- มีผู้ดูแลระบบหนึ่งคนเป็นผู้ประสานงานก็พอ และไม่จำเป็นต้องมีประสบการณ์ด้าน AI มาก่อน เราติดตั้ง ตั้งค่า อบรมทีมของคุณ และส่งมอบเอกสารระบบ พร้อมดูแลต่อเนื่องภายใต้สัญญาบริการ
- ใช้ร่วมกับระบบที่มีอยู่แล้วได้ไหม
- ได้ ระบบเปิด API มาตรฐานไว้ในเครือข่ายภายใน ระบบเอกสารเดิม ERP หรือเว็บแอปภายใน จึงเรียกใช้ได้ การเชื่อมต่อที่ลึกกว่านั้นเป็นงานออกแบบอีกชุดหนึ่ง ซึ่งเรากำหนดขอบเขตกันตั้งแต่ต้น
- เริ่มเล็กแล้วค่อยขยายได้ไหม
- ได้ และเราแนะนำแบบนั้น เริ่มจากงานเดียวที่วัดผลได้ เช่น การถามตอบจากคู่มือ แล้วค่อยเพิ่ม OCR หรือ AI agent เมื่อทีมคุ้นเคยแล้ว เราเลือกฮาร์ดแวร์ที่เหลือ slot GPU และมีเส้นทางขยายไว้ตั้งแต่เครื่องแรก
บอกเรามาว่าข้อมูลชุดไหนออกจากองค์กรไม่ได้
ส่งมาว่าอยากให้ AI ทำอะไร กับข้อมูลแบบไหน และมีคนใช้กี่คน เราตอบกลับพร้อมขอบเขตของระบบ และสเปกเครื่องที่เก็บทุกอย่างไว้ในองค์กร