- หน้าแรก
- บทความของเรา
- จอง GPU ไว้แล้วใช้ไม่เต็ม: inference ควรอยู่บน API, on-demand, capacity ที่จอง หรือเครื่องของเราเอง
จอง GPU ไว้แล้วใช้ไม่เต็ม: inference ควรอยู่บน API, on-demand, capacity ที่จอง หรือเครื่องของเราเอง

ราคาจอง GPU ของ AWS ปรับหลายครั้งในปี 2569 และผู้ตอบแบบสำรวจบางส่วนรายงานว่ามีกำลังที่จองไว้เหลือใช้ ดูว่า inference ควรอยู่ที่ไหนโดยวัดจากความคงที่ของโหลด
สิ่งที่แหล่งข้อมูลบอก และสิ่งที่พิสูจน์ไม่ได้
สมมติว่าทีมของคุณจองเครื่อง GPU ไว้ตลอดไตรมาสเพื่อรัน inference ให้แชตบอตภายใน แล้วเปิดรายงานการใช้งานตอนสิ้นเดือนพบว่าเครื่องว่างอยู่เกินครึ่งของเวลาที่จ่ายเงินไป ตัวเลขแบบนี้ไม่ปรากฏในใบเสนอราคา แต่ปรากฏในงบประมาณ คำถามที่ตามมาคือ inference ของเราควรอยู่ที่ไหนตั้งแต่แรก
บทความนี้ใช้แหล่งข้อมูลสองแหล่ง แหล่งแรกคือหน้าราคา EC2 Capacity Blocks for ML ของ AWS ที่เราเปิดอ่านเองเมื่อวันที่ 12 พฤศจิกายน 2569 หน้านั้นระบุว่า ราคาการจองถูกปรับเป็นระยะตามแนวโน้มอุปทานและอุปสงค์ของ Capacity Blocks ราคาปัจจุบันมีกำหนดปรับครั้งถัดไปในเดือนมกราคม 2570 และการซื้อจะคิดตามอัตราที่ใช้อยู่ ณ วันซื้อ แม้ block จะเริ่มหลังวันที่ราคาเปลี่ยน ค่าบริการประกอบด้วย reservation fee ที่จ่ายล่วงหน้า กับ operating system fee ที่คิดระหว่างที่ instance ทำงาน
แหล่งที่สองคือบทความของ Louis Columbus ใน VentureBeat เมื่อวันที่ 4 พฤศจิกายน 2569 เรื่อง ค่าใช้จ่ายด้าน AI ที่ทำให้บิลขององค์กรสูงขึ้น บทความรายงานว่า AWS ปรับราคา Capacity Blocks for ML ในปี 2569 ราว 15 เปอร์เซ็นต์เมื่อวันที่ 4 มกราคม ราว 10 เปอร์เซ็นต์สำหรับ GPU บางรุ่นในเดือนเมษายน ราว 20 เปอร์เซ็นต์เมื่อวันที่ 1 กรกฎาคม และราว 15 เปอร์เซ็นต์สำหรับ GPU ส่วนใหญ่ในสหรัฐอเมริกาเมื่อวันที่ 7 ตุลาคม เปอร์เซ็นต์เหล่านี้เป็นการรายงานของ VentureBeat เราหาหน้าของ AWS ที่ยืนยันตัวเลขชุดนี้ไม่พบ และหน้าราคาของ AWS เองไม่แสดงประวัติการขึ้นราคา
บทความเดียวกันรายงานผลสำรวจของ VentureBeat Intelligence ที่เก็บข้อมูลในเดือนตุลาคม 2569 มีผู้ตอบ 172 ราย ผ่านเกณฑ์ 156 ราย เป็นคนในองค์กรที่มีพนักงานตั้งแต่ 100 คนขึ้นไป รวมที่ปรึกษา ประมาณ 87 เปอร์เซ็นต์มาจากแผงวิจัย ผู้ตอบเลือกทำแบบสำรวจเอง ตัวเลขจึงอธิบายได้เฉพาะคนกลุ่มนี้ ในกลุ่มนั้น 38 เปอร์เซ็นต์ระบุว่าต้นทุนเกินงบเป็นเหตุให้โครงการ AI ถูกเลื่อน ลดขนาด หรือยกเลิกในรอบ 12 เดือนที่ผ่านมา และ 12 เปอร์เซ็นต์ระบุว่าขาดกำลังประมวลผล บทความไม่ได้ระบุฐานของสองตัวเลขนี้ ส่วนผู้ตอบ 114 รายที่จองกำลังประมวลผลล่วงหน้า 31 เปอร์เซ็นต์บอกว่าเกินหนึ่งในสี่ของค่าใช้จ่ายด้านคอมพิวต์สำหรับ AI ไปอยู่กับกำลังที่จองแล้วไม่ได้ใช้ และ 22 เปอร์เซ็นต์ตอบว่าไม่ทราบ
สิ่งที่ข้อมูลเหล่านี้พิสูจน์ได้คือราคาจองของ AWS ปรับเป็นระยะ และผู้ตอบบางส่วนรายงานว่ามีกำลังที่จองไว้เหลือใช้ สิ่งที่พิสูจน์ไม่ได้คือสัดส่วนของตลาด ราคาที่องค์กรไทยจะได้จริง หรือคำตอบว่า reserved capacity คุ้มหรือไม่คุ้มโดยทั่วไป เราจึงใช้ข้อมูลชุดนี้เป็นเหตุผลให้ตั้งคำถามกับตัวเลขของตัวเอง
ต้นทุนต่อชั่วโมงที่ใช้จริง
ราคาต่อชั่วโมงบนใบเสนอราคาบอกว่าคุณจ่ายเท่าไรต่อชั่วโมงที่จอง ไม่ได้บอกว่าจ่ายเท่าไรต่อชั่วโมงที่มีงานรันจริง สูตรที่เราใช้คือ ต้นทุนต่อชั่วโมงที่ใช้จริง เท่ากับ ราคาที่จ่ายสำหรับการจอง หารด้วยสัดส่วนของการจองที่ใช้จริง
ตัวอย่างต่อไปนี้เป็นตัวเลขสมมติเพื่อแสดงเลขคณิต ไม่อิงราคาของผู้ให้บริการรายใด สมมติจองเครื่องไว้ 200 ชั่วโมง ราคา 10 หน่วยต่อชั่วโมง รวม 2,000 หน่วย แต่มีงานรันจริง 120 ชั่วโมง คือใช้ 60 เปอร์เซ็นต์ ต้นทุนต่อชั่วโมงที่ใช้จริงคือ 2,000 หาร 120 ได้ประมาณ 16.7 หน่วย ซึ่งเท่ากับ 10 หาร 0.6 พอดี การจองที่ใช้ 60 เปอร์เซ็นต์จึงแพงกว่าราคาที่เห็นราวสองในสาม
ค่าหารตัวนี้คือสิ่งที่ใบเสนอราคาไม่แสดง
ถ้าสมมติต่อว่าบริการแบบ on-demand ราคา 15 หน่วยต่อชั่วโมงที่รันจริง จุดคุ้มทุนของการจองคือ 10 หาร 15 หรือใช้ประมาณ 67 เปอร์เซ็นต์ ต่ำกว่านั้นการจ่ายเต็มราคาเฉพาะชั่วโมงที่ใช้ถูกกว่า ตัวเลขเหล่านี้สมมติทั้งหมด ในสัญญาจริงต้องแทนด้วยราคาที่ระบุในใบเสนอของแต่ละราย และเราไม่ยืนยันว่าราคาของรายใดรวมหรือไม่รวม VAT ให้ตรวจแต่ละใบเสนอราคาเอง
อีกเรื่องที่ต้องตกลงกันก่อนวัดคือคำว่า ใช้จริง ถ้านับเฉพาะชั่วโมงที่มี request เข้ามา ตัวเลขจะต่ำกว่าการนับชั่วโมงที่ instance เปิดอยู่ ซึ่งเป็นตัวเลขที่ผู้ดูแลระบบมักรายงานเพราะดึงง่าย เราแนะนำให้ใช้นิยามแรก และเขียนนิยามไว้ในรายงานเพื่อให้เทียบข้ามเดือนได้
ข้อสังเกตจากหน้าราคาของ AWS คือ operating system fee คิดระหว่างที่ instance ทำงาน ส่วนที่ว่างเปล่าจึงเป็นเรื่องของ reservation fee ซึ่งจ่ายล่วงหน้าและไม่ขึ้นกับว่าใช้หรือไม่ สูตรข้างบนจึงใช้กับส่วนนั้นเป็นหลัก ผู้ให้บริการรายอื่นอาจคิดต่างออกไป
สี่ที่ตั้งของ inference
เมื่อพูดถึงการรันโมเดลให้ผู้ใช้ภายในหรือลูกค้าเรียกใช้ ที่ตั้งของงานมีสี่แบบ API ของผู้ให้บริการโมเดลที่โฮสต์ให้ คุณจ่ายตามการเรียกใช้และไม่ต้องดูแลเครื่อง Cloud แบบ on-demand คุณเช่า GPU เป็นชั่วโมงและดูแลซอฟต์แวร์เอง Reserved capacity คุณผูกพันล่วงหน้าเพื่อให้ได้เครื่องแน่นอนหรือราคาต่ำลง และเครื่องของเราเองรวมถึงเครื่องใน data center ขององค์กร
สี่แบบนี้ย้ายความเสี่ยงไปคนละที่ API ย้ายความเสี่ยงเรื่องการใช้งานไปให้ผู้ให้บริการ แต่คุณยังรับความเสี่ยงเรื่องราคาต่อหน่วยและข้อมูลที่ออกนอกขอบเขต On-demand ให้ความยืดหยุ่น โดยคุณรับความเสี่ยงเรื่องความพร้อมของเครื่อง Reserved ย้ายความเสี่ยงเรื่องความพร้อมมาไว้กับคุณในรูปของการผูกพัน ส่วนเครื่องของเราเองเอาทุกอย่างมาไว้ในมือคุณ ทั้งต้นทุนที่จมไปแล้วและภาระการดูแล
เครื่องของเราเองมีข้อดีที่ราคาต่อชั่วโมงไม่เปลี่ยนตามตลาดหลังซื้อ แต่ข้อดีนั้นมาพร้อมเงื่อนไขเดียวกับการจอง คือเครื่องต้องมีงานรันมากพอ ไม่เช่นนั้นต้นทุนที่จมไปจะถูกหารด้วยชั่วโมงใช้จริงที่น้อย ผลลัพธ์ในสูตรจึงออกมาเป็นตัวเลขที่สูงเหมือนกัน
ห้าตัวแปรที่ใช้ตัดสิน
เราไม่แนะนำให้ตัดสินจากราคาหัวตาราง ตัวแปรห้าข้อต่อไปนี้ให้ภาพที่ใช้ปกป้องการตัดสินใจต่อผู้บริหารได้ดีกว่า
โหลดคงที่หรือขึ้นลงแรง
โหลดที่คงที่ตลอดวันทำให้การจองใช้เต็มได้ง่าย โหลดที่พุ่งเป็นช่วงสั้นแล้วหายไปทำให้การจองว่างเกือบตลอดเวลา สำหรับโหลดแบบหลัง API หรือ on-demand มักสอดคล้องกับรูปแบบการใช้งานมากกว่า
จำนวนชั่วโมงต่อวันที่โหลดรันจริง
ระบบที่ใช้เฉพาะเวลาทำการ คือประมาณแปดถึงเก้าชั่วโมงต่อวัน ถ้าจองเครื่องตลอด 24 ชั่วโมง ส่วนที่เหลือคือชั่วโมงว่างที่คุณจ่ายเงิน ลองคำนวณสัดส่วนนี้ก่อนเซ็นสัญญา เพราะมันกำหนดค่าหารในสูตรข้างต้นโดยตรง
ข้อมูลระดับไหนออกนอกขอบเขตได้
ข้อมูลที่ส่งไปยัง API ของผู้ให้บริการภายนอกต้องผ่านการจัดชั้นข้อมูลและนโยบายขององค์กรก่อน หากข้อมูลบางชั้นห้ามออกนอกขอบเขต ตัวเลือกจะเหลือเครื่องของเราเอง หรือ cloud ที่อยู่ภายใต้ข้อตกลงและภูมิภาคที่องค์กรอนุมัติแล้ว ข้อกำหนดทางกฎหมายเฉพาะเรื่องนี้ให้ถามที่ปรึกษากฎหมายขององค์กร เราไม่ระบุมาตราหรือโทษในบทความนี้
ความผูกพันและความเสี่ยงที่ราคาเปลี่ยน
การจองผูกคุณกับปริมาณและช่วงเวลา ส่วนราคาของผู้ให้บริการอาจเปลี่ยนได้ ตัวอย่างที่เราตรวจเองคือ Capacity Blocks ของ AWS ซึ่งระบุว่าราคาปรับตามอุปทานและอุปสงค์ และมีกำหนดปรับครั้งถัดไปในเดือนมกราคม 2570 ข้อมูลข้อนี้มีอายุ ณ วันที่ 12 พฤศจิกายน 2569 ควรเปิดหน้าราคาอีกครั้งก่อนใช้ตัดสินใจ จุดที่น่าสนใจคือราคาที่คิดตามวันซื้อ ไม่ใช่วันเริ่ม block การซื้อก่อนวันปรับราคาจึงล็อกอัตราเดิมไว้ได้ แต่การซื้อรอบถัดไปต้องจ่ายตามอัตราใหม่
ใครในทีมรันและ patch ได้
เครื่องที่เราดูแลเองต้องมีคนอัปเดต driver ปรับ runtime ติดตามช่องโหว่ และเฝ้าระบบนอกเวลา หากทีมมีคนเดียวที่รู้เรื่องนี้ ความเสี่ยงอยู่ที่ตัวบุคคลมากกว่าตัวเครื่อง ถ้าไม่มีใครรับหน้าที่นี้ได้ ตัวเลือก API หรือ cloud ที่จัดการให้จะปลอดภัยกว่า
เรื่องค่าใช้จ่ายที่ไหลผ่านบิลโดยไม่มีใครตั้งงบ เราเขียนไว้แล้วใน บทความเรื่อง cost drift ส่วนการกระจายหลาย cloud เพื่อลดการพึ่งพาผู้ให้บริการรายเดียวอยู่ใน บทความเรื่อง multi-cloud กับ vendor lock-in บทความนี้จึงไม่พูดซ้ำสองเรื่องนั้น
เมื่อผู้รับจ้างซื้อ compute แทนคุณ
หลายโครงการให้ผู้รับจ้างหรือ system integrator เป็นผู้เปิดบัญชีและจอง GPU ให้ระบบของหน่วยงาน กรณีนี้คำถามที่ต้องอยู่ใน TOR และสัญญาคือใครเป็นเจ้าของการจอง ถ้าการจองอยู่ในบัญชีของผู้รับจ้าง เมื่อสัญญาจบ คุณอาจไม่มีสิทธิ์ใช้กำลังที่จ่ายไปแล้ว
คำถามต่อมาคือใครรับภาระกำลังที่จองแล้วไม่ได้ใช้ สัญญาควรระบุว่าชั่วโมงว่างเป็นต้นทุนของฝ่ายใด และมีกลไกปรับขนาดการจองรอบถัดไปจากข้อมูลการใช้จริงหรือไม่ เรื่องการส่งผ่านราคาก็ต้องเขียนให้ชัด ถ้าผู้ให้บริการปรับราคาระหว่างปี สัญญาต้องบอกว่าส่วนต่างส่งต่อมาถึงคุณอย่างไร มีเพดานหรือไม่ มีการแจ้งล่วงหน้ากี่วัน และคุณมีสิทธิ์ปฏิเสธการจองรอบใหม่หรือไม่
สุดท้ายคือรายงาน ให้ผู้รับจ้างส่งตัวเลขชั่วโมงที่จองและชั่วโมงที่ใช้จริงทุกเดือน ในรูปแบบที่คุณตรวจสอบกับ console ของผู้ให้บริการได้เอง ถ้าสัญญาไม่กำหนดข้อมูลนี้ คุณจะรู้ว่ามีกำลังว่างก็ต่อเมื่อบิลมาถึง
ข้อจำกัดที่ต้องบอกตรง ๆ
องค์กรส่วนใหญ่ควรเริ่มจาก API ของผู้ให้บริการโมเดลที่โฮสต์ให้ การตัดสินใจเรื่องที่ตั้งของ inference มีน้ำหนักก็ต่อเมื่อมีโหลดที่คงที่และใหญ่พอ จนกำลังที่จองแล้วว่างปรากฏเป็นบรรทัดหนึ่งในรายงานค่าใช้จ่ายที่มีคนถาม ถ้าคุณยังอยู่ในระยะนำร่อง มีผู้ใช้ไม่กี่สิบคน หรือยังไม่รู้ว่าโหลดจริงหน้าตาเป็นอย่างไร การจองหรือซื้อเครื่องเป็นการแก้ปัญหาที่ยังไม่เกิด และเพิ่มภาระให้ทีม
อีกข้อจำกัดคือผลสำรวจ มันเป็นของกลุ่มผู้ตอบที่เลือกทำเอง ตัวเลขที่ว่า 31 เปอร์เซ็นต์ในกลุ่ม 114 รายรายงานว่ามีกำลังจองเหลือเกินหนึ่งในสี่ของค่าใช้จ่าย บอกได้ว่าปัญหานี้เกิดขึ้นกับบางองค์กร แต่บอกไม่ได้ว่าเกิดกับองค์กรของคุณ ต้องดูจากข้อมูลของคุณเอง
ข้อโต้แย้งที่ได้ยินบ่อย
ข้อโต้แย้งหนึ่งที่เราได้ยินคือ ถ้าไม่จอง วันที่ต้องการใช้ก็อาจไม่มีเครื่อง ข้อกังวลนี้มีน้ำหนัก ผลสำรวจเดียวกันรายงานว่า 12 เปอร์เซ็นต์ของผู้ตอบระบุว่าขาดกำลังประมวลผล การจองมีไว้เพื่อซื้อความแน่นอนข้อนี้ เราเห็นด้วยว่าสำหรับงานที่ล่าช้าไม่ได้ ความแน่นอนมีมูลค่า สิ่งที่เราขอคือให้ตั้งราคาความแน่นอนนั้นเป็นตัวเลข เช่น ยอมจ่ายส่วนต่างเท่าไรต่อเดือนเพื่อให้มีเครื่องรอ แล้วเทียบกับชั่วโมงว่างที่วัดได้ เพื่อให้ขนาดการจองมาจากการคำนวณ
จะเริ่มตรงไหน
เริ่มจากการตั้งเจ้าของการจองเป็นชื่อบุคคลหรือตำแหน่ง ไม่ปล่อยให้เป็นชื่อทีมรวม ๆ คนนี้ต้องเห็นบิลและเห็นการใช้งานในหน้าเดียวกัน จากนั้นวัดสองตัวเลขทุกสัปดาห์ คือชั่วโมงที่จองและชั่วโมงที่มีงานรันจริง แล้วหารกันเป็นสัดส่วนการใช้ เก็บไว้อย่างน้อยหนึ่งไตรมาสก่อนตัดสินใจต่ออายุหรือเพิ่มขนาด
ถ้ายังไม่มีการจอง ให้ทดลองโหลดจริงบน API หรือ on-demand สักช่วงหนึ่งเพื่อดูว่าโหลดคงที่แค่ไหนและต้องใช้กี่ชั่วโมงต่อวัน แล้วค่อยเทียบกับจุดคุ้มทุนตามสูตรข้างต้นด้วยราคาจากใบเสนอจริง ส่วนต้นทุนที่ทีมมักตั้งไว้ด้วยสมมติฐานโดยไม่ได้ตรวจ เราเล่าตัวอย่างหนึ่งไว้ใน บทความเรื่องต้นทุนที่สมมติไว้ในงบ IT
สรุป
ถ้าจะเก็บไว้ข้อเดียวจากบทความนี้ ให้ถามการจองทุกรายการว่า ใน 30 วันที่ผ่านมามันถูกใช้กี่เปอร์เซ็นต์ และใครเป็นคนตอบ เพราะราคาต่อชั่วโมงที่จองบอกได้แค่ครึ่งเดียวของต้นทุนที่คุณจ่ายจริง
หากต้องการคุยรายละเอียดของโครงการ ติดต่อเราได้ที่ 088-983-9386 หรืออีเมล [email protected] สำนักงานของเราอยู่ที่บางกะปิ กรุงเทพฯ สำหรับองค์กรที่ยังอยู่ระหว่างร่างขอบเขตงาน เรายินดีนัดคุยเพื่อทำความเข้าใจโจทย์ก่อน โดยยังไม่ต้องมีเอกสารครบ และหากคุยแล้วพบว่าโจทย์ยังไม่ถึงเวลาต้องพัฒนาระบบใหม่ เราจะบอกตรง ๆ เพราะการเริ่มโครงการผิดจังหวะ มีต้นทุนสูงกว่าการรออีกหนึ่งไตรมาส
FAQ: คำถามที่พบบ่อยเกี่ยวกับบทความนี้
รวมคำถามและคำตอบที่ช่วยให้คุณเข้าใจเนื้อหาในบทความนี้ได้ดียิ่งขึ้น
ค้นหา:

