ขณะนี้การนำ AI มาใช้ถูกขัดขวางด้วยค่าใช้จ่ายโทเค็นที่สูง และการขาดความชัดเจนในการกำหนดราคาล่วงหน้าสำหรับคำขอ AI ส่งผลให้โทเค็นใช้จ่ายเกินจริงที่ไม่สามารถควบคุมได้ ความเสี่ยงนี้ได้รับการขยายอย่างมากโดยตัวแทน AI ซึ่งปัจจุบันทำงานโดยไม่มีข้อจำกัดด้านต้นทุนโทเค็นในตัว และอาจกระตุ้นให้เกิดค่าใช้จ่ายที่สูงมาก
บทความนี้จะอธิบายว่าโทเค็น AI คืออะไร วิธีการทำงานของราคาโทเค็น และกลยุทธ์ที่นำไปปฏิบัติได้เพื่อป้องกันการใช้จ่ายโทเค็นที่ร้ายแรง กรณีองค์กรที่มีการบันทึกไว้อย่างดี พบว่าองค์กรมียอดเรียกเก็บเงิน 500,000,000 ดอลลาร์บนแพลตฟอร์ม Claude ของ Anthropic เพียงเพราะไม่มีขีดจำกัดการใช้งานของพนักงาน มีรายงานว่าทีมวิศวกรของ Uber ได้ใช้งบประมาณ AI ปี 2026 ทั้งหมดจนหมดก่อนกำหนด โทเค็นเป็นหน่วยพื้นฐานที่โมเดลภาษาขนาดใหญ่ (LLM) และแชทบอทใช้เพื่อแยกย่อยคำสั่งภาษามนุษย์และสร้างเอาต์พุต AI ที่สอดคล้องกัน
ตัวอย่างเช่น ข้อความแจ้งอินพุต “บอกฉันเกี่ยวกับการตกตะกอน” จะถูกแบ่งออกเป็นส่วนประกอบโทเค็นแบบแยกส่วน:
-บอก
-ฉัน
-เกี่ยวกับ
-ตะกอน
-ation
การแจกแจงห้าโทเค็นสำหรับคำเดียวว่า "การตกตะกอน" ช่วยให้ LLM ตีความโครงสร้างและความหมายของคำได้อย่างแม่นยำ การแยกราก “ตะกอน” และคำต่อท้าย “ation” ช่วยให้แบบจำลองจดจำการใช้คำต่อท้ายที่สอดคล้องกันในคำนามต่างๆ มากมาย รวมถึงการใช้อักษรตัวพิมพ์ใหญ่ การใช้คอมพิวเตอร์ และการเก็บภาษี วิธีการนี้จะจำกัดขอบเขตการค้นหาของโมเดลในฐานข้อมูลให้แคบลง โดยลดเวลาการประมวลผล แทนที่จะสแกนคำที่มีส่วนต่อท้ายทีละคำ
ในฐานะหน่วยข้อมูลหลัก โทเค็นจะถูกแปลงเป็นการฝังเวกเตอร์ ซึ่งเป็นสตริงตัวเลขทางคณิตศาสตร์ที่เข้ารหัสความหมายเชิงความหมายและจัดเก็บไว้ในดัชนีโมเดล ใช้คำว่า "แมว" เป็นตัวอย่าง: แบบจำลองนี้สร้างเวกเตอร์หลายตัวเพื่อแสดงถึงคุณลักษณะหลายมิติ เช่น สิ่งมีชีวิต สัตว์เลี้ยงในบ้าน ลักษณะของแมว ขนาดทางกายภาพ และอื่นๆ ชุดเวกเตอร์ที่เป็นเอกลักษณ์เหล่านี้แยก "แมว" ออกจากวัตถุที่ไม่มีชีวิต สัตว์สายพันธุ์อื่นๆ เช่น สุนัขและเสือ และของเล่นแมวสังเคราะห์
เวกเตอร์ห้ามิติเชิงสมมุติที่ฝังไว้สำหรับคำว่า "cat" สามารถแสดงเป็น [1.5, -0.4, 7.2, 19.6, 20.2]
ข้อมูลเวกเตอร์ทั้งหมดอยู่ในปริภูมิเวกเตอร์แบบครบวงจร ช่วยให้แบบจำลองสามารถระบุเนื้อหาที่คล้ายคลึงกันทางความหมายโดยการวัดระยะห่างเชิงพื้นที่ระหว่างจุดเวกเตอร์
เมื่อแปลงเป็นเวกเตอร์แล้ว โทเค็นจะถูกประมวลผลบนเซิร์ฟเวอร์ GPU ราคาสูงที่ติดตั้งหน่วยความจำแบนด์วิธสูง NVIDIA DGX SuperPOD ที่มี 32 โหนดและ GPU ทั้งหมด 256 ตัวมีราคาระหว่าง 12 ล้านถึง 20 ล้านดอลลาร์ สถาปัตยกรรมอ้างอิงขั้นสูงยิ่งขึ้นด้วยโหนด 140 DGX H100, เครือข่าย Quantum-2 InfiniBand, พื้นที่จัดเก็บข้อมูลเต็มรูปแบบและโครงสร้างพื้นฐานเครือข่าย และระบบสนับสนุนสามารถมีมูลค่าเกิน 100 ล้านเหรียญสหรัฐ ต้นทุนโครงสร้างพื้นฐานที่สำคัญเหล่านี้สะท้อนให้เห็นโดยตรงในรูปแบบการกำหนดราคาโทเค็นของโมเดลพื้นฐานกระแสหลัก
ผู้ให้บริการ LLM และแชทบอทชั้นนำ รวมถึง OpenAI และ Anthropic นำโมเดลการเรียกเก็บเงินตามโทเค็นมาใช้ โดยมีกฎการแปลงโทเค็นที่คาดการณ์ได้สำหรับเนื้อหาข้อความ โดยทั่วไปแล้ว โทเค็นภาษาอังกฤษหนึ่งโทเค็นเทียบเท่ากับอักขระสี่ตัวหรือ 0.75 คำ ซึ่งหมายความว่า 750 คำสอดคล้องกับโทเค็นประมาณ 1,000 ตัว โดยเฉพาะอย่างยิ่ง ทั้งพรอมต์อินพุตและการตอบกลับเอาต์พุตที่สร้างขึ้นนั้นใช้โทเค็น ตัวอย่างเช่น พรอมต์อินพุต 750 คำที่จับคู่กับเอาต์พุต AI 2,000 คำจะใช้โทเค็นทั้งหมดประมาณ 3,667 รายการ
การใช้โทเค็นที่สูงขึ้นจะขยายเวลาแฝงในการตอบสนองของ AI โดยตรง โทเค็นทั้งหมดจากเซสชันการตอบกลับพร้อมท์เดียวจะอยู่ภายในหน้าต่างบริบทที่มีความจุจำกัด ตามข้อมูล Decagon หน้าต่างบริบท 100,000 โทเค็นสามารถเก็บคำภาษาอังกฤษได้ประมาณ 75,000 คำ เทียบเท่ากับหนังสือ 300 หน้า
ความจุหน้าต่างบริบทไม่เพียงพอทำให้ LLM สูญเสียข้อมูลตามบริบท ส่งผลให้เอาต์พุต AI ไม่สมบูรณ์หรือไม่ถูกต้อง เมื่อโมเดลพื้นฐานพัฒนาขึ้น ขนาดหน้าต่างบริบทก็ขยายอย่างต่อเนื่อง: GPT-4o รองรับโทเค็นได้มากถึง 128,000 โทเค็น, Claude 3.5 Sonnet มีจำนวนโทเค็นถึง 200,000 โทเค็น และเลือกผู้ใช้ระดับองค์กร Gemini 1.5 Pro สามารถเข้าถึงหน้าต่างบริบท 2 ล้านโทเค็นได้
ราคาโทเค็นจะแตกต่างกันไปตามผู้จำหน่ายแต่ละรุ่น รายละเอียดการกำหนดราคา ChatGPT ของ Intuition Labs ให้ความกระจ่างเกี่ยวกับกลไกการเรียกเก็บเงินของอุตสาหกรรม:
ตาม Intuition Labs ChatGPT API ของ OpenAI ทำงานบนโครงสร้างการเรียกเก็บเงินตามโทเค็นล้วนๆ แต่ละรุ่นจะกำหนดราคาต่อหน่วยคงที่สำหรับโทเค็นอินพุตและโทเค็นเอาต์พุตแยกกัน โดยโดยทั่วไปแล้วโทเค็นเอาต์พุตจะมีราคาสูงกว่า ราคายังผันผวนตามสถานะการตอบกลับที่แคชไว้ การเรียก API ทุกครั้งจะต้องเสียค่าธรรมเนียมที่แตกต่างกันสองรายการ: ค่าธรรมเนียมแรกสำหรับโทเค็นอินพุตพร้อมท์ และอีกรายการหนึ่งสำหรับโทเค็นเอาต์พุตที่สร้างโดย AI ตามตัวอย่างในทางปฏิบัติ การใช้โมเดลที่มีราคาอยู่ที่ 10 ดอลลาร์ต่อโทเค็นเอาท์พุต 1 ล้านโทเค็นสำหรับโทเค็นอินพุต 100 โทเค็นและโทเค็นเอาท์พุต 400 โทเค็นส่งผลให้ต้นทุนอินพุตอยู่ที่ 10 ดอลลาร์× (100/1,000,000) และต้นทุนเอาท์พุตอยู่ที่ 10 ดอลลาร์× (400/1,000,000) โดยมีค่าใช้จ่ายรวมเท่ากับผลรวมของตัวเลขทั้งสอง
องค์กรต่างๆ สามารถปรับใช้การควบคุมการกำกับดูแลแบบกำหนดเป้าหมายเพื่อจำกัดการใช้จ่ายโทเค็น รวมถึงโควต้าต่อผู้ใช้หรือต่อที่นั่ง การควบคุมการรับส่งข้อมูลตามการใช้งาน ขีดจำกัดการใช้จ่ายต่อโปรเจ็กต์ และข้อจำกัดระดับโมเดล สาขาการกำกับดูแลนี้มีการพัฒนาอย่างรวดเร็ว เนื่องจากผู้จำหน่าย AI แข่งขันกันเพื่อเพิ่มคุณภาพการบริการ สร้างสมดุลให้กับแหล่งรายได้ และแข่งขันกับโมเดล AI แบบโอเพ่นซอร์ส
เจ้าหน้าที่ AI นำเสนอความเสี่ยงด้านต้นทุนโทเค็นชั้นใหม่ทั้งหมด หากไม่มีรั้วการปฏิบัติงานที่เข้มงวด เอเจนต์อัตโนมัติสามารถกระตุ้นการใช้โทเค็นจำนวนมากโดยไม่ได้วางแผนไว้ได้ ผู้เชี่ยวชาญในอุตสาหกรรมแนะนำให้ปฏิบัติต่อตัวแทน AI ในฐานะพนักงานดิจิทัล โดยทีมงาน FinOps ดำเนินการตรวจสอบการใช้จ่ายอย่างเข้มงวดตลอด 24 ชั่วโมงเพื่อหลีกเลี่ยงภัยพิบัติด้านต้นทุน
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/ผู้อำนวยการฝ่ายกลยุทธ์ระดับโลก
WhatsApp / WeChat: +86 13426366826
อีเมล: yangyd@qianxingdata.com
เว็บไซต์: www.qianxingdata.com/www.storagesserver.com
มุ่งเน้นธุรกิจ:
การจัดจำหน่ายผลิตภัณฑ์ ICT/บูรณาการระบบและบริการ/โซลูชั่นโครงสร้างพื้นฐาน
ด้วยประสบการณ์การจัดจำหน่ายด้านไอทีมากกว่า 20 ปี เราร่วมมือกับแบรนด์ชั้นนำระดับโลกเพื่อนำเสนอผลิตภัณฑ์ที่เชื่อถือได้และบริการระดับมืออาชีพ
“ใช้เทคโนโลยีเพื่อสร้างโลกอัจฉริยะ” ผู้ให้บริการผลิตภัณฑ์ ICT ที่เชื่อถือได้ของคุณ!
ข้อความของคุณจะต้องอยู่ระหว่าง 20-3,000 ตัวอักษร!
Thai
