Intel ได้ประกาศเปิดตัวตัวเร่ง AI Gaudi 3 อย่างเป็นทางการ โดยวางตำแหน่งให้เป็นทางเลือกที่คุ้มค่ากว่าเมื่อเทียบกับ GPU H100 ของ NVIDIA ที่ครองตลาดอยู่ในตลาด AI ที่กำลังเติบโตอย่างรวดเร็ว
Gaudi 3 แสดงถึงก้าวกระโดดครั้งสำคัญจากรุ่นก่อนหน้า โดยมีคอร์ประมวลผลเทนเซอร์ (TPCs) 64 คอร์ และเครื่องยนต์คูณเมทริกซ์ (MMEs) 8 ตัว ตัวเร่งแต่ละตัวมาพร้อมกับหน่วยความจำแบนด์วิดท์สูง (HBM2E) ขนาด 128GB และให้ประสิทธิภาพ FP8 สูงสุดถึง 1,856 TFLOPS Intel ได้ปรับปรุงสถาปัตยกรรมให้มุ่งเน้นไปที่การทำงานแบบ FP8 และ BFloat16 ซึ่งมีความสำคัญสำหรับงาน AI สมัยใหม่
แม้ว่าประสิทธิภาพดิบของ Gaudi 3 จะด้อยกว่า H100 ของ NVIDIA ในบางด้าน แต่ Intel กำลังเดิมพันกับกลยุทธ์ด้านราคาเพื่อเพิ่มส่วนแบ่งตลาด บริษัทอ้างว่า Gaudi 3 ให้ประสิทธิภาพต่อดอลลาร์ดีกว่าถึง 80% เมื่อเทียบกับ H100 สำหรับโมเดล AI บางประเภท Intel ระบุว่าชุดตัวเร่ง Gaudi 3 แบบ 8 ตัวจะมีราคาประมาณ 125,000 ดอลลาร์ คิดเป็นประมาณ 15,625 ดอลลาร์ต่อหน่วย ซึ่งแตกต่างอย่างชัดเจนกับราคาปัจจุบันของ NVIDIA H100 ที่มากกว่า 30,000 ดอลลาร์ต่อหน่วย
คุณสมบัติหลักของ Gaudi 3 ได้แก่:
- คอร์ประมวลผลเทนเซอร์ (TPCs) 64 คอร์
- เครื่องยนต์คูณเมทริกซ์ (MMEs) 8 ตัว
- หน่วยความจำ HBM2E ขนาด 128GB พร้อมแบนด์วิดท์ 3.67 TB/วินาที
- แคช SRAM บนชิปขนาด 96MB
- อินเทอร์เฟซเครือข่าย 200GbE 24 ช่อง
- TDP 600W
Intel กำลังโฆษณาถึงการเพิ่มประสิทธิภาพอย่างมีนัยสำคัญในงาน AI inference สำหรับโมเดล LLaMA 3 8B Gaudi 3 อ้างว่าให้ความเร็วในการ inference ดีขึ้น 9% ในขณะที่มอบประสิทธิภาพต่อดอลลาร์ดีกว่า 80% เมื่อเทียบกับ H100 สำหรับโมเดลขนาดใหญ่กว่าอย่าง LLaMA 70B Intel อ้างว่ามี inference throughput ดีกว่า 19% และประสิทธิภาพต่อดอลลาร์ดีกว่าสองเท่า
Gaudi 3 จะมีจำหน่ายในรูปแบบต่างๆ รวมถึงการ์ดที่รองรับ OAM และการ์ดเสริม PCIe Intel ได้ร่วมมือกับผู้ผลิตเซิร์ฟเวอร์รายใหญ่ เช่น Dell, HPE และ Supermicro เพื่อรวม Gaudi 3 เข้ากับระบบที่มุ่งเน้น AI ของพวกเขา นอกจากนี้ยังมีแผนที่จะให้บริการบนคลาวด์ โดย IBM Cloud และ Intel Tiber Developer Cloud จะเสนอทรัพยากร Gaudi 3
ในขณะที่การแข่งขันด้านฮาร์ดแวร์ AI ทวีความเข้มข้นขึ้น กลยุทธ์ของ Intel กับ Gaudi 3 ดูเหมือนจะมุ่งเน้นไปที่การนำเสนอตัวเลือกที่ราคาไม่แพงสำหรับองค์กรที่ต้องการใช้ AI ในระดับใหญ่ อย่างไรก็ตาม เมื่อ NVIDIA กำลังจะเปิดตัวสถาปัตยกรรม Blackwell ในเร็วๆ นี้ ยังต้องรอดูว่าข้อได้เปรียบด้านราคาของ Intel จะเพียงพอที่จะแย่งส่วนแบ่งตลาดตัวเร่ง AI ได้มากน้อยเพียงใด
คาดว่าระบบที่ใช้ Gaudi 3 จะพร้อมจำหน่ายทั่วไปในไตรมาสที่ 4 ของปี 2023 โดยพันธมิตรบางราย เช่น Dell และ Supermicro จะเริ่มจัดส่งตั้งแต่เดือนตุลาคม การเปิดตัวครั้งนี้ถือเป็นช่วงเวลาสำคัญสำหรับ Intel ในการพยายามสร้างตัวเองให้เป็นคู่แข่งที่น่าจับตามองในตลาดฮาร์ดแวร์ AI ที่ NVIDIA ครองอำนาจอยู่
โซลูชัน AI ที่หลากหลายของ Intel ถูกออกแบบมาเพื่อตอบสนองความต้องการของอุตสาหกรรมที่แตกต่างกัน ช่วยเพิ่มความก้าวหน้าทางเทคโนโลยีในหลากหลายภาคส่วน |