Groq โมเดล AI แบบใหม่ที่จะมาท้าทาย Grok ของ Elon Musk และ ChatGPT
ระบบชิป AI แบบใหม่ได้รับความสนใจจากโซเชียลมีเดียอย่างมาก ด้วยความเร็วในการตอบสนองที่รวดเร็วปานสายฟ้าและเทคโนโลยีที่เป็นนวัตกรรมใหม่ที่อาจท้าทาย Grok ของ Elon Musk และ ChatGPT
Groq เป็นเครื่องมือ AI ล่าสุดที่สร้างกระแสในอุตสาหกรรมและได้รับความสนใจอย่างรวดเร็วหลังจากการทดสอบ Benchmark ได้เผยเพร่บนแพลตฟอร์มโซเชียลมีเดียยอดนิยมอย่าง X
ผู้ใช้จำนวนมากได้แชร์วิดีโอเกี่ยวกับประสิทธิภาพอันน่าทึ่งของ Groq ซึ่งแสดงให้เห็นถึงความสามารถในการคำนวณที่เหนือกว่า ChatGPT แชทบอท AI ที่รู้จักกันดี
side by side Groq vs. GPT-3.5, completely different user experience, a game changer for products that require low latency pic.twitter.com/sADBrMKXqm
— Dina Yerlan (@dina_yrl) February 19, 2024
Groq พัฒนาชิป ASIC แบบกำหนดได้สำหรับตนเอง
สิ่งที่ทำให้ Groq แตกต่างจากเอไอแบบอื่นก็คือการพัฒนาชิปวงจรรวมเฉพาะแอปพลิเคชัน (ASIC) แบบกำหนดเองโดยทีมงาน ซึ่งออกแบบสำหรับโมเดลภาษาขนาดใหญ่ (LLM) มาโดยเฉพาะ
ชิปอันทรงพลังนี้จะช่วยให้ GroqChat สร้างโทเค็นที่น่าประทับใจได้ถึง 500 โทเค็นต่อวินาที ในขณะที่ ChatGPT เวอร์ชันสาธารณะ หรือที่รู้จักกันในชื่อ ChatGPT-3.5 นั้นสามารถสร้างได้เพียง 40 โทเค็นต่อวินาทีเท่านั้น
Groq Inc ซึ่งเป็นบริษัทที่อยู่เบื้องหลัง AI นี้อ้างว่า พวกเขาได้สร้างชิป AI ที่กำหนดโดยซอฟต์แวร์ เรียกว่าหน่วยประมวลผลภาษา (LLP) ซึ่งทำหน้าที่เป็นกลไกในการขับเคลื่อนโมเดลของ Groq
โดยจะต่างจากโมเดล AI แบบดั้งเดิมที่ต้องอาศัยหน่วยประมวลผลกราฟิก (GPU) อย่างมาก ซึ่งทั้งหายากและมีราคาแพง แต่ LPU ของ Groq จะนำเสนอโซลูชันทางเลือกที่มีความเร็วและประสิทธิภาพที่ไม่มีใครเทียบได้
Wow, that's a lot of tweets tonight! FAQs responses.
• We're faster because we designed our chip & systems
• It's an LPU, Language Processing Unit (not a GPU)
• We use open-source models, but we don't train them
• We are increasing access capacity weekly, stay tuned pic.twitter.com/nFlFXETKUP— Groq Inc (@GroqInc) February 19, 2024
สิ่งที่น่าสนใจคือ Groq Inc ไม่ใช่บริษัทใหม่ แต่พวกเขาได้ก่อตั้งบริษัทมาตั้งแต่ปี 2016 เมื่อได้รับเครื่องหมายการค้าในชื่อ “Groq”
อย่างไรก็ตาม เมื่อเดือนพฤศจิกายนปีที่แล้ว Elon Musk ได้เปิดตัวโมเดล AI ของเขาที่ใช้ชื่อว่า Grok (มีตัว “k”) จากนั้นครีเอเตอร์ต้นฉบับของ Groq ก็ได้เขียนบทความในบล็อกของตนเองเพื่อตอบโต้ต่อการตั้งชื่อของ Musk
ในการหยอกล้อแต่ไม่แรงของพวกเขาได้เน้นย้ำและขอให้ Musk เลือกใช้ชื่อที่แตกต่างโดยพิจารณาถึงความเกี่ยวข้องกับแบรนด์ Groq ที่พวกเขาได้สร้างขึ้นและเป็นที่รู้จักมาก่อนแล้ว
แม้จะเป็นกระแสบนโซเชียลมีเดียเมื่อไม่นานมานี้ แต่ทั้ง Musk และหน้า Grok ใน X ก็ไม่ได้แสดงความคิดเห็นเกี่ยวกับการตั้งชื่อที่ทับซ้อนกันระหว่างเครื่องมือทั้งสองแต่อย่างใด
นักพัฒนา AI สร้างชิปแบบกำหนดเอง
ความสำเร็จของการใช้โมเดล LPU แบบกำหนดเองของ GroqChat เพื่อให้มีประสิทธิภาพที่เหนือกว่าโมเดลที่ใช้ GPU ทั่วไป ได้สร้างความสั่นสะเทือน
บางคนถึงกับคาดเดาว่า LPU ของ Groq อาจเสนอการปรับปรุงอย่างมีนัยสำคัญเหนือ GPU โดยท้าทายฮาร์ดแวร์ประสิทธิภาพสูงของชิปที่เป็นที่ต้องการเช่น A100 และ H100 ของ Nvidia
“Groq สร้างหน่วยประมวลผลแบบใหม่ที่เรียกว่า Tensor Streaming Processor (TSP) ซึ่งจัดอยู่ในหมวดหมู่หน่วยประมวลผลเชิงเส้น (LPU)” ผู้ใช้ X Jay Scambler กล่าว
“ไม่เหมือนกับ GPU แบบดั้งเดิมที่เป็นโปรเซสเซอร์แบบขนานที่มีคอร์หลายร้อยคอร์ที่ออกแบบมาสำหรับการแสดงผลกราฟิก โดย LPU ได้รับการออกแบบมาเพื่อมอบประสิทธิภาพที่กำหนดสำหรับการคำนวณ AI”
Scambler กล่าวเสริมว่า “ประสิทธิภาพสามารถคาดการณ์และปรับให้เหมาะสมได้อย่างแม่นยำ ซึ่งเป็นสิ่งสำคัญในแอปพลิเคชัน AI แบบเรียลไทม์”
Groq is serving the fastest responses I've ever seen. We're talking almost 500 T/s!
I did some research on how they're able to do it. Turns out they developed their own hardware that utilize LPUs instead of GPUs. Here's the skinny:
Groq created a novel processing unit known as… pic.twitter.com/mgGK2YGeFp
— Jay Scambler (@JayScambler) February 19, 2024
แนวโน้มดังกล่าวสอดคล้องกับความเคลื่อนไหวของอุตสาหกรรมในปัจจุบัน ซึ่งนักพัฒนา AI รายใหญ่กำลังสำรวจการพัฒนาชิปภายในองค์กรอย่างแข็งขันเพื่อลดการพึ่งพาโมเดลของ Nvidia เพียงอย่างเดียว
ทั้งนี้ OpenAI ซึ่งโดดเด่นในฐานะผู้เล่นของสนาม AI ได้มีรายงานว่ากำลังมองหาเงินทุนจำนวนมากจากรัฐบาลและนักลงทุนทั่วโลกเพื่อพัฒนาชิปของตัวเอง
