Tag Archives: H3

SK Hynix นำเสนอแนวทางใหม่เพื่อรองรับแอปพลิเคชัน AI ที่มีความต้องการใช้หน่วยความจำสูงขึ้นอย่างก้าวกระโดด ด้วยการเผยโฉมสถาปัตยกรรมหน่วยความจำแบบไฮบริดในชื่อ “H3” ซึ่งเป็นการผสมผสานระหว่างหน่วยความจำแบนด์วิดท์สูง (HBM) และหน่วยความจำแฟลชแบนด์วิดท์สูง (HBF) เข้าด้วยกันบนแพลตฟอร์ม Interposer เดียวกัน เพื่อยกระดับความคุ้มค่าและประสิทธิภาพในการประมวลผล

โมเดล AI ในปัจจุบันฉลาดขึ้นมาก แต่ก็แลกมากับความต้องการหน่วยความจำที่มหาศาล โดยเฉพาะในช่วงการใช้งานจริง (Inference) ที่ต้องใช้พื้นที่เก็บข้อมูลบริบท หรือที่เรียกว่า KV Cache เป็นจำนวนมาก ล่าสุด SK Hynix ได้เสนอทางออกผ่านงานวิจัยบน IEEE ด้วยแนวคิดสถาปัตยกรรมไฮบริดที่ชื่อว่า H3