سامسونج تكشف عن ذاكرة HBM3E ذات سعة أعلى لتدريب واستدلال الذكاء الاصطناعي بشكل أسرع

أعلنت سامسونج للتو عن HBM3E 12H DRAM مع تقنية TC NCF المتقدمة – يجب أن يكون عشاق الاختصارات متحمسين لقراءة هذا، ولكن بالنسبة لأي شخص آخر، إليك ما يعنيه ذلك. يرمز HBM إلى “ذاكرة النطاق الترددي العالي” وهي تفعل ما هو مكتوب على العلبة.

في أكتوبر، كشفت سامسونج النقاب عن HBM3E Shinebolt، وهو نسخة محسنة من الجيل الثالث من HBM يمكنها تحقيق 9.8 جيجابت في الثانية لكل طرف (و 1.2 تيرابايت في الثانية للحزمة بأكملها).

التالي، 12H. هذا هو ببساطة عدد الرقائق التي تم تكديسها عموديًا في كل وحدة، 12 في هذه الحالة. هذه طريقة لاستيعاب المزيد من الذاكرة في الوحدة وقد وصلت سامسونج إلى 36 جيجابايت مع علبة 12H، أي أكثر بنسبة 50% من تصميم 8H. ومع ذلك، يبقى عرض النطاق الترددي عند 1.2 تيرابايت في الثانية.

وأخيرا، TC NCF. يرمز هذا إلى فيلم الضغط الحراري غير الموصل، أي المادة التي يتم وضعها في طبقات بين الرقائق المكدسة. تعمل شركة Samsung على تصنيع أجهزة أكثر نحافة تصل إلى 7 ميكرومتر الآن، وبالتالي فإن مجموعة 12H تكون بنفس ارتفاع مجموعة 8H تقريبًا، مما يسمح باستخدام نفس عبوة HBM.

هناك فائدة إضافية لـ TC NCF توفر خصائص حرارية محسنة للمساعدة في تحسين التبريد. والأفضل من ذلك، أن الطريقة المستخدمة في ذاكرة الوصول العشوائي الديناميكية HBM3E 12H DRAM الجديدة تعمل أيضًا على تحسين الإنتاجية.

في ماذا ستستخدم هذه الذاكرة؟ كما تريد أن تسأل – الذكاء الاصطناعي هو كل الضجيج هذه الأيام. لكي نكون منصفين، فهو تطبيق يتطلب الكثير من ذاكرة الوصول العشوائي. في العام الماضي أضافت Nvidia شركة Samsung إلى قائمة مورديها للذاكرة ذات النطاق الترددي العالي وقامت الشركة ببناء بعض التصميمات المجنونة.

تحتوي وحدة معالجة الرسومات Nvidia H200 Tensor Core على 141 جيجابايت من HBM3E والتي تعمل بإجمالي 4.8 تيرابايت في الثانية. وهذا يتجاوز بكثير ما تراه على وحدة معالجة الرسومات للمستهلك المزودة بـ GDDR. على سبيل المثال، يحتوي RTX 4090 على 24 جيجابايت من ذاكرة GDDDR6 التي تعمل بسرعة 1 تيرابايت في الثانية فقط.

على أي حال، استنادًا إلى التقارير، يستخدم H200 ستة وحدات HBM3E 8H بسعة 24 جيجابايت من Micron (إجمالي 144 جيجابايت ولكن 141 جيجابايت فقط قابلة للاستخدام). يمكن تحقيق نفس السعة من خلال أربع وحدات 12H فقط، وبدلاً من ذلك، يمكن تحقيق سعة 216 جيجابايت مع ست وحدات 12H.

وفقًا لتقديرات سامسونج، فإن السعة الإضافية لتصميمها الجديد 12H ستعمل على تسريع تدريب الذكاء الاصطناعي بنسبة 34% وستسمح لخدمات الاستدلال بالتعامل مع عدد “أكثر من 11.5 مرة” من عدد المستخدمين.

سوف يؤدي ازدهار الذكاء الاصطناعي إلى استمرار الطلب المرتفع على المسرعات مثل H200، لذلك من المربح أن تكون مورد الذاكرة – ويمكنك أن ترى لماذا ترغب شركات مثل Micron وSamsung وSK Hynix في الحصول على قطعة من الكعكة.

مصدر