مائع کولنگ Nvidia کے بلیک ویل پلیٹ فارم کی کارکردگی اور کارکردگی کو بڑھاتا ہے

Oct 14, 2024

ایک پیغام چھوڑیں۔

 

مصنوعی ذہانت (AI) کی تیز رفتار نشوونما، خاص طور پر جنریٹو AI (GenAI) اور بڑے لینگویج ماڈلز (LLMs) جیسے شعبوں میں، کمپیوٹنگ پاور کی بے مثال مانگ کو آگے بڑھا رہی ہے۔ جیسا کہ AI ماڈلز زیادہ پیچیدہ ہو جاتے ہیں اور زیادہ ڈیٹا کی ضرورت ہوتی ہے، ان پیش رفتوں کو سپورٹ کرنے کے لیے درکار ہارڈ ویئر کو خاص طور پر گرمی کی کھپت کے ساتھ اہم چیلنجوں کا سامنا کرنا پڑتا ہے۔ روایتی ٹھنڈک کے طریقے، جیسے ایئر کولنگ، جدید ترین AI ہارڈویئر کی بجلی کی کھپت کو منظم کرنے کے لیے کافی نہیں ہیں، اور یہیں سے مائع کولنگ کے حل کام میں آتے ہیں۔

 

مائع کولنگ ٹیکنالوجی نے AI ڈیٹا سینٹرز کے تھرمل آؤٹ پٹ کو منظم کرنے کے ایک انتہائی موثر طریقہ کے طور پر اہمیت حاصل کی ہے۔ Nvidia کے بلیک ویل فن تعمیر جیسے پلیٹ فارمز کے لیے یہ خاص طور پر اہم ہے، جہاں بے پناہ کمپیوٹیشنل طاقت کو کارکردگی اور لمبی عمر کو یقینی بنانے کے لیے جدید کولنگ سسٹم کی ضرورت ہوتی ہے۔

 

میںہاٹچپ 2024کانفرنس، Nvidia نے اپنا جدید حل متعارف کرایا، انضمامگرم پانی سے براہ راست چپ مائع کولنگبڑھتی ہوئی بجلی کی کھپت اور ٹھنڈک کے چیلنجوں سے نمٹنے کے لیے اپنے بلیک ویل فن تعمیر کے ساتھ ٹیکنالوجی۔ یہ ترقی AI ہارڈویئر ڈیزائن میں ایک اہم پیشرفت، آپریشنل اخراجات کو کم کرنے اور بڑے پیمانے پر AI ایپلی کیشنز میں کارکردگی کو بہتر بنانے کی نشاندہی کرتی ہے۔

 

Hot Chips Tutorial: Liquid Cooling Boosts Performance and Efficiency

▲ ہاٹ چپس ٹیوٹوریل: مائع کولنگ کارکردگی اور کارکردگی کو بڑھاتا ہے

 

مائع کولنگ ٹیکنالوجی کا عروج

 

AI چپس کی بڑھتی ہوئی بجلی کی طلب کی وجہ سے مائع کولنگ ٹیکنالوجی AI ڈیٹا سینٹر کے ڈیزائن میں ایک اہم جزو کے طور پر ابھر رہی ہے۔ جیسے جیسے AI ایپلی کیشنز بڑھ رہی ہیں، ڈیٹا سینٹرز میں بجلی کی کھپت میں زبردست اضافہ متوقع ہے۔ بہت سے AI پروسیسرز، بشمول Nvidia's H100 اور اس کا نیابلیک ویل فن تعمیر700W سے 1200W تک کہیں بھی بجلی استعمال کریں۔ یہ بے پناہ توانائی کی قرعہ اندازی اس وقت پیچیدہ ہو جاتی ہے جب AI کلسٹرز، جو ہزاروں GPUs پر مشتمل ہوتے ہیں، اتحاد سے کام کرتے ہیں۔

 

مثال کے طور پر،ایلون مسک کا اے آئی ٹریننگ کلسٹر, 100,000 H100 GPUs کے ساتھ دنیا کا سب سے بڑا، اپنی 31-میگا واٹ توانائی کی طلب کو منظم کرنے کے لیے مکمل طور پر مائع ٹھنڈا ہے۔ اس طرح کی مثالیں یہ ظاہر کرتی ہیں کہ کولنگ ٹیکنالوجی کو بہتر بنانا کیوں ضروری ہے - نہ صرف آپریشنل اخراجات کو کم کرنے کے لیے بلکہ AI سسٹمز کی مجموعی کارکردگی کو بڑھانے کے لیے بھی۔ جیسا کہ اعلی کارکردگی والے AI کی ضرورت بڑھتی جارہی ہے، مائع کولنگ اعلی کارکردگی والے کمپیوٹنگ سسٹم کو برقرار رکھنے میں تیزی سے مرکزی کردار ادا کرے گی۔

 

 

AI ڈیٹا سینٹرز میں مائع کولنگ کے فوائد

مائع کولنگ CPUs اور GPUs جیسے اہم اجزاء سے گرمی کو براہ راست منتقل کرنے کی صلاحیت کی وجہ سے نمایاں ہے، روایتی ایئر کولنگ کے مقابلے میں گرمی کی کھپت کو بہتر بناتا ہے۔ میںبراہ راست مائع کولنگ (DLC)، کولنٹ چپ کے ساتھ براہ راست رابطے میں آتا ہے، تھرمل کارکردگی کو بڑھاتا ہے اور بھاری پنکھے اور ایئر کنڈیشنگ سسٹم کی ضرورت کو کم کرتا ہے۔ اس کے نتیجے میں کولنگ کے لیے کم توانائی کی کھپت ہوتی ہے، اس طرح ڈیٹا سینٹر کے کل آپریشنل اخراجات میں کمی آتی ہے۔

 

مزید برآں،وسرجن مائع کولنگ، جہاں پورے سرورز ایک ڈائی الیکٹرک مائع میں ڈوبے ہوئے ہیں، ایک اور بھی موثر ٹھنڈک حل پیش کرتا ہے۔ یہ طریقہ نہ صرف اس بات کو یقینی بناتا ہے کہ تمام پرزے ٹھنڈے رہیں بلکہ مکینیکل لباس کو بھی کم سے کم کرتا ہے، جو ہارڈ ویئر کی عمر کو طول دیتا ہے، اور ہوا سے چلنے والے آلات کے شور کو نمایاں طور پر کم کرتا ہے۔

 

 

AI ہارڈ ویئر میں بجلی کی کھپت کے چیلنجز

 

جیسا کہ AI سسٹمز کا پیمانہ ہے، ان کی بجلی کی کھپت ایک بڑھتا ہوا چیلنج پیش کرتا ہے۔ AI ہارڈ ویئر، جیسےاین ویڈیا ایچ 100 جی پی یواوربلیک ویل فن تعمیر, بجلی کی بھوک کے طور پر جانا جاتا ہے، بجلی کی ضروریات فی چپ 1200W تک پہنچ جاتی ہیں۔ 22،000 H100 GPUs پر مشتمل ایک عام AI کلسٹر، مثال کے طور پر، ضرورت ہو سکتی ہے31 میگاواٹ بجلی- چھوٹے شہر کی بجلی کی کھپت کے برابر۔

 

یہ بڑے پیمانے پر بجلی کی طلب نہ صرف ڈیٹا سینٹرز کے آپریشنل اخراجات میں اضافہ کرتی ہے بلکہ اہم ماحولیاتی اثرات میں بھی حصہ ڈالتی ہے۔ ان چیلنجوں سے نمٹنے کے لیے، ڈیٹا سینٹرز کو بجلی کی کھپت میں کمی اور کولنگ کی کارکردگی کو بہتر بنانے دونوں پر توجہ مرکوز کرنی چاہیے۔

 

 

Nvidia کا بلیک ویل آرکیٹیکچر اور گرم پانی ڈائریکٹ ٹو چپ کولنگ

 

میںہاٹچپ 2024 کانفرنسNvidia نے اپنے بلیک ویل فن تعمیر کے ساتھ مائع کولنگ کو مربوط کرنے کے لیے اپنے حل کی نقاب کشائی کیگرم پانی ڈائریکٹ ٹو چپ کولنگ ٹیکنالوجی. یہ نقطہ نظر گرم پانی (ٹھنڈے پانی کے برخلاف) استعمال کرتا ہے تاکہ براہ راست چپ سے حرارت کو جذب اور منتقل کرے۔ گرم پانی کی ٹھنڈک کا استعمال کرتے ہوئے، Nvidia ڈیٹا سینٹرز کی کولنگ پاور کی کھپت کو 28% تک کم کر سکتی ہے۔

 

اس محلول کی افادیت دوگنا ہے: یہ نہ صرف ٹھنڈک کے لیے مجموعی طور پر پاور ڈرا کو کم کرتا ہے بلکہ فضلے کی حرارت کی وصولی کو بھی قابل بناتا ہے، جسے دوسرے استعمال کے لیے دوبارہ استعمال کیا جا سکتا ہے، جیسے کہ قریبی عمارتوں کو گرم کرنا۔ مزید برآں، گرم پانی کی ٹھنڈک چپس کو زیادہ سے زیادہ درجہ حرارت کی حدود میں رکھ کر، زیادہ گرمی کو روک کر، اور ٹوٹ پھوٹ کو کم کر کے سرورز کی آپریشنل زندگی کو بڑھاتی ہے۔

 

Warm-water Direct to Chip cooling solution for Nvidia's Blackwell architecture efficiently transfers heat and improves cooling performance in AI data centers.

▲گرم پانی ڈائریکٹ ٹو چپ کولنگ سلوشن

 

کولنگ کی یہ تکنیک خاص طور پر اہم ہے کیونکہ AI ایپلی کیشنز جیسے GenAI اور LLMs ڈیٹا سینٹرز میں درکار کمپیوٹیشنل پاور کو بڑھاتے رہتے ہیں۔ زیادہ سے زیادہ درجہ حرارت کو برقرار رکھنے کی صلاحیت AI کام کے بوجھ کی کارکردگی اور اسکیل ایبلٹی کو براہ راست متاثر کرتی ہے، اس بات کو یقینی بناتی ہے کہ یہ سسٹم ان پر رکھے گئے شدید مطالبات کو سنبھال سکتے ہیں۔

 

 

 

وسرجن مائع کولنگ: ایک قدم آگے

 

براہ راست مائع کولنگ کے علاوہ،وسرجن مائع کولنگبڑے پیمانے پر AI سسٹمز کے لیے اگلے درجے کے حل کے طور پر بھی کرشن حاصل کر رہا ہے۔ یہ طریقہ پورے سرورز کو ایک نان کنڈکٹیو، ڈائی الیکٹرک مائع میں ڈبو دیتا ہے، جو تمام اجزاء سے گرمی کو مکمل طور پر جذب اور ختم کر دیتا ہے۔ اس طریقے سے پورے نظام کو ٹھنڈا کرنے سے، Immersion Liquid Cooling مندرجہ ذیل فوائد پیش کرتا ہے:

 

  • بہتر کولنگ کی کارکردگی: تمام اجزاء کو ٹھنڈا کرنے والے مائع سے گھیر کر، یہ طریقہ یکساں اور موثر گرمی کو ہٹانے کا کام فراہم کرتا ہے۔
  • کم دیکھ بھال کے اخراجات: پنکھے جیسے حرکت پذیر پرزوں کے بغیر، میکینیکل لباس کم ہوتا ہے، جو دیکھ بھال کے اخراجات کو کم کرتا ہے اور سامان کی زندگی کو بڑھاتا ہے۔
  • بہتر توانائی کی کارکردگی: وسرجن کولنگ توانائی کے استعمال کو ڈرامائی طور پر کم کر سکتی ہے، کیونکہ یہ ایئر کنڈیشننگ سسٹم اور دیگر فعال کولنگ اجزاء کی ضرورت کو ختم کر دیتی ہے۔

 

Immersion Liquid Cooling system submerges servers in cooling liquid, offering efficient heat removal for AI hardware.

▲ وسرجن مائع کولنگ سسٹم

 

مزید یہ کہوسرجن مائع کولنگانتہائی توسیع پذیر ہے، یہ AI کام کے بوجھ کو سنبھالنے والے ڈیٹا سینٹرز کے لیے مثالی بناتا ہے جو کافی مقدار میں حرارت پیدا کرتے ہیں، جیسا کہ Nvidia کے بلیک ویل فن تعمیر سے چلنے والے۔ بڑے AI ماڈلز کے زیادہ مقبول ہونے کے ساتھ، توانائی کی لاگت اور ماحولیاتی اثرات کو کم کرتے ہوئے ڈیٹا سینٹرز کے لیے اپنے آپریشنز کو پیمانہ کرنے کے لیے وسرجن کولنگ ایک آسان حل بن سکتا ہے۔

 

 

 

کولنگ ٹیکنالوجیز میں سلیکن ویلی کی سرمایہ کاری

 

AI ڈیٹا سینٹرز میں زیادہ موثر کولنگ سلوشنز کی بڑھتی ہوئی مانگ نے وینچر کیپیٹل فرموں کی توجہ مبذول کرائی ہے، خاص طور پرسلیکن ویلی. یہ فرمیں فعال طور پر ایسے اسٹارٹ اپس میں سرمایہ کاری کر رہی ہیں جو مہارت رکھتے ہیں۔مائع کولنگٹیکنالوجیز، یہ تسلیم کرتے ہوئے کہ اس فیلڈ میں ایجادات AI ہارڈویئر کے مستقبل کے لیے ضروری ہیں۔

 

ترقی پذیر اسٹارٹ اپاعلی درجے کی کولنگ کے حلنہ صرف موجودہ نسل کے AI سسٹمز کے لیے فوری فوائد فراہم کرتے ہیں بلکہ AI ہارڈویئر کی اگلی لہر کی بنیاد بھی رکھتے ہیں، جو ممکنہ طور پر اور بھی زیادہ نفیس کولنگ طریقوں کا مطالبہ کرے گا۔ ان ٹیکنالوجیز کو ہائی پاور کی ضروریات اور AI سسٹمز کے تھرمل چیلنجز دونوں کو حل کرنے کی ضرورت ہے، جس سے یہ ان لوگوں کے لیے ایک پرکشش سرمایہ کاری بنتی ہیں جو اعلیٰ کارکردگی والے کمپیوٹنگ میں ممکنہ حدوں کو آگے بڑھانا چاہتے ہیں۔

 

Silicon Valley venture capital firms are investing heavily in startups developing innovative AI cooling technologies.

▲AI ڈیٹا سینٹر سرمایہ کاری کے رجحانات

 

 

نتیجہ

 

جیسا کہ AI ہارڈویئر کا ارتقاء جاری ہے، جدید کولنگ ٹیکنالوجیز کی مانگ بڑھتی جارہی ہے۔ Nvidia کیبلیک ویل فن تعمیراس شفٹ میں سب سے آگے ہے، استعمال کر رہا ہے۔گرم پانی براہ راست چپ پرکارکردگی کو بڑھانے اور آپریشنل اخراجات کو کم کرنے کے لیے کولنگ۔مائع کولنگ، چاہے براہ راست رابطے کے ذریعے ہو یا وسرجن طریقوں کے ذریعے، یہ جدید AI سسٹمز کے بڑے پیمانے پر بجلی کی کھپت اور گرمی کی پیداوار کو منظم کرنے کا سب سے مؤثر طریقہ ثابت ہو رہا ہے۔

 

وینچر کیپیٹل فرمیں نوٹس لے رہی ہیں، بہت سے ایسے اسٹارٹ اپس میں سرمایہ کاری کر رہے ہیں جو اگلی نسل کے کولنگ حل پیش کر سکتے ہیں۔ جیسے جیسے AI ڈیٹا سینٹرز بڑے اور پیچیدہ ہوتے جائیں گے، موثر اور توسیع پذیر کولنگ سسٹمز کی اہمیت صرف بڑھے گی، جس سے مائع کولنگ مستقبل کے اعلیٰ کارکردگی والے کمپیوٹنگ انفراسٹرکچر کا سنگ بنیاد بن جائے گی۔

 

 

انکوائری بھیجنے