Nvidia DGX

Nvidia DGX - Deep GPU Xeleration היא סדרה של שרתים ומחשבי-על המיוצרים על ידי אנבידיה אשר משתמשים ב-GPGPU להאצת תוכנות מחשב הפועלות על למידה עמוקה.

Nvidia DGX

חמישה מחשבי DGX-1 בחבילה של חברת נטאפ
מידע כללי
סוג	שרת/מחשב-על
מפתח	אנבידיה
יצרן	אנבידיה
תאריך הפצה	5 באפריל 2016
מידע טכני
מערכת הפעלה	DGX OS (מבוססת על אובונטו)
מעבד	DGX-1 2x Intel Xeon E5-2698 v4 2.2GHz בעל 20 ליבות DGX-2 2x Intel Xeon Platinum 8168 2.7GHz בעל 24 ליבות DGX A100 2x AMD Rome 7742 2.25-3.4GHz בעל 128 ליבות DGX H100 שני מעבדי x86
מאיץ גרפי	DGX-1 8x Nvidia Tesla GP100 16GB עם זיכרון וידאו כולל של 128GB וכוח עיבוד של 170 טרה-פלופס DGX-2 16x Nvidia Tesla V100 16/32GB עם זיכרון וידאו כולל של 256/512GB וכוח עיבוד של 2 פטה-פלופס DGX A100 8x Nvidia A100 Tensor Cores 40/80GB עם זיכרון וידאו כולל של 320/640GB וכוח עיבוד של 5–10 פטה-פלופס DGX H100 8x NVIDIA H100 Tensor Core עם זיכרון וידאו כולל של 640GB וכוח עיבוד של 32 פטה-פלופס
נפח אחסון	DGX-1 8TB (4x 1.92TB) SSD ב-RAID 0 DGX-2 2TB (2x 960GB) NVMe SSD + 30TB (8x 3.84TB) NVMe SSD DGX A100 4TB (2x 1.92TB) M.2 NVMe + 15TB (4x 3.84TB) U.2 NVMe DGX H100 4TB (2x 1.92TB) M.2 NVMe + 30TB (8x 3.84TB) U.2 NVMe
זיכרון	DGX-1:‏ 512GB DGX-2:‏ 1.5TB DGX A100:‏ 1TB DGX H100:‏ 2TB
קישוריות	DGX-1 2x 10GB Ethernet, 4x InfiniBand EDR DGX-2 8x 100GB Infiniband, 2x 10/25/40/50/100GB Ethernet DGX A100 8x Mellanox ConnectX-6 VPI 200GB HDR InfiniBand, 2x Mellanox ConnectX-6 VPI 10/25/50/100/200GB Ethernet
מידות
אורך	DGX-1:‏ 131 מ"מ DGX-2:‏ 440 מ"מ DGX A100:‏ 264 מ"מ
רוחב	DGX-1:‏ 444 מ"מ DGX-2:‏ 482.3 מ"מ DGX A100:‏ 482.3 מ"מ
גובה	DGX-1:‏ 866 מ"מ DGX-2:‏ 834 מ"מ DGX A100:‏ 897.1 מ"מ
משקל	DGX-1:‏ 60 ק"ג DGX-2:‏ 163 ק"ג DGX A100:‏ 123 ק"ג
nvidia.com/data-center/dgx-systems

השרתים בסדרה

DGX-1

שרתי DGX-1 כוללים 8 כרטיסים גרפיים המבוססים על ארכיטקטורת פסקל או וולטה,^[1] בעלי זיכרון מסוג HBM2 ומחוברים ברשת אריג באמצעות NVLink.^[2]

מטרת שרתים אלו היא לגשר את הפער בין כרטיסים גרפיים ומאיצי בינה מלאכותית, כאשר הם משמשים כמעטפת המתוכננת ללמידה עמוקה.^[3] גרסת הפסקל מניבה כוח עיבוד של 170 טרה-פלופס,^[4] בעוד שגרסת הוולטה מניבה כוח עיבוד של 960 טרה-פלופס.^[5]

מחירו של שרת DGX-1 הוא כ-129,000 דולר אמריקני.^[3]

DGX-2

זהו הדור השני של שרתי DGX, אשר משתמש ב-16 מאיצים גרפיים מסוג V100 (הדור השני) בעלי זיכרון וידאו של 32GB כל אחד. השדרוג מעלה את כוח העיבוד ל-2 פטה-פלופס וכן מעלה את הזיכרון המשותף ל-512GB, המאפשר עיבוד ופתרון בעיות מורכבות אף יותר. השרת משתמש ב-NVSwitch על מנת להאיץ את התקשורת הפנימית בין הרכיבים.

בנוסף, קיימת גרסת ביצועים חזקה יותר, אשר מכונה DGX-2H, שבה הוחלפו זוג מעבדי ה-Xeon Platinum 8168 2.7GHz של אינטל בזוג מעבדי Xeon Platinum 8174 3.1GHz.^[6]

מחירו של שרת DGX-2 הוא כ-149,000 דולר אמריקני.

DGX A100

ה-DGX A100 הוכרז ויצא לאור ב-14 במאי 2020 ומהווה את הדור השלישי בסדרת שרתי DGX וכולל 8 מאיצים גרפיים מסוג A100 המבוססים על ארכיטקטורת אמפר.^[7] שטח האחסון של השרת מבוסס על זכרונות NVMe SSD אשר מחוברים לאפיק PCI Express 4.0 וגודלם הכולל מסתכם ב-15TB.^[8] השרת כולל זוג מעבדי Rome 7742 תוצרת AMD בעלי 64 ליבות, זיכרון ראם של 1TB וחיבור פנימי מבוסס InfiniBand HDR.

מחירו של שרת DGX A100 הוא כ-199,000 דולר אמריקני.^[7]

מאיצים

להלן השוואה בין המאיצים הגרפיים השונים הנמצאים בשרתי DGX:^[7]

מאיצי DGX

שם המאיץ	ארכיטקטורה	שם קוד	תהליך ייצור (בננומטר)	מספר טרנזיסטורים (במיליארדים)	גודל מעבד (במילימטר רבוע)	ממשק אפיק נתונים	חיבור פנימי	זיכרון (ב-GB)	מהירויות שעון		זיכרון			כוח עיבוד (ב-TFLOPS)					צריכת חשמל (בוואט)
									תדר ליבה (ב-MHz)	תדר זיכרון (ב-MHz)	תעבורה (ב-GB/s)	סוג הערוץ	רוחב הערוץ (בביטים)	יחיד	זוגי	INT8 טנסור	FP16 טנסור	FP32 טנסור
P100	פסקל	GP100	16	15.3	610	SXM	NVLink 1	16	1,480	500	720	HBM2	4,096	10.6	5.3	—	—	—	300
V100	וולטה	GV100	12	21.1	815	SXM2/SXM3	NVLink 2	16/32	1,530	500	900	HBM2	4,096	15.7	7.8	—	125	—	300/350
A100	אמפר	GA100	7	54.2	826	SXM4	NVLink 3	40/80	1,410	500	1,600	HBM2	5,120	19.5	9.7	624	312	156	400
H100	הופר	GH100	4	80	814	SXM5	NVLink 4	80	1,780	500	3,072	HBM3	5,120	60	60	4000	2000	1000	700

קישורים חיצוניים

• אתר האינטרנט הרשמי של Nvidia DGX (באנגלית)
• יאן לנגרמן, חברת NVIDIA מכריזה על מחשב העל DGX-2 בעל 16 ליבות Tesla V100, באתר גאדג'טי, 28 במרץ 2018
• נט-אפ ונבידיה שילבו מערכות להאצת פרויקטים של בינה מלאכותית, באתר "אנשים ומחשבים", 15 באוגוסט 2018
• יונתן מנדלסון, חם מהתנור: הטיזר של מנכ"ל NVIDIA עבור כרטיס המסך הגדול מכולם, באתר HWzone,‏ 15 במאי 2020
• טל שחף, אנבידיה מלמדת את המכונות לדבר איתנו, באתר ynet, 6 באוקטובר 2020
• יאן לנגרמן, הוכרזו: מאיץ ה-NVIDIA A100 80GB GPU וצמד שרתי DGX ייעודיים, באתר גאדג'טי, 16 בנובמבר 2020
• עמי רוחקס דומבה, שוק המעבדים מתחמם, באתר IsraelDefense,‏ 23 בנובמבר 2020