ש: האם שרת KR9288-E3 תומך בפרוטוקול InfiniBand CX8 במהירות 800Gbps לכל SXM?
ת: כן, שרת KR9288-E3 תומך באופן מלא בפלטפורמת ה-NVIDIA HGX B300, הכוללת חיבוריות InfiniBand CX8 במהירות של עד 800 גיגה-ביט לשנייה לכל חיבור SXM. תכונה זו חיונית עבור עומסי עבודה של אימון בינה מלאכותית בקנה מידה גדול הדורשים רוחב פס גבוה במיוחד בין המעבדים הגרפיים. תמיכה זו מבטיחה תקשורת יעילה בין 8 יחידות ה-GPU של NVIDIA Blackwell Ultra המותקנות בשרת.
ש: מהן מאפייני הביצועים של שרת KR9288-E3 תחת עומס מתמשך, בהתחשב במעבדי AMD EPYC 9005 וה-GPU של NVIDIA Blackwell Ultra?
ת: שרת KR9288-E3 מתוכנן לביצועים גבוהים, כאשר כל מעבד AMD EPYC 9005 יכול לפעול ב-TDP של עד 500W, וכל GPU של NVIDIA Blackwell Ultra ב-HGX B300 יכול להגיע ל-TDP של עד 1100W. שילוב זה, יחד עם 270GB של זיכרון GPU, מאפשר עיבוד מקבילי אינטנסיבי הנדרש לאימון מודלי שפה גדולים (LLM) והסקה מולטי-מודאלית. תכנון הקירור היעיל מבטיח שמירה על ביצועים אלו גם תחת עומס מתמשך.
ש: מה ההבדל בין שרת KR9288-E3 לבין שרת המבוסס על פלטפורמת NVIDIA Hopper?
ת: ההבדל העיקרי טמון בפלטפורמת ה-GPU ובדור הטכנולוגי. שרת KR9288-E3 משתמש בפלטפורמת NVIDIA Blackwell Ultra החדשה ביותר עם 8 יחידות GPU, בעוד שרתים המבוססים על פלטפורמת NVIDIA Hopper משתמשים בדור הקודם. פלטפורמת Blackwell Ultra מציעה שיפורים משמעותיים בביצועים, יעילות אנרגטית וקישוריות, במיוחד עבור עומסי עבודה של אימון AI מתקדמים, כגון חיבוריות CX8 במהירות 800Gbps לעומת מהירויות נמוכות יותר בפלטפורמות Hopper.
ש: מהם תנאי האחריות עבור שרת KR9288-E3 וכיצד מגישים תביעת אחריות?
ת: שרת KR9288-E3 מגיע עם אחריות יצרן סטנדרטית של שנה אחת, הניתנת להרחבה לפי דרישה. במקרה של תקלה, יש לפנות למחלקת התמיכה הטכנית של POWERCON עם מספר הסידורי של השרת ופירוט הבעיה. צוות התמיכה יסייע באבחון הבעיה ובהנחייתכם לגבי תהליך התיקון או ההחלפה במסגרת האחריות.
ש: כיצד מתבצעת התקנה ותצורה של שרת KR9288-E3 בסביבת ארגונית, במיוחד בהיבטי זיכרון ואחסון?
ת: התקנת שרת KR9288-E3 בסביבה ארגונית מתחילה בהתקנה פיזית בארון שרתים 10U. לאחר מכן, יש להגדיר את ה-BIOS של המעבדים הכפולים AMD EPYC 9005, להתקין את מערכת ההפעלה המתאימה, ולהגדיר את 24 חריצי ה-DIMM לתמיכה בעד 6TB של זיכרון RAM. בנוסף, יש להגדיר את 8 כונני ה-U.2 NVMe החמים ואת 2 כונני ה-M.2 NVMe עבור אחסון מהיר של נתונים וקובצי אימון.
ש: מדוע שרת KR9288-E3 הוא הבחירה הנכונה עבור פריסת אימון מודלי שפה גדולים (LLM) הדורשים קישוריות GPU מהירה?
ת: שרת KR9288-E3 הוא הבחירה האידיאלית לאימון LLM בזכות פלטפורמת ה-NVIDIA HGX B300 שלו, התומכת ב-8 יחידות GPU של NVIDIA Blackwell Ultra ובחיבוריות InfiniBand CX8 במהירות 800Gbps לכל SXM. מהירות חיבוריות זו חיונית להפחתת צווארי בקבוק בתקשורת בין ה-GPU, מה שמאיץ משמעותית את תהליך האימון של מודלים גדולים ומורכבים. בנוסף, תמיכה ב-24 חריצי DIMM עד 6TB זיכרון RAM מאפשרת טיפול במערכי נתונים עצומים הנדרשים לאימון LLM.
| דגם | KR9288-E3-A0-F0-01 |
| מבנה פיזי | 10U rack server |
| מעבד | 2x AMD EPYC™ 9005, TDP up to 500W |
| GPU | NVIDIA Blackwell Ultra 8-GPU, TDP up to 1100W with HGX B300 (270GB) |
| זיכרון RAM | 24x DIMM slots, up to 6TB |
| חיבוריות GPU | CX8 IB interconnect, 800Gb per SXM |
| אחסון פנימי | 8x hot-swap U.2 NVMe drives, 2x M.2 NVMe |
| קירור | Efficient air cooling design |
תגיות: processor-EPYC, HDD-2TBSSD, SYS-NoOS
