..ארכיטקטורת בלאקוול (Blackwell) שכוללת שני שבבים, המעבד הגרפי החדש B200 שמורכב מ-208 מיליארד טרנזיסטורים ומעבד CPU "הופר" שכולם ארוזים ביחידה אחת. המהפכה הגדולה במארז הזה הוא שמדובר במעבד בעל עוצמה גדולה מאוד ביחס למה שיש כיום...
יש המשך למעטה.
Ниже есть продолжение.
https://www.ynet.co.il/digital/article/sjjzb2icpאת הפתרון ניתן יהיה לקבל דרך מערכי מחשוב הענן של ענקיות הטק: מיקרוסופט, גוגל, אמזון ואורקל. כולן ימכרו את הגישה לשבבים החדשים. הם אמורים להיות יותר זולים בזכות החיסכון בחשמל שמגיע לרבע מהצריכה של מעבד מקביל כיום (H100) וזאת תוך הגדלת כוח החישוב פי חמישה.
כדי להמחיש את עוצמת השבב החדש, הוא מסוגל לעוצמת פעולה המקסימלית של כ-27 מיליון פרמטרים. לשם השוואה, מודל השפה הכי עוצמתי כיום, GPT-4, מבוסס על 1.7 טריליון פרמטרים. חוקרים מעריכים שככל שמספר הפרמטרים של המודלים האלה יגדל, כך יצמחו גם היכולות שלהם לבצע משימות מורכבות יותר.
לא מדובר בתענוג זול. שבב של אנבידיה מהדור הקודם שהוצג ב-2022, ה-H100, עולה בין 25 ל-40 אלף דולר ליחידה. כשהוא משולב בשרת מדובר על מכונה של כ-200 אלף דולר. עם זאת אנבידיה לא רוצה למכור שבבים, היא מעדיפה לשמור אותם אצלה ולמכור את הגישה לעוצמת החישוב שלהם במסגרת מנוי אנטרפרייז שלה שעולה כאמור כ-4,500 דולר לשנה למעבד גרפי. כמו ב-H100 ובהופר, גם בשבב החדש יש הרבה מאוד טכנולוגיה ישראלית שמגיעה ממלאנוקס. הרכישה מ-2020 הפכה את אנבידיה למובילה בזכות היכולת לשלב מערכת תקשורת נתונים סופר מהירה שפותחה כאן ביקנעם במשרדי מלאנוקס.
...Архитектура Blackwell, включающая два чипа, новый графический процессор B200, состоящий из 208 миллиардов транзисторов, и центральный процессор «хоппер», которые все упакованы в один блок. Большая революция в данном случае заключается в том, что это очень мощный процессор по сравнению с тем, что доступно сегодня...
Решение будет доступно через системы облачных вычислений технологических гигантов: Microsoft, Google, Amazon и Oracle. Все они будут продавать доступ к новым чипам. Они должны быть дешевле благодаря экономии электроэнергии, которая сегодня достигает четверти потребления параллельного процессора (H100) и это при пятикратном увеличении вычислительной мощности.
Чтобы проиллюстрировать мощность нового чипа, отметим, что он способен работать с максимальной мощностью около 27 миллионов параметров. Для сравнения: самая мощная на сегодняшний день языковая модель GPT-4 основана на 1,7 триллионах параметров. По оценкам исследователей, по мере увеличения количества параметров этих моделей будут расти и их способности выполнять более сложные задачи.
Это недешевое удовольствие. Чип Nvidia предыдущего поколения, представленный в 2022 году, H100, стоит от 25 до 40 тысяч долларов за единицу. Когда он интегрирован в сервер, это машина стоимостью около 200 тысяч долларов. Однако Nvidia не хочет продавать чипы, она предпочитает держать их при себе и продавать доступ к их вычислительным мощностям в рамках своей корпоративной подписки, которая, как уже упоминалось, стоит около $$$4500 в год за графический процессор. Как и в H100 и Hopper, в новом чипе использовано множество израильских технологий от Mellanox. Покупка в 2020 году сделала Nvidia лидером благодаря возможности интегрировать сверхбыструю систему передачи данных, разработанную здесь, в Kneam, в офисах Mellanox.
