Довідкові реалізації демонструють складні робочі процеси AI, що працюють на персональних комп'ютерах, а не хмарних послугах. Цей підхід має на меті скоротити час розвитку, надаючи робочі приклади локальних систем обробки.
Ця технологія також ґрунтується на розробках, запроваджених у 2018 році, коли NVIDIA вперше включила спеціальні ядра для обробки AI на відеокарках споживачів. П'яте покоління тензорних ядер обробляє декілька моделей AI одночасно, підтримуючи програми від передачі в режимі реального часу до автоматизованих систем допомоги.
Виробник випустить мікросервіси NIM з сумісністю для серії GeForce RTX 50, GeForce RTX 4090 та 4080, а також графічними процесорами RTX 6000 та 5000. Компанія планує розширити апаратну підтримку в наступних випусках.
“Ці графічні процесори були побудовані для прискорення останніх робочих навантажень Gen AI, виконуючи до 3352 трильйонів AI в секунду (вершини), що забезпечує неймовірний досвід для любителів AI, геймерів, творців та розробників”, – каже Джессі Клейтон, менеджер продуктів Nvidia.
Дослідіть останнє видання Технологічний журнал і бути частиною розмови на нашій глобальній серії конференції, Tech & Ai Live.
Відкрийте все наше майбутні події І закріпіть свої квитки сьогодні.
Технологічний журнал є Бізлік бренд