Компанія ASUS анонсувала продажs в Україні USB-прискорювача для ШІ UGen300 — це перший USB-пристрій для штучного інтелекту від ASUS, який забезпечує високу продуктивність інференції безпосередньо на будь-якому пристрої. Також доступна версія у форматі M.2.
Цей компактний прискорювач штучного інтелекту має розміри 105 × 50 × 18 мм і оснащений вбудованим процесором штучного інтелекту Hailo-10H, що забезпечує 40 AI TOPS спеціалізованої продуктивності, та оптимізований для генеративних завдань штучного інтелекту, зокрема для інференції великих мовних моделей (LLM) та завдань, пов’язаних із взаємодією зору та мови. Він доповнює центральний процесор (CPU) та нейронні процесори (NPU) основного пристрою та забезпечує прискорення обробки даних штучного інтелекту, звільняючи системні ресурси, що дозволяє здійснювати генеративну інференцію штучного інтелекту безпосередньо на пристрої без залежності від хмарних обчислень.
На відміну від хмарних рішень на базі штучного інтелекту, користувачі UGen300 не сплачують щомісячної абонентської плати, не стикаються з затримками в обробці запитів та користуються безпрецедентною конфіденційністю у сфері захисту даних. UGen300 здатний виконувати ресурсомісткі завдання генеративного штучного інтелекту, такі як генерація тексту, узагальнення відео, запуск подій, перетворення голосу в дії та сприйняття в режимі реального часу. Завдяки енергоефективній конструкції пристрій споживає лише 2,5 Вт, забезпечуючи ефективну та високопродуктивну роботу штучного інтелекту на периферії.
ASUS UGen300 оснащений вбудованою виділеною пам’яттю LPDDR4 об’ємом 8 ГБ, що забезпечує стабільне виконання обчислень на основі штучного інтелекту та роботу з великими моделями. Це дозволяє хост-системам, що не мають власних можливостей для роботи із ШІ, ефективно здійснювати важкі обчислювальні навантаження в галузі ШІ. На відміну від типових NPU, які використовують системну пам’ять, спеціалізована архітектура оперативної пам’яті UGen300 запобігає виникненню вузьких місць і забезпечує стабільну пропускну здатність для розробників та фахівців, які використовують складні конвеєри штучного інтелекту.
Інтерфейс USB 3.1 Gen 2 Type-C® забезпечує зручність роботи за принципом «підключи та працюй», пропонуючи справді незалежний від платформи прискорювач штучного інтелекту для периферійних обчислень, сумісний як із побутовими, так і з промисловими пристроями. ASUS UGen300 забезпечує міжплатформову підтримку в екосистемах Windows, Linux та Android, а також широку сумісність з основними фреймворками штучного інтелекту, зокрема TensorFlow, PyTorch та ONNX. UGen300 ідеально підходить для розробників, викладачів та постачальників вбудованих рішень, яким потрібна масштабована та портативна обчислювальна потужність.
ASUS UGen300 підтримується оптимізованою екосистемою, призначеною для прискорення розробки штучного інтелекту. Компактна утиліта UGen Utility дозволяє миттєво тестувати та показувати в дії претреновані моделі з колекції Model Zoo на прискорювачах серії UGen300. Понад 150 готових моделей ШІ відкривають швидкий шлях до вирішення практичних завдань: інтелектуального відеоспостереження, фіксації подій у реальному часі, аналізу трафіку, автоматизації виробництва, виявлення збоїв чи охорони здоров’я. Усе це працює на 100% локально – без жодної прив’язки до хмарних ресурсів.
Завдяки UGen300 ви отримуєте доступ до Hailo Developer Community – об’єднання тисяч розробників, які діляться досвідом, оптимізують навантаження для ШІ-систем та впроваджують інновації в галузі автономних обчислень. Навчальні матеріали, еталонні проєкти, практичні поради від колег – усе необхідне для створення розумних рішень та їхнього швидкого розгортання доступне в один клік.