Режим Super в устройствах на базе Jetson Orin NX и Orin Nano позволяет удвоить производительность моделей генеративного искусственного интеллекта

Главное

• Поддержка режима Super для NVIDIA Jetson Orin™ NX и Orin Nano в ИИ-компьютерах для граничных вычислений ASUS IoT PE1102N, PE1101N и PE1100N обеспечивает двукратное увеличение производительности моделей генеративного ИИ
• Режим Super обеспечивает производительность ИИ до 157 TOPS (Sparse) для моделей на модулях Jetson Orin NX 16 GB
• Все граничные ИИ-компьютеры ASUS IoT на базе платформы Jetson Orin теперь поддерживают последнюю версию NVIDIA JetPack 6.2 SDK

Тайбэй, Тайвань, 16 января 2025 года — ASUS IoT, мировой лидер в области решений для искусственного интеллекта вещей (AIoT), объявляет об обновлении ИИ-компьютеров для граничных вычислений ASUS IoT на базе платформы NVIDIA® Jetson Orin™, которое добавляет новый режим Super. Это обновление позволяет увеличить производительность ИИ в 1,7 раза, пропускную способность памяти до 1,5 раз и производительность моделей генеративного ИИ до 2 раз.

Увеличение производительности ИИ до 1,7 раз и широкая поддержка режима Super

Режим Super повышает производительность ИИ до 1,7 раза и предлагает поддержку широкого спектра моделей генеративного ИИ, включая большие языковые модели (LLM), визуально-языковые модели (VLM) и визуальные трансформеры (ViT). Модули Jetson Orin поддерживают популярные фреймворки машинного обучения, такие как Hugging Face Transformers, Ollama, llama.cpp, vLLM, MLC, NVIDIA TensorRT-LLM и другие. Они станут отличным выбором для граничных приложений, робототехники и мультимодальных систем.

Быстрее, универсальнее и надежнее — ИИ-компьютеры для граничных вычислений ASUS IoT на базе платформы NVIDIA Jetson™

Модели компьютеров для граничных вычислений ИИ ASUS IoT на базе платформы NVIDIA Jetson™ — PE1102N, PE1101N и PE1100N — теперь могут выполнять задачи генеративного ИИ на значительно более высоких скоростях и с улучшенной обработкой данных. Эти универсальные компьютеры компактных размеров с широкими возможностями подключения идеально подходят для применения в умных городах, умном транспорте, а также для использования в транспортных средствах и умной логистике, например, в системах умной парковки, анализа трафика и в AGV/AMR. Эти решения позволяют обрабатывать данные на граничных устройствах быстрее, безопаснее и со значительной экономией совокупной стоимости владения (TCO).

ИИ-компьютеры для граничных вычислений ASUS IoT на базе платформы NVIDIA Jetson также отличаются прочной конструкцией и способны работать в широком диапазоне температур, в том числе вне помещений.

Поддержка новейшего SDK NVIDIA JetPack 6.2 для активации режима Super

Чтобы активировать режим Super на компьютерах для граничных вычислений ASUS IoT на базе Jetson Orin NX и Orin Nano (PE1102N, PE1101N и PE1100N), необходимо скачать последнее обновление SDK NVIDIA JetPack 6.2.

SDK JetPack 6.2 — это последняя производственная версия JetPack 6. Он включает Jetson Linux 36.4.3 с Linux Kernel 5.15 и корневой файловой системой на основе Ubuntu 22.04. Стек Jetson AI, входящий в состав JetPack 6.2, включает CUDA 12.6, NVIDIA TensorRT 10.3, NVIDIA cuDNN 9.3, NVIDIA Vision Programming Interface 3.2, NVIDIA Deep Learning Accelerator 3.1 и DLFW 24.0. JetPack 6.2 добавляет новые высокопроизводительные режимы Super для производственных модулей NVIDIA Jetson Orin Nano и Jetson Orin NX. Режимы Super повышают производительность вывода ИИ для моделей генеративного ИИ до 2 раз.