ПК, эксклюзивы, взломы

APU AMD Ryzen AI MAX+ 395 Strix Halo более чем в 12 раз быстрее Intel Lunar Lake в задачах DeepSeek R1 AI

Новый Ryzen AI MAX+ 395 представляет собой значительный скачок в возможностях обработки ИИ для потребительских ноутбуков.

Процессор объединяет ядра ЦП Zen 5 с 50 TOPS XDNA 2 NPU и интегрированным графическим процессором, предлагая беспрецедентную производительность ИИ для тонких и легких устройств премиум-класса. Он демонстрирует значительные улучшения в запуске локальных моделей ИИ, особенно в приложениях LLM, со значительными преимуществами в производительности по сравнению с конкурентами.

Этот процессор отлично подходит для потребительских рабочих нагрузок ИИ, таких как приложение LM Studio на базе llama.cpp, которое, как ожидается, станет лучшим решением для клиентских рабочих нагрузок LLM, позволяя пользователям локально запускать новейшую языковую модель без необходимости каких-либо технических знаний.

Основные преимущества AMD Ryzen AI MAX+ 395 перед конкурентами Copilot+:

Производительность

  • Пропускная способность токенов в 2,2 раза выше по сравнению с Intel Arc 140V
  • До 4 раз быстрее время до первого токена для меньших моделей, таких как Llama 3.2 3b Instruct
  • До 9,1 раза быстрее для моделей с 7–8 параметрами
  • До 12,2 раз быстрее, чем Intel Core Ultra 258V для моделей с параметрами 14B

Видение Модель Производительность

  • До 7 раз быстрее в IBM Granite Vision 3.2 3b
  • До 4,6 раз быстрее в Google Gemma 3 4b
  • До 6 раз быстрее в Google Gemma 3 12b

Память

  • Предлагает до 128 ГБ объединенной памяти по сравнению с 32 ГБ у конкурентов
  • Может преобразовывать до 96 ГБ в VRAM с помощью переменной графической памяти
  • Запуск более крупных моделей, таких как Google Gemma 3 27B Vision, с которыми не справятся другие APU

В последних тестах AMD демонстрирует возможности производительности ИИ своих APU Strix Halo против новейших графических процессоров Blackwell от NVIDIA. Компания рассказывает нам о преимуществах своего большого объема VRAM в 128 ГБ на APU Ryzen AI MAX+ 395, который может обеспечить прирост производительности до 3,05x по сравнению с дискретной видеокартой, как только размеры модели LLM превысят 16 ГБ VRAM.

Это связано с тем, что APU Strix Halo могут быть связаны с полными 128 ГБ VRAM, в то время как дискретный графический процессор RTX 5080 ограничен 16 ГБ VRAM. Даже более продвинутый RTX 5090 имеет 32 ГБ VRAM, но потребляет больше энергии, 360 Вт в случае 5080 и 575 Вт в случае RTX 5090.

В моделях с размерами, которые соответствуют бюджету VRAM графических процессоров RTX 5080 и RTX 5090, производительность по-прежнему выше у дискретных решений RTX 50, но Strix Halo и он сохраняет очень сильные позиции в качестве интегрированного решения "всё в одном".

Источник

Показать больше

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»