Убийца RTX 3090 в LLM за копейки? две CMP50 - до 157 ток в секунду на Qwen 3.8

1 подписчик

12+
12+

18 просмотров

3 дня назад

ПожаловатьсяНарушение авторских прав

1 подписчик

12+
12+

18 просмотров

3 дня назад

ПожаловатьсяНарушение авторских прав
12+
12+

18 просмотров

3 дня назад

Не покупай RTX 3090, пока не посмотришь! Показываем, как две майнинговые NVIDIA CMP50 с увеличенной до 20 ГБ памятью на каждой запускают Qwen3.8-27B и пишут код в Neith OS. В отдельных тестах генерации кода получали до 157 токенов в секунду. В ролике — реальная сборка, стоимость комплектующих, установка системы, настройка запуска и работа ИИ-агента: от задания до готовой игры «Змейка» прямо в браузере. Заодно покажем каталог моделей, мониторинг видеокарт, API и возможности для изображений, видео, аудио и 3D. Досмотрите до конца: расскажем о подарочном промокоде на платную версию Neith OS. Количество ограничено; подробности и доступность — в Telegram. Telegram — новости, обсуждение и промокоды: https://t.me/neith_os Neith OS — установка и бесплатная версия: https://neithos.ru Драйвер и анлок CMP50: https://github.com/rjohny55/cmp50-unlock Для обычного запуска и работы с нейросетями достаточно бесплатной версии Neith OS. Платная версия добавляет бизнес-плагины и готовые решения: создание фильмов, клипов и рекламы, а также локального голосового агента с выбранным, в том числе вашим, голосом. Важно: 157 токенов/с — максимум отдельного теста генерации кода, а не постоянная скорость любых запросов. В живой демонстрации различаем скорость драфтера и принятого потока. Упомянутые 70 токенов/с на RTX 3090 взяты из другого теста пользователя Хабра: это не прямое сравнение в одинаковых условиях. Цены — ориентиры из ролика, не актуальная оферта; стоимость полной сборки показана отдельно. RTX 3090 быстрее в генерации видео — CMP50 не заменяет её во всех задачах. Перед применением анлока проверьте совместимость конкретной карты, драйвера и ядра. Не применяйте патч к неподдерживаемому оборудованию. Напишите в комментариях, какие модели и задачи протестировать следующими. Подписывайтесь на канал — впереди новые обзоры локального ИИ и тесты видеокарт! ## Таймкоды 00:00 Не покупай 3090, пока не посмотришь 00:10 Две CMP50 по 20 ГБ и подарок в конце 00:23 Сколько стоили майнинговые карты раньше 00:32 Переделка карт и обращения на Авито 00:53 Сколько стоят CMP50 после увеличения памяти 01:06 RTX 3090 и 70 токенов/с: пример с Хабра 01:12 Две CMP50 для запуска Qwen3.8-27B 01:26 Генерация видео: где RTX 3090 быстрее 01:40 Генерация изображений 01:53 Аудио и музыка на CMP50 02:06 Материнская плата и цена на Озоне 02:23 Процессоры Xeon, охлаждение и блок питания 02:46 Оперативная память, SSD и корпус 03:09 Полная смета сервера: 142–156 тысяч рублей 03:37 Ubuntu Server и подключение по SSH 03:47 Установка Neith OS одной командой 04:03 Драйвер, анлок CMP50 и управление питанием 04:37 Живая демонстрация панели и мониторинг карт 04:52 Выбор модели и профиль запуска: две GPU, контекст 64К 05:01 Запуск модели, журнал и аналитика 05:54 Поиск моделей, фильтры и скачивание весов 06:22 Каталог движков: LLM, изображения, видео, аудио и 3D 06:58 Чат и переход к новому тесту 07:23 Агент создаёт игру «Змейка» 07:39 Файлы проекта и первое превью 08:02 Скорость драфтера и принятого потока 08:26 Нагрузка двух видеокарт и сборка вживую 08:47 Запускаем готовую игру 09:13 API-ключи и внешние подключения 09:27 Итоги скорости; с 09:38 — скрин отдельного теста 09:41 Ручная установка движков или Neith OS 10:08 Что доступно бесплатно 10:19 Подарочный промокод в Telegram 10:30 Фильмы, клипы и реклама из коробки 10:42 Локальный голосовой агент 11:05 Пример голосового консультанта для сайта 11:24 Подписка и ваши идеи для следующих тестов ## Хештеги для описания #NeithOS #CMP50 #ЛокальныйИИ ## Теги для поля «Теги» в YouTube Studio CMP50, CMP50HX, NVIDIA CMP50, CMP 50 HX, CMP50 20GB, майнинговые видеокарты, видеокарты для ИИ, локальный ИИ, нейросети локально, Qwen3.8, Qwen3.8 27B, Qwen 27B, vLLM, DFlash2, speculative decoding, генерация кода, ИИ агент, Neith OS, NeithOS, RTX 3090, сравнение видеокарт, сервер для нейросетей, Xeon, Linux, Ubuntu Server, локальная LLM

Название:

Убийца RTX 3090 в LLM за копейки? две CMP50 - до 157 ток в секунду на Qwen 3.8