Сижу читаю PRO Hi-Tech и под новостью о том, что Intel представили карту Arc Pro B60 Dual 48Gb пошли споры кому это вообще нужно.
Илья Низамов
15 августа 2025 г. в 14:12
1
👍 14
🔥
😁
❤ 4
😱
👏
💯
😭
👎
🤔
🤣
👌
🤯
И
Илья Низамов
15 августа 2025 г. в 14:12(изменено) Автор темы
Сижу читаю PRO Hi-Tech и под новостью о том, что Intel представили карту Arc Pro B60 Dual 48Gb пошли споры кому это вообще нужно.
Вообще, смотря на развитие архитектур LLM, можно сказать что 32-48Gb ОЗУ вполне себе продакшен. Позавчера запустил на локальном сервере c 3080ti 12Gb современную модель GPT OSS 120b и она выдала скорость 20токенов/сек, что для модели входящей в топ 10 мирового рейтинга, очень круто на таком железе.
Что это дает нам? Кончено возможность использования мощной LLM в проектах автоматизации во внутреннем контуре компании без необходимости покупать карты по 2-3млн/шт. Даже условный ИП Вася Пупкин может позволить один раз потратить 100тыс на сервер и не переживать о конфиденциальности своих диалогов, анализ звонков с клиентами или самаризацию ZOOM созвонов.
В общем ждем подобные архитектурные решения от других вендоров, так глядишь и в обычном телефоне скоро будут работать мощные, полностью локальные модели. И цены у Хуанга немного просядут для рядового потребителя. Чем больше конкурентов, тем лучше.
В интересное время живем, всем удачи, пока!
@nizamov_studio_1c
#localai #1с #1c #ai #ии
A
Aleksandr Shumakov
15 августа 2025 г. в 14:13(изменено)Не будет ИП у васи пупкина. Его заменит ИИ
Е
Евгений Мартыненков
15 августа 2025 г. в 14:29(изменено)Без цены и разговаривать не о чем. Вдруг она будет сопоставима с ценами на обычные видюхи с таким же кол-вом ОЗУ на борту
И
Илья Низамов
15 августа 2025 г. в 14:29(изменено)Обещают в районе 100тыс
A
Andrew Maystrenko
15 августа 2025 г. в 14:34(изменено)Там GPU намного слабее - поэтому и цена ниже
И
Илья Низамов
15 августа 2025 г. в 14:37(изменено)Пока нет тестов, рано говорить слабее или сильнее, я вижу больше проблему в драйверах и поддержку бэкендов, если NVidia поставил и используй, то тут пока танцы с бубнами с непонятным результатом.
A
Andrew Maystrenko
15 августа 2025 г. в 14:38(изменено)по ядрам видно - слабее
А
Александр Vps.s-alpha.ru
15 августа 2025 г. в 14:39(изменено)intel никогда не было "дешевле" учитывая опыт nvidia скорей всего ещё и не будет лучше, но с большой вероятностью поддержка самим интелом будет "лучше" в чём преимущества пока не понятно, а вот стоимость явно будет выше как минимум потому что а) новое, б) Intel
И
Илья Низамов
15 августа 2025 г. в 14:39(изменено)Слабее чего?
A
Andrew Maystrenko
15 августа 2025 г. в 14:40(изменено)чем NVIDEO
И
Илья Низамов
15 августа 2025 г. в 14:42(изменено)У nvidia большой ассортимент карт, если карта за 100тыс слабее карты за 400тыс и при этом имеет больше ОЗУ, то тут вопрос что выгоднее. В общем посмотрим, пока нет тестов, это все домыслы.
A
Andrew Maystrenko
15 августа 2025 г. в 14:42(изменено)Intel Arc Pro B60 — профессиональная, двухслотовая видеокарта стандартной высоты, предназначенная для интеграции в топовые рабочие станций Project Battlematrix стоимостью $5000 до $10 000. Arc Pro B60 базируются на улучшенном графическом 5-нм чипе BMG-G21 с 20 ядрами 20 ядрами Xe2 и 160 ядрами XMX с производительностью до 197 pTOPS. Arc Pro B60 оснащена 24 ГБ VRAM со 192-шиной и пропускной способностью до 456 ГБ/с, поддерживается интерфейс PCIe 5.0 x8. TDP решения может варьироваться от 120 до 200 TDP в зависимости от нагрузки. Примечательно, что Arc Pro B60 технически близка к гейминг-видеокарте Arc B580, при этом имеет в 2 раза больше видеопамяти и ориентирована именно на инференс искусственного интеллекта. Рекомендованная стоимость Arc Pro B60 — $500.
И
Илья Низамов
15 августа 2025 г. в 14:43(изменено)Допустим 2х3090 в инференсе быстрее одной 4090, а стоят раза в 3 меньше.
А
Александр Vps.s-alpha.ru
15 августа 2025 г. в 14:44(изменено)все устаревшие карты стоят в разы дешевле особенно если на авито брать :)
И
Илья Низамов
15 августа 2025 г. в 14:45(изменено)Ну 4090 уже тоже не новички и даже на авито стоят космос )
И
Илья Низамов
15 августа 2025 г. в 14:47(изменено)Смотрел как-то исследование, один парень заморочился, в итоге самым выгодным вариантом для запуска локальных ИИ моделей для энтузиастов стали карты 3090, по соотношению цена скорость.
А
Александр Vps.s-alpha.ru
15 августа 2025 г. в 14:48(изменено)так берите 3090 их ещё и продать можно будет всегда игроманам
И
Илья Низамов
15 августа 2025 г. в 14:49(изменено)Пока они еще есть, но скоро будут только убитые карты.
А
Александр Vps.s-alpha.ru
15 августа 2025 г. в 14:50(изменено)вопрос в том не будет ли ограничений по объему оперативки одной такой карты не уверен что с двух карт память будет суммироваться
И
Илья Низамов
15 августа 2025 г. в 14:50(изменено)Я все думал что в 5080 Super будет 32Gb, но Хуанг опять по жадничал.
И
Илья Низамов
15 августа 2025 г. в 14:50(изменено)Скорее всего да, но для нормального бекенда это не особая проблема
Е
Евгений Мартыненков
15 августа 2025 г. в 15:11(изменено)а сколько там? вроде ж 32 и есть
И
Илья Низамов
15 августа 2025 г. в 15:11(изменено)24
И
Илья Низамов
15 августа 2025 г. в 15:12(изменено)32 только в 5090
Е
Евгений Мартыненков
15 августа 2025 г. в 15:12(изменено)извиняюсь, цифру одну недоглядел. Не знал вообще о существовании 5080.
Мы себе две 5090 поставили в один корпус для ИИ )
A
Aleksandr Shumakov
15 августа 2025 г. в 18:11(изменено)какие именно? там тоже тонны модификаций же?
И
Илья Низамов
15 августа 2025 г. в 18:51(изменено)Имеется ввиду какие видео карты тестировал?
A
Aleksandr Shumakov
15 августа 2025 г. в 18:52(изменено)например да.
Я зашел посмотреть видеокарты.
Умный дядя сказал - бери эту.. А эту это несколько модификаций с разбросом цен тысяч в 50
И
Илья Низамов
15 августа 2025 г. в 18:54(изменено)Статья вроде на хабре была, я точно не помню.
И
Илья Низамов
15 августа 2025 г. в 19:07(изменено)https://vc.ru/ai/881777-spravochnik-po-vyboru-gpu-dlya-raboty-s-bolshimi-yazykovymi-modelyami-llama?ysclid=mecw8g9yxy439963121
A
Aleksandr Shumakov
15 августа 2025 г. в 19:08(изменено)Ну вот. А у 3090 вообще разброс кратный
Войдите, чтобы оставить ответ