сервер с gpu что это

Зачем нужен выделенный сервер с GPU

Объем информации в нашем мире увеличивается каждый день в немыслимых объемах. Это привело к тому, что многие информационные системы и оборудование с трудом справляются с обработкой поступающих данных. Решить проблему высокой производительности вычислений сегодня смогли серверы с GPU. Это системы с графическими картами, ставшие инструментом для майнинга, рендеринга, стриминга и других ресурсоемких процедур, для которых недостаточно мощности центрального процессора. Серверы с видеокартами также нередко применяются для 3D-моделирования, машинного обучения и сложной аналитики, многие компании уже перешли или в будущем планируют использование подобных систем.

Давайте разберемся, в чем заключаются особенности GPU-серверов, когда оправдано их использование и какие параметры стоит учесть перед заказом подобной услуги у провайдера.

Особенности использования видеокарт

Ранее за любые операции на ПК отвечал центральный процессор – CPU. Именно за счет него выполнялись необходимые вычисления, обрабатывались запросы видеокарты, осуществлялась передача звука и вывод графики на экран. Однако зачастую процедуры происходили с задержкой, так как мощностей такого процессора не хватало на выполнение одновременных операций.

С развитием оборудования стали применяться дискретные и интегрированные видеокарты. Их появление стало закономерным итогом усложнения графических задач и повышения требований со стороны программ и приложений. Для того чтобы осуществить быстрое выполнение задач, видеокарты обзавелись собственным процессором – Graphic Processor Unit. Его целью стало выполнение однотипных вычислений в несколько потоков. Нередко для обозначения такого процессора используют термины «графический ускоритель» и «видеопроцессор», которые характеризуют функционал GPU.

Выделенный сервер с GPU

Существует несколько вариантов применения технологии для организации ИТ-инфраструктуры. Первый из них – выделенный сервер с GPU. Такой вариант подходит для проектов, которые требуют большой вычислительной мощности и производительности.

Архитектура GPU позволяет увеличить скорость обработки информации, так как за такт работы выполняется несколько одновременных операций. Плюс использования выделенного сервера в том, что их можно объединить в единый отказоустойчивый кластер и использовать для создания производительной инфраструктуры.

GPU обычно используется для вычислений. Поэтому оснащать физический выделенный сервер видеокартой целесообразно только, если деятельность вашей компании связана с ресурсоемкими вычислениями. Чаще всего такой вариант выбирают для криптоанализа и криптографии, 3Д-моделирования, работы с Big Data и т. д. Чаще всего это касается сфер разработки, видеоигр, исследовательских проектов, в которых важны масштабные вычисления и различные медиа-ресурсы.

VPS с видеокартой

Многие организации в последние годы отказываются от использования физического оборудования и переходят на аренду виртуальных серверов. В этом случае наиболее логичным выглядит использование VPS с видеокартой. Этот вариант подходит для тех фирм, которые нуждаются в высокой производительности, но при этом хотят снизить расходы на инфраструктуру.

Виртуальный сервер, или VPS / VDS, представляет собой продукт виртуализации. При использовании такой технологии на физическом сервере с помощью гипервизора создается несколько независящих друг от друга серверов. Каждый из виртуальных серверов использует определенные выделенные ресурсы. Память и процессорные ядра также распределяются между созданными элементами.

В настоящем технология виртуализации позволила создавать и виртуальный графический процессор – vGPU. Он разворачивается на виртуальном сервере при помощи определенного ПО. В качестве основы используется физический GPU.

Виртуальный выделенный сервер с видеокартой дешевле и проще в настройках, чем физический. Он отличается высокой масштабируемостью и простотой управления, однако подходит для локальных проектов. Для бизнес-процессов, требующих высокой производительности, рекомендовано использование физического оборудования.

Облачный сервер с видеокартой

Также нельзя не упомянуть еще об этом популярном варианте выделенного сервера с видеокартой. Речь, конечно же, об облачной технологии.

Cloud-сервер представляет собой сервис, созданный на основе виртуализации с использованием облачных технологий и GPU-ускорителя. Аренда такого выделенного сервера с GPU может потребоваться для компаний, занимающихся разработкой или исследовательскими проектами. Как правило, использование облака позволяет существенно сократить расходы на инфраструктуру и оптимизировать все затраты организации. Подобное решение особенно актуально для небольших фирм с удаленной занятостью, которые не нуждаются в использовании физического оборудования.

Облачные технологии нередко применяются и для создания единой виртуальной среды для удаленной работы в крупных организациях. Это позволяет обеспечить непрерывность бизнес-процессов и высокий уровень безопасности. Особенно популярным подобное решение стало в условиях пандемии, так как позволило быстро настроить удаленную работу отделов и обеспечить связь между ними.

В последние годы на cloud-серверы с GPU переходят и различные геймерские компании-разработчики. Сфера облачного гейминга в последнее время обрела много поклонников, так же распространенные получили сервисы для облачного видео-стриминга. Все они не обходятся без серверов с видеокартой, так как требуют ресурсов и обработки большого количества операций.

Сферы применения

Многие эксперты уже говорят о том, что использование видеокарт для вычислений стало новых витком в истории IT. Технология уже применяется в различных сферах бизнеса и науки, а инфраструктуры с использованием серверов с GPU стали неотъемлемой частью крупных корпораций и небольших фирм.

Изначально подобные системы применялись для работы со сложной графикой. Однако высокая производительность серверов позволила применять видеокарты и для выполнения общих вычислений. В результате появилась технология GPGPU, которая предполагает применение множества параллельных вычислений для процедур с неграфическим типом данных.

Сегодня GPU активно применяется в следующих сферах:

Еще одна неожиданная сфера применения серверов с видеокартой – это службы безопасности. Дело в том, что из-за большого количества ядер видеокарты часто используются для перебора паролей и взлома серверов. Поэтому для защиты данных применяется зеркальное решение – настройка защиты за счет тестирования инфраструктуры с использованием графических ускорителей.

Отличия CPU И GPU

Принцип потоковой обработки операций, которые используется в CPU и GPU, серьезно различается. Именно это можно считать главной разницей в вычислениях в центральном процессоре в сравнении с операциями на графическом процессоре. Давайте рассмотрим этот вопрос подробнее:

Также стоит отметить, что технологии по-разному реализовывают доступ к памяти. За счет этого GPU не требуется емкая память, но при этом стоит понимать, что операция записи данных и считывание результата являются разными процессами.

Преимущества сервера с видеокартой

Аренда физического сервера с GPU имеет несколько плюсов:

Недостатки сервера с GPU

Многих клиентов волнует вопрос о том, имеются ли у подобных серверов недостатки. К их числу можно отнести заблуждение о том, что главные вычислительные мощности возложены на видеокарту. Графический адаптер решает множество простых задач, однако ряд процессов он не способен выполнить собственными усилиями. Поэтому GPU почти всегда используется совместно с CPU.

Выводы

Сервер с графическими картами предоставляет максимум возможностей для увеличения скорости обработки графических данных. Если в традиционных CPU может использоваться до 24 ядер, то в GPU – их содержится около 3000. Это позволяет выполнять почти в 100 раз больше различных операций и делать это практически в 10 раз быстрее.

Использовать сервер с видеокартой предпочтительнее в тех случаях, когда вам требуется работа с графикой или видео. Подобная инфраструктура уместна для компаний в сфере дизайна, анимации и видеомонтажа. Также серверы с CPU часто применяются для майнинга криптовалют и выполнения статических расчетов. Еще одна сфера, которая не обходится без использования серверов с графическими картами, это масштабные научные исследования. То есть, по сути GPU-сервер незаменим для процессов, связанных с обработкой больших массивов информации.

Мы можем сделать вывод о том, что серверы с видеокартой не только заняли свою «естественную» нишу, но и стали незаменимыми в самых непредсказуемых областях. Реалии таковы, что даже небольшая компания, занимающаяся разработкой или тестированием, сегодня нуждается в использование серверов с GPU. Крупным организациям применение подобной технологии может потребоваться при анализе Big Data или работе с искусственным интеллектом.

Хотите арендовать сервер с GPU или остались вопросы о технологии? Специалисты нашего дата-центра Xelent подробнее расскажут об услуге и подберут оптимальное решение, учитывающее сферу деятельности и потребности вашей компании. Оставляйте заявку на сайте или звоните по указанным номерам!

Источник

VDS с видеокартой — мы знаем толк в извращениях

Когда один из наших сотрудников сказал своему знакомому сисадмину: «А у нас теперь новая услуга — VDS с видеокартой», тот в ответ усмехнулся: «Что, будете офисную братию на майнинг толкать?». Ну хоть не про игры пошутил, и то ладно. Много он понимает в жизни разработчика! Но в глубине души у нас затаилась мысль о том, а вдруг кто-то и правда думает, что видеокарта — удел майнеров и любителей компьютерных игр? В любом случае, лучше семь раз проверить, а заодно рассказать, зачем придуман VDS с видеокартой и почему это так важно.

Безусловно, если вам нужен арендованный виртуальный сервер VDS с видеокартой для игр, то даже не читайте дальше, переходите на страницу услуги и смотрите условия/цены от RUVDS — наверняка вам понравится. Остальных мы приглашаем к дискуссии: а нужен ли VDS с видеокартой как услуга или проще развернуть свой программно-аппаратный комплекс?

Ответ на этот вопрос зависит от бизнеса и организации его процессов. Фактически такое предложение может заинтересовать рекламные агентства с их Фотошопами и Корелами, дизайн-агентства, использующие 3D-программы, проектные организации с Автокадами. Сотрудники этих компаний смогут работать из любого места, следовательно, можно будет нанимать людей откуда угодно и при этом не тратиться на капитальные вложения в мощную технику.

Сейчас ресурсы видеокарт активно используют разработчики популярного программного обеспечения: любой современный браузер будет отрисовывать страницы сайтов значительно быстрее, если сможет использовать графический ускоритель, не говоря уже о том, что для этих самых браузеров существуют 3D приложения и игры, которые работают на WebGL.

Таким образом можно предположить, что VDS с видеокартой подойдёт многим ИТ-компаниям, интернет-магазинам, рекламным и дизайнерским агентствам, компаниям, связанным с анализом данных и т.д. Попытаемся классифицировать и подробнее описать наиболее актуальные варианты использования.

Первое, что напрашивается само собой, это работа с графикой. VDS c видеокартой обеспечит вычислительные мощности для быстрой работы с 3D-графикой, анимацией, 2D-графикой. Дизайнерам и компаниям из геймдева такая конфигурация будет оптимальна, она потянет как моделирование, так и Corel, Photoshop, Autocad и т.д. Плюс, как мы уже рассуждали ранее, у такой услуги есть важное дополнительное преимущество: компании смогут легко формировать распределённую команду и при этом не нести колоссальных затрат.

Также VDS с видеокартой могут заинтересоваться компании, у которых есть потребность в быстром обсчёте сложных задач, либо большого количества дискретных простых задач. Это компании, которые собирают и обрабатывают данные с большого количества датчиков или инфраструктуры IoT, имеют биллинг, работают с большими данными и нуждаются в ультра оперативном сборе метрик и т.д. Если вы работаете с бизнес-приложениями, основанными на Big Data, вы оцените скорость анализа и обработки данных. Вычислительные преимущества VDS с видеокартами при решении вышеперечисленных задач связаны с тем, что видеокарта обслуживается производительной оперативной памятью и имеет больше арифметико-логических модулей, чем CPU, а значит, одновременно выполняется гораздо больше операций.

Третья по счёту и первая по важности сфера применения конфигурации VDS с видеокартой — задачи информационной безопасности такие как мониторинг и контроль трафика в нагруженных сетях, создание тестовых стендов для прогона кейсов пентест-тестирования.

Также подобный сервер поможет компаниям или частным разработчикам, которые занимаются обучением нейросетей — та сфера, где мощность не бывает лишней.

Наконец, VDS с видеокартой — то что нужно для стриминга, то есть потокового вещания для трансляции событий, музыкального и видео-контента. Вариант подойдёт для вещания с публичных камер, может заинтересовать организаторов конференций и т.д.

Ещё один сценарий, который нам подсказали разработчики, использующие VDS с видеокартой в реальном бою, — такая конфигурация хорошо отрабатывает для запуска android-эмулятора при разработке мобильных приложений (и особенно игр).

Из частных задач мы бы выделили две основных, которые представляют собой набор частых вычислительных операций. Первая — майнинг (а им кто-то занимается?). Вторая — более интересная и менее нагруженная. Это работа с торговыми системами типа QUIK. Работа с такой конфигурацией комфортна для высокочастотной торговли.

Ну и последняя, самая банальная, задача, которая решается VDS с видеокартой. При этом не важно частный вы клиент или корпоративный, не важно какое программное обеспечение используете: бухгалтерское, для моделирования или рисования. Вам всегда будет важна быстрая отрисовка интерфейса, особенно при использования множества RDP подключений.

Тестирование

Конечно приведенные тесты не будут иметь ничего общего с вашими реальными задачами, бизнес-процессами и идеями реализации, поэтому отнеситесь к ним как к примерам.

Для тестирования мы сравнили виртуальный сервер с 2 ядрами процессора и 4 ГБ оперативной памяти с виртуальной видеокартой в 128МБ и без видеокарты. На обеих виртуалках запустили в браузере Internet Explorer одну и ту же WebGL страницу. На странице рисовались квадраты размером 32×32 со скоростью 60 кадров в секунду.

Такую картинку мы получили на виртуальном сервере, с установленной видеокартой. Скорость прорисовки составила 59-62 кадра в секунду, все пространство было заполнено, число спрайтов составило 14 тысяч штук.

Результат на аналогичном VPS без видеокарты. Скорость прорисовки 32 кадра в секунду, при полностью загруженном на 100% процессоре, имеем 1302 спрайтов, и незаполненную область.

Также мы протестировали нашу видеокарту с помощью бенчмарка FurMark, при разрешении 1920 на 1440 точек и получили среднюю частоту 45 кадров в секунду.

Еще один стресс-тест для видеокарты с помощью MSI Kombustor, здесь мы проверили видеокарту на предмет появления различных артефактов. При тестировании на экране не должны появляться разноцветные пятна, геометрические фигуры, полосы и прочие артефакты. После 25 минут тестирования видеокарты все в норме, артефактов не появилось.

Запустили видео на youtube в 4к. Кликабельно:

Также мы запустили тесты в 3DMark. Получили в среднем около 40 кадров в секунду.

Провели тест с помощью бенчмарка Geekbench 5 для OpenCL

Результаты тестов нас приятно порадовали. Пробуйте, тестируйте, делитесь опытом.

Кстати, а кто-то уже пробовал конфигурацию VDS с видеокартой, для чего использовали, как оно вам?

Источник

Crysis на максималках, или зачем серверу видеокарта

Помимо игры в Battlefield 1 и развлечений с VR-очками, установка отдельной видеокарты в сервер полезна при работе с графикой в виртуальной среде или для математических вычислений.

Использование GPU в серверной среде связано с некоторыми особенностями в каждом конкретном сценарии, поэтому разберем их подробнее.

Математика – царица наук

С появлением криптовалют и майнинга оказалось, что рассчитывать ключи шифрования на видеокартах получается быстрее, чем на обычных CPU.

Тому есть несколько причин:

У видеокарты больше арифметическо-логических модулей, чем в центральном процессоре, что позволяет выполнять большее число параллельных задач;

GPU обслуживается более производительной оперативной памятью;

Например, Intel Xeon v4 с поддержкой AVX 2.0 способен выполнять 16 32-битных инструкций на ядре за такт, в то время как одна видеокарта NVIDIA GeForce GTX 1080 отрабатывает 8 228 аналогичных инструкций.

Сейчас математический обсчет на видеокартах используются не только для майнинга. Например, в корпоративном секторе есть более общие задачи:

Обсчет некоторых бизнес-приложений (анализ Big Data);

Графические задачи. Для массового создания изображений по 3D моделям удобнее использовать специальный сервер или рендер-ферму вместо компьютера дизайнера;

В последние годы видеокарты все больше используют для обучения нейронных сетей, как подвариант работы с Big Data. Популярный фреймворк Caffe работает на инстансах Амазона с GPU на порядок быстрее CPU.

Не так давно ко мне обратилась организация, поймавшая шифровальщика. По счастью, вирус был старый и файлы были зашифрованы PSK-ключом, а не сертификатом. Понадобилось два дня брутфорса при помощи Hashcat на нескольких игровых компьютерах коллег – и десятизначный ключ нашелся.

При переносе работы с процессора на GPU сложность в том, что нельзя просто сказать операционной системе «считай-ка, дорогуша, на видеокарте». Для работы напрямую с математическим модулем видеокарты нужна поддержка в конкретном приложении. Сам принцип такой работы называется GPGPU (General-purpose computing for graphics processing units), поэтому стоит искать поддержку чего-то подобного в описании возможностей ПО.

Для работы приложений с математическим модулем видеокарты используются две технологии — CUDA и OpenCL:

CUDA. Программно-аппаратная технология от NVIDIA. SDK предоставляет возможность разработки на диалекте языка C. NVIDIA выпускает как обычные видеокарты с интерфейсом PCI-E, так и серверную линейку Tesla. Есть и оптимизированные для блейд-серверов видеокарты с интерфейсом MXM;

Экспериментальных сравнений производительности двух технологий можно найти немало. При работе с видеокартами AMD и NVIDIA примерно одного уровня, от использования OpenCL выигрывает AMD. Но если приложение разрабатывалось с поддержкой CUDA — лидирует уже NVIDIA. Поэтому выбор конкретной видеокарты обусловлен той архитектурой, которая была заложена в приложение.

Кроме обработки сложных математических задач видеокарту можно использовать и более профильно – для работы с «тяжелыми» графическими приложениями.

Виртуализируй это

Терминальные серверы и тонкие клиенты давно ценятся за удобство обслуживания и независимость от клиентских машин. Последние годы набирает популярность инфраструктура виртуальных рабочих столов (VDI), предлагающая каждому пользователю собственную виртуальную машину в дата-центре.

Если пересадить обычного офисного сотрудника на тонкий клиент не представляет особого труда и практически не сказывается на качестве работы, то отдельная категория стабильно вызывает головную боль – это дизайнеры, архитекторы и другие специалисты, использующие серьезные графические программы.

Помимо графических приложений, ускорение GPU используется при работе даже обычных офисных пакетов MS Office, LibreOffice. Ускорить их работу на обычном терминальном сервере можно установкой мощной видеокарты. Например, при использовании RemoteFX карта AMD FirePro S10000 поддерживает до 70 пользователей. Если сотрудники жалуются на производительность офисных приложений, установка видеокарты может исправить ситуацию.

Решением проблемы может стать перевод требовательных пользователей на VDI вместо простого терминала. Потребуется гипервизор с поддержкой аппаратного ускорения графики. В 2016 году это умеют большинство гипервизоров, даже бесплатных.

Процессор поддерживает аппаратную виртуализацию и IOMMU (Intel VT-d или AMD-Vi);

Материнская плата поддерживает IOMMU;

Если пользователей, желающих оценить плюсы отдельной графики, много, то можно приобрести специальные видеокарты с поддержкой разделения ресурсов.

Умеющие делить ресурсы модели есть у NVIDIA и AMD:

Еще у VMware в ассортименте присутствуют видеокарты GRID K и GRID К2, не попавшие в таблицу, так как морально устарели.

Поддержки карт с разделяемыми ресурсами пока что нет в бесплатных системах виртуализации. Если раньше XenServer всех редакций поддерживал работу «многопользовательской» карты, то теперь необходима редакция Enterprise. Для VMware понадобится редакция Enterprise Plus и выше.

Помимо виртуализации рабочих столов существует и виртуализация приложений (VMware Horizon, Citrix XenApp). Не обязательно выдавать дизайнеру полноценную рабочую станцию, можно виртуализировать, например, только Photoshop.

При разработке виртуальной среды с ускорением графики стоит обратить внимание не только на поддержку в гипервизоре, но и на совместимость с определенной моделью сервера. Совместимость видеокарт NVIDIA GRID с конкретными моделями серверов можно проверить на сайте NVIDIA. В частности, из серверов HPE сертифицирован для работы современной Tesla M60 только ProLiant DL380 Gen9. Эта же модель одобрена AMD.

Для блейд-серверов у AMD и NVIDIA есть решение с интерфейсом MXM, которое характеристиками схоже с картами для обычных серверов.

NVIDIA GRID позволяет использовать разделяемую видеокарту тремя способами:

*SUMS (Support, Update and Maintenance Subscriptions) — поддержка и обновления от NVIDIA.

**Для приобретения вечной лицензии необходимо приобрести SUMS хотя бы на первый год.

Ценник на лицензии сам по себе не большой, но суммарно внедрение всего программно-аппаратного решения обойдется довольно дорого. Тем не менее, если в компании большая часть сотрудников работает с громоздкими графическими приложениями, внедрение VDI может быть дешевле, чем поддержка парка мощных компьютеров.

Помимо математических расчетов и инфраструктуры мощных виртуальных машин с поддержкой графических приложений, можно использовать видеокарты и для игр. Например, создать облачный сервис для прохождения третьего ведьмака на высоких настройках на любом устройстве.

А использовали ли вы мощные дискретные видеокарты в серверах, как впечатления?

Источник