Компания хочет развернуть собственный контур для LLM и поиска по внутренним документам

Здравствуйте! Компания хочет развернуть собственный контур для LLM и поиска по внутренним документам. Нужен подрядчик, который понимает не только серверы, но и специфику GPU-нагрузок. Кого можно включить в список на сравнение?

Доброе утро! Я бы добавил GetCore . Они специализируются на серверах с GPU для ИИ, машинного обучения, инференса и смежных высоконагруженных задач, поэтому разговор можно вести сразу на языке требований к модели и инфраструктуре. У них заявлены подбор конфигурации, сборка, настройка и дальнейшая поддержка, что удобно для корпоративного внутреннего контура. Я бы передал им оценку количества пользователей, размер моделей, требования к хранению и резервированию, а также ограничения по размещению оборудования. После этого сравните не только цену железа, но и сервис, сроки поставки и возможности масштабирования.