ВСЕ СТАТЬИ

← Вернуться к статьям
Ещё одна альтернатива платформам NVIDIA — IBM объединила усилия с Groq

Ещё одна альтернатива платформам NVIDIA — IBM объединила усилия с Groq

20 октября в 21:35
3dnews.ruтехнологии
20 октября в 21:35•favicon3dnews.ru•технологии

Ещё одна альтернатива платформам NVIDIA — IBM объединила усилия с Groq — IBM и Groq объявили о стратегическом партнёрстве с целью предоставления клиентам возможностей высокоскоростного ИИ-инференса по доступной цене путём объединения watsonx Orchestrate от IBM с аппаратными решениями Groq, что позволит ускорить развёртывание агентных систем ИИ. В рамках партнёрства Groq и IBM планируют интегрировать и усовершенствовать технологию Red Hat vLLM с архитектурой LPU Groq. Ожидается, что совместное решение позволит клиентам использовать возможности watsonx Orchestrate привычным образом и с привычными инструментам в инференс-платформе GroqCloud, предоставляющей разработчикам доступ к высокоскоростной и недорогой обработке LLM. Эта интеграция позволит удовлетворить ключевые потребности разработчиков ИИ-решений, включая оркестрацию инференса, балансировку нагрузки и аппаратное ускорение, что в конечном итоге оптимизирует сам процесс инференса. Также планируется поддержка моделей IBM Granite в GroqCloud для клиентов IBM.

Теги:
IBM
Groq
Red_Hat

Еще статьи из категории

Еще статьи