Американский стартап Inferact, основанный для коммерциализации открытого фреймворка vLLM (Vectorized Large Language Model inference), объявил о привлечении $150 миллионов в раунде посевного финансирования. Это финансирование, оценивающее компанию в $800 миллионов ещё до выхода на рынок, подчёркивает высокий интерес инвесторов к технологиям оптимизации вывода ИИ. Фреймворк vLLM, известный своей эффективностью и высокой скоростью обработки запросов к LLM, позволяет значительно снизить затраты на инфраструктуру. Полученные средства будут направлены на развитие коммерческой платформы, которая поможет компаниям быстрее и дешевле внедрять большие языковые модели в свои продукты.

#vLLM #СтартапыИИ #Инференс