Стартап Gimlet Labs объявил о привлечении $80 млн в рамках раунда А для революционной платформы, решающей проблему «узкого места» при инференсе (выводе) моделей ИИ. Их программное решение позволяет одной нейросети работать параллельно на гетерогенных вычислительных системах, используя чипы NVIDIA, AMD, Intel, ARM, Cerebras и d-Matrix одновременно. Это значительно ускоряет обработку запросов, снижает стоимость операций и избавляет компании от привязки к одному вендору.
#ИИинференс #GimletLabs #HeterogeneousComputing