AI
29k

大規模・マルチモーダルモデル向けの高性能サービング基盤

SGLang is a high-performance serving framework for large language models and multimodal models.

関連トピック

attentionblackwellcudadeepseekdiffusionglmgpt-ossinferencellamallmminimaxmoe

コメント(0

コメントするにはログインしてください。

同じカテゴリのOSS

Let's Build Together

OSS導入、自社だけで悩まない。

ツール選定から構築・運用・AI活用まで、オープンソースラボ運営元のClasslessが伴走します。初回のご相談は無料です。