サービス一覧に戻る

vLLM

A high-throughput and memory-efficient inference and serving engine for LLMs

vLLM の代替サービスを見る
修正を提案
オープンソース
セルフホスト可
Apache-2.0
最近のレビュー

代替サービス

技術スタック

閲覧のみ
このサービスには技術スタックのタグがまだありません
💡 ヒント: ログインすると技術スタックのタグの追加・変更を提案できます