示例

vLLM-Omni 的示例分为两类

• 如果您在 Python 代码中使用 vLLM-Omni，请参阅“离线推理”部分。
• 如果您通过 HTTP 应用程序或客户端使用 vLLM-Omni，请参阅“在线服务”部分。