添加新模型#
本节提供更多关于如何将 PyTorch 模型集成到 vLLM 中的信息。
注意
添加新模型的复杂程度很大程度上取决于模型的架构。如果模型与 vLLM 中现有的模型共享类似的架构，则该过程相当简单。但是，对于包含新运算符（例如，新的注意力机制）的模型，该过程可能会稍微复杂一些。
提示
如果您在将模型集成到 vLLM 时遇到问题，请随时打开 GitHub issue 或在我们的 开发者 slack 上提问。我们将很乐意为您提供帮助！
本节提供更多关于如何将 PyTorch 模型集成到 vLLM 中的信息。
注意
添加新模型的复杂程度很大程度上取决于模型的架构。如果模型与 vLLM 中现有的模型共享类似的架构，则该过程相当简单。但是，对于包含新运算符（例如，新的注意力机制）的模型，该过程可能会稍微复杂一些。
提示
如果您在将模型集成到 vLLM 时遇到问题，请随时打开 GitHub issue 或在我们的 开发者 slack 上提问。我们将很乐意为您提供帮助！