LLM Compressor 示例

本节提供实际演示，展示如何使用 LLM Compressor 优化大型语言模型，以便更快速、更高效地使用 vLLM 进行部署。这些示例将帮助您了解 LLM Compressor 中提供的各种压缩技术和功能，从而更轻松地将它们应用于您自己的模型。

每个示例都设计为独立运行，并提供清晰的说明和可以直接运行的代码片段。