llmcompressor.pytorch

PyTorch 特定模型压缩工作流的实用工具。

提供 PyTorch 特定的功能，包括模型加载、稀疏化工具以及针对压缩工作流优化的 PyTorch 张量操作。包含在压缩操作期间处理 PyTorch 模型和张量的实用工具。

模块

• model_load –
• utils –

  用作 PyTorch 实用程序和辅助功能的通用代码