跳到内容

llmcompressor.transformers.utils.preprocessing_functions

文本生成任务的数据集预处理函数。

该模块提供了用于各种数据集的预处理函数注册表,这些数据集用于微调工作流。包括聊天模板、指令格式化以及流行训练数据集的数据集特定转换。