16,819
个编辑
更改
无编辑摘要
#'''模型微调:'''针对具体的任务对预训练模型做进一步训练,改进其一般非专业知识(在预训练阶段获得)以适应更专业的领域。微调一般利用监督学习在较小的、特定于任务的标记数据集上做进一步的模型训练。此步骤建立在预训练期间建立的语言基础之上,使模型能够以更高的准确性执行各种实际任务。例如在机器翻译中,预训练的语言模型可以在包含源语言句子及其目标语言翻译的平行语料库上进行微调,学习映射两种语言之间的语言结构和模式,最终使其能够有效地翻译文本。<br>
以上信息仅供参考,如果想了解更多大语言模型的创建过程,建议咨询大语言模型领域的专家或查阅相关书籍、文献获取更多信息。
----
相关问题:
#[[大语言模型准备阶段的数据收集,对数据的质量和多样性有什么好的保障措施?]]