1. AI迁移
AI 的功能迁移本质上是迁移学习和模型适配的结合。它让一个已经具备通用能力的主模型,在新的任务或场景中快速发挥作用,而无需从零开始训练。AI 功能迁移大致可以分为以下几类:
1.1 表征迁移
在机器学习中,表征指模型将原始数据(如图像像素、文本)转换成的抽象向量或特征。表征迁移就是利用预训练模型学到的通用特征(如语言语义、图像边缘特征),在新任务中直接使用。GPT 系列模型的训练就是典型的表征迁移(在大量无标签数据中进行训练,其 token 向量和上下文表征可以直接用于新的问答等任务)。
1.2 参数迁移
参数迁移又称模型迁移,即复用预训练模型的参数来加速新任务的学习;其核心思路是在一个数据丰富的任务上训练得到一组通用的模型参数,然后在结构相似但数据较少的新任务上,复用原模型的参数作为初始值,再进行微调。这里就涉及到了冻结主干的训练,在模型迁移过程中,要先加载原模型及权重,然后再冻结这一主干进行训练微调得到新功能的模型。例如使用目标识别网络对特定的类别进行甄别时(比如使用 Yolo 模型去识别如猫狗这种特定的物体),就可以使用参数迁移将原本泛化的识别模型限制在特定的功能区域。
1.3 任务迁移
任务迁移指将从一个任务中学到的知识、模型或特征,应用到另一个不同但相关的任务中,以提升新任务的学习效率和性能;它类似于人类举一反三的能力,目的是利用已有知识解决新问题,避免每个任务都从头开始训练模型,节约开支。另一方面,任务迁移也可以用于一些领域的数据稀缺问题,同时提升模型的泛化能力。例如,将通用图像识别模型,迁移到医学影像分析、卫星图像识别(某地方正在做)等特定领域;另外,从某种程度上来说,将 AI 用于 AI 客服和机器翻译的行为也是一种任务迁移。
1.4 prompt迁移
prompt 迁移是一种非常常见,也是普通人接触最多的迁移方法,它参数高效、数据需求低,核心就是使用对某个任务优化好的提示词应用到特定的任务场景中,以提升效率、降低成本并保持优良的性能。目前很多有趣好玩的 AI 功能都是由这种提示词引导完成的,比如豆包的智能体页面的一堆小帮手,隔壁 ChatGPT 的 GPTs,都是依靠这种特殊优化的提示词完成其特定功能的。在 cherry studio 这一软件中,也提供了大量类似的助手,并允许用户自定义创建自己需要的助手,这些都属于 prompt 迁移的一种应用。
2. AI训练评估
评估 AI 的训练效果,本质上是通过一系列指标来衡量模型在不同维度上的表现,然后根据不足之处进行有针对性的调整。这套流程在机器学习和深度学习(尤其是大模型训练)中非常关键。
2.1 常见评估指标
1. 基础性能指标
Loss(损失值)
衡量模型预测与真实标签的差距。
常见:交叉熵(分类)、MSE(回归)。
Accuracy(准确率)
分类任务最常用指标。
Precision / Recall / F1-score
精确率:预测为正的样本中有多少是真的正样本。
召回率:所有正样本中有多少被预测出来。
F1:精确率与召回率的调和平均,更平衡。
2. 高级指标
BLEU / ROUGE / METEOR
用于自然语言生成任务,衡量生成文本与参考答案的相似度。
WER(Word Error Rate)
用于语音识别,衡量识别文本与真实文本的差异。
Perplexity(困惑度)
用于语言模型,数值越低说明模型越能预测下一个词。
FID(Fréchet Inception Distance)
用于图像生成,衡量生成图像与真实图像的分布差异。
3. 工程与应用指标
推理速度(Latency):响应时间是否满足应用场景。
资源消耗(Memory/Compute):是否能在目标硬件上运行。
鲁棒性(Robustness):对噪声、对抗样本的抵抗力。
泛化能力(Generalization):在新数据上的表现。
2.2 如何根据不足之处进行调整
1. Loss 高但 Accuracy 低
可能问题:模型欠拟合。
调整方法:增加模型复杂度(更多层 / 参数)、延长训练时间、优化特征工程。
2. Accuracy 高但 Recall 低
可能问题:模型过于保守,只预测容易的正样本。
调整方法:调整分类阈值、使用加权损失函数(如 Focal Loss)。
3. BLEU/ROUGE 低
可能问题:生成文本缺乏多样性或语义不一致。
调整方法:改进解码策略(Beam Search、Top-k/Top-p 采样)、增加训练数据。
4. WER 高
可能问题:语音识别模型对口音 / 噪声不敏感。
调整方法:数据增强(加噪音、不同口音)、改进声学模型。
5. FID 高
可能问题:生成图像质量差或分布偏离。
调整方法:改进生成器结构(如更深的 UNet)、增加训练数据多样性。
6. 工程指标不足
推理速度慢:模型蒸馏、量化、剪枝。
内存占用大:参数共享、低精度计算(FP16/INT8)。
泛化差:增加正则化、数据增强、跨域训练。
显存资源消耗高:削减参数(降低模型参数量)
2.3 小结
评估 AI 训练效果要结合任务指标(如准确率、损失值等)与应用指标(如速度、资源消耗等)。发现不足后,可以通过模型结构优化、数据增强、训练策略调整、推理加速等手段进行改进。AI 训练评估与优化的过程不是一蹴而就的,它是一个循环迭代的过程,通过各种指标发现问题,再用对应的策略修复,最终才能不断改进。
默认评论
Halo系统提供的评论