5.4 常见问题与解决方案

在应用少样本学习时，可能会遇到各种问题。本节总结常见问题及其解决方案，帮助读者更有效地使用这一技术。

5.4.1 问题一：示例数量不足或过多

症状

• 示例太少：模型理解不准确，输出不稳定

• 示例太多：消耗过多 Token，可能引入噪音

解决方案

找到最佳平衡点：

优化策略：
1. 从 3 个示例开始
2. 测试效果，记录准确率
3. 逐步增加示例，观察边际收益
4. 当增加示例效果提升不明显时停止
5. 确保 Token 成本可接受

分场景配置：

简单任务（如明确的格式转换）：2-3 个示例
中等任务（如多类别分类）：3-5 个示例
复杂任务（如需要推理的任务）：5-6 个示例

5.4.2 问题二：示例与实际输入差异大

症状

• 模型输出与示例相似，但与实际需求不符

• 遇到与示例不同类型的输入时表现差

解决方案

提高示例的多样性：

优化前示例：
- 示例 1："这个产品质量很好" → 正面
- 示例 2："非常满意" → 正面
- 示例 3："推荐购买" → 正面
（都是简短的正面评价）

优化后示例：
- 示例 1："这个产品质量很好" → 正面（简短正面）
- 示例 2："等了一周，包装还破了" → 负面（简短负面）
- 示例 3："产品还行，价格有点贵" → 混合（复杂判断）
- 示例 4："嗯。" → 无法判断（信息不足）

使用动态示例选择：

根据输入的特点，从示例库中选择最相关的示例：

输入：长篇复杂评论
→ 选择包含长篇评论的示例

输入：包含讽刺语气
→ 选择包含讽刺识别的示例

5.4.3 问题三：输出格式不一致

症状

• 模型有时遵循示例格式，有时不遵

• 同一提示词多次运行格式不同

解决方案

强化格式说明：

增加明确的格式指令：

请严格按照示例的格式输出。
输出必须是有效的 JSON，不包含任何其他文字。

[示例]
...

严格遵循上述格式。

使用预填充技术（适用于 Claude）：

请分析以下文本的情感：

[示例]
...

请分析："这个产品还不错"

分析结果：{"sentiment":

模型会从预填充的位置继续生成。

降低 Temperature：

Temperature 设为 0 或很低的值可以增加输出的确定性。

5.4.4 问题四：模型复制示例而非学习模式

症状

• 模型输出与某个示例高度相似

• 对新输入生成类似示例中的输出而非正确输出

解决方案

确保示例多样化：

避免示例之间太相似，增加差异性。

增加明确的泛化指令：

以下示例展示了任务的模式，请将这个模式应用到新的输入上：

[示例]
...

请注意：不要复制示例的内容，而是理解任务模式并应用到新输入。

请处理：[新输入]

使用不同领域的示例：

如果新输入与示例在内容上差异大，可以减少直接复制的倾向。

5.4.5 问题五：边界情况处理不当

症状

• 对于模糊、异常或特殊输入，模型表现差

• 模型强行分类，不会说“无法判断”

解决方案

添加边界情况示例：

常规示例：
输入："产品质量很好"
输出：{"sentiment": "positive", "confident": true}

边界示例：
输入："还行"
输出：{"sentiment": "neutral", "confident": false}

异常示例：
输入："....."
输出：{"sentiment": "unknown", "reason": "无有效内容"}

明确边界处理规则：

处理规则：
1. 如果情感明确，输出对应类别
2. 如果情感模糊，输出"混合"或"中性"
3. 如果内容无效或无法判断，输出"无法判断"并说明原因

5.4.6 问题六：示例顺序影响结果

症状

• 调换示例顺序后，模型输出发生变化

• 后面的示例似乎比前面的权重更高

解决方案

将重要示例放在最后：

由于近因效应，靠后的示例可能影响更大。

将多样化示例均匀分布：

不是：
[正面 1][正面 2][正面 3][负面 1][中性 1]

而是：
[正面 1][负面 1][正面 2][中性 1][正面 3]

多次测试不同顺序：

评估顺序敏感程度，选择效果最稳定的顺序。

5.4.7 问题七：Token 限制

症状

• 示例过多导致上下文窗口不足

• 无法容纳足够的示例和输入内容

解决方案

简化示例：

优化前：
输入："我买了一台华为 Mate60 Pro 手机，使用了一个月后感觉
      非常满意，屏幕显示效果很好，拍照功能也很强大，
      电池续航超过了我的预期，而且系统运行非常流畅..."
输出：正面

优化后：
输入："手机很好，屏幕清晰，电池持久"
输出：正面
（保留核心特征，减少冗余）

使用更紧凑的格式：

优化前（每个示例 3 行）：
示例 1：
输入：xxx
输出：yyy

优化后（表格格式，更紧凑）：
| 输入 | 输出 |
|------|------|
| xxx | yyy |

分层示例策略：

核心示例（始终包含）：2-3 个最重要的
可选示例（按需添加）：根据上下文窗口余量动态添加

5.4.8 问题诊断流程

遇到少样本学习问题时的诊断步骤：

1. 确认问题类型
   ├── 格式问题：输出格式不符合要求
   ├── 准确度问题：理解或判断错误
   └── 稳定性问题：多次运行结果不一致

2. 检查示例质量
   ├── 代表性够吗？
   ├── 多样性够吗？
   ├── 清晰性够吗？
   └── 一致性够吗？

3. 尝试解决方案
   ├── 调整示例数量
   ├── 优化示例内容
   ├── 改进格式说明
   └── 调整参数设置

4. 验证效果
   └── 使用测试集验证改进效果

想一想

1. 你遇到过“示例越多效果反而越差”的情况吗？可能的原因是什么？

2. 当少样本学习在某个任务上失败时，你会先调整示例、增加示例，还是改用其他技术（如思维链）？判断依据是什么？