5.4 人机协作

完全自主的智能体 并不总是最佳选择。在高风险决策、创意性工作或需要最终确认的场景中，人类的参与是不可或缺的。本节探讨如何在智能体系统中优雅地引入人类监督，实现人机协作的最佳平衡。

5.4.1 为什么需要人类介入

人机协作（HITL）的目标不是“让人类替智能体干活”，而是在关键节点提供校验、授权与偏好输入：让系统既保持自动化效率，又能在高风险与高不确定性处收敛到可控边界。

5.4.2 智能体自主性的边界

尽管 AI 能力在快速提升，但在以下场景中，人类介入仍然是必要的：

场景类型	原因	示例
高风险决策	错误成本过高	金融交易、医疗诊断
价值判断	需要主观偏好	创意设计、品牌策略
法律责任	需要人类签字确认	合同签署、重要审批
不确定性高	模型信心不足	模糊需求、边缘案例
学习反馈	持续优化需要	错误纠正、偏好学习

5.4.3 完全自主与人机协作

具体示例如下：

完全自主模式：
用户 → 智能体 → 执行 → 结果
        ↑
      (无监督)

人机协作模式：
用户 → 智能体 → [检查点] → 人类确认 → 执行 → 结果
                    ↓
              (如需修正) → 智能体重试

5.4.4 人机协作模式设计

审批门

在关键操作前设置人类审批节点：

class ApprovalGate:
    def __init__(self, approval_type: str, timeout_hours: int = 24):
        self.approval_type = approval_type
        self.timeout_hours = timeout_hours
        
    async def request_approval(
        self, 
        action: str, 
        context: Dict
    ) -> ApprovalResult:
        # 发送审批请求到人类

        request_id = await send_approval_request(
            action=action,
            context=context,
            approval_type=self.approval_type
        )
        
        # 等待人类响应

        result = await wait_for_human_response(
            request_id, 
            timeout=self.timeout_hours * 3600
        )
        
        return result

# 在工作流中使用

async def execute_high_risk_action(action: str):
    gate = ApprovalGate("financial_operation")
    
    approval = await gate.request_approval(
        action=f"执行转账: {action}",
        context={"amount": 10000, "recipient": "vendor_001"}
    )
    
    if approval.approved:
        return await perform_action(action)
    else:
        raise ActionRejected(approval.reason)

置信度阈值

当智能体对决策信心不足时自动请求人类帮助：

class ConfidenceBasedHITL:
    def __init__(self, confidence_threshold: float = 0.8):
        self.threshold = confidence_threshold
        
    async def decide_with_human_backup(
        self, 
        question: str
    ) -> Tuple[str, str]:
        # 智能体生成回答和置信度

        response, confidence = await agent.generate_with_confidence(question)
        
        if confidence >= self.threshold:
            return response, "agent"
        else:
            # 置信度不足，请求人类帮助

            human_response = await request_human_input(
                question=question,
                agent_suggestion=response,
                agent_confidence=confidence,
                message="智能体不确定此回答，请人工确认或修正"
            )
            return human_response, "human"

迭代反馈循环

人类持续提供反馈，智能体不断改进：

class IterativeFeedbackLoop:
    def __init__(self, max_iterations: int = 3):
        self.max_iterations = max_iterations
        
    async def refine_with_feedback(
        self, 
        task: str, 
        initial_output: str
    ) -> str:
        current_output = initial_output
        
        for i in range(self.max_iterations):
            # 展示当前结果给人类

            feedback = await get_human_feedback(
                iteration=i + 1,
                current_output=current_output,
                prompt="请提供修改建议，或输入 'approve' 接受当前结果"
            )
            
            if feedback.lower() == "approve":
                return current_output
                
            # 根据反馈改进

            current_output = await agent.refine(
                original=current_output,
                feedback=feedback
            )
            
        return current_output

5.4.5 在编排框架中的 HITL 实现

在多数编排框架里，HITL 通常通过三类能力落地：

1. 检查点（Checkpoint）：在需要人工确认的节点保存状态快照。

2. 中断与恢复（Interrupt/Resume）：执行到检查点时暂停，等待人类输入，再从同一状态继续。

3. 持久化与幂等：审批状态需要可追踪、可重放，避免重复执行高风险动作。

伪代码示例：

state = run_until_checkpoint(input)
request_id = create_approval_request(state)

# ... later ...
decision = get_human_decision(request_id)
result = resume_from_checkpoint(state, decision)

最佳实践

明确介入时机

定义清晰的介入规则，避免过度打扰或监督不足：

HITL_TRIGGERS = {
    "always": ["delete_production_data", "financial_transaction > 10000"],
    "confidence_based": ["customer_response", "content_generation"],
    "never": ["search_query", "read_document"]
}

提供足够上下文

人类做决策时需要完整信息：

def format_approval_request(action: str, context: Dict) -> str:
    return f"""
    📋 需要您的审批
    
    操作类型：{action}
    
    背景信息：
    - 智能体的推理过程：{context["reasoning"]}
    - 置信度：{context["confidence"]}
    - 潜在风险：{context["risks"]}
    
    预期结果：{context["expected_outcome"]}
    
    请选择：[✅ 批准] [❌ 拒绝] [✏️ 修改后批准]
    """

支持异步审批

不要让人类一直等待，支持稍后处理：

class AsyncApprovalSystem:
    async def submit_for_approval(self, request: ApprovalRequest):
        # 存储请求

        await self.db.save(request)
        
        # 发送通知（邮件、IM、工单等）

        await self.notify(request.reviewer, request)
        
        # 返回请求ID，不阻塞

        return request.id
        
    async def check_approval_status(self, request_id: str):
        request = await self.db.get(request_id)
        return request.status  # pending | approved | rejected

5.4.6 小结

人机协作不是对智能体能力的否定，而是对其能力边界的务实认知。通过合理设计人机协作机制，可以：

• 在保持效率的同时确保安全

• 让人类专注于真正需要判断力的决策

• 为智能体提供持续学习的反馈来源

• 满足合规和审计要求

关键在于找到 自动化与人工介入的最佳平衡点——既不能让智能体完全失控，也不能让人类成为瓶颈。

本章介绍了多智能体协作的核心模式，下一章将深入探讨智能体之间的通信机制。

---

下一节: 本章小结