우리는 AI 에이전트가 모든 일을 완벽하게 처리하기를 바라지만, 현실적으로 100% 자율적인 에이전트는 위험합니다. 가장 성숙한 형태의 워크플로우는 인간이 적절한 시점에 개입하는 **Human-in-the-loop(HITL)** 설계입니다.
언제 인간이 개입해야 하는가?
- 고위험 행위 전: 서버 재시작, 대규모 결제, DB 삭제 등 복구가 어려운 작업.
- 불확실성 임계값 도달 시: 에이전트 스스로 판단한 결과의 신뢰도(Confidence Score)가 낮을 때.
- 사용자 가치 판단이 필요할 때: 디자인의 미적 선택이나 윤리적인 판단이 개입되는 지점.
성공적인 HITL 설계 패턴
효율적인 협업을 위해서는 에이전트가 인간의 입력을 기다리는 동안 **상태를 안전하게 저장(Checkpointing)**할 수 있어야 합니다.
- 에이전트가 작업을 수행하다 승인이 필요한 지점에 도달합니다.
- 현재까지의 작업 상태를 저장하고 인간에게 알림(Slack, Email 등)을 보냅니다.
- 인간이 내용을 검토한 뒤 '승인', '거절' 혹은 '수정 제안'을 입력합니다.
- 에이전트는 인간의 피드백을 반영하여 남은 작업을 재개합니다.
결론: 함께할 때 더 강합니다
에이전틱 워크플로우의 목표는 인간을 배제하는 것이 아니라, 인간이 **사소한 반복 업무에서 벗어나 중요한 의사결정에만 집중**할 수 있게 돕는 것입니다. 더 나은 협업 인터페이스를 고민하는 것이 미래 AI 엔지니어의 핵심 역량이 될 것입니다.