AI 워크플로우의 휴먼 인 더 루프

발행 2026.10.14출처 zapier.com · Juliet John

Zapier Cline활용 팁입문자

The logo for Human in the Loop against a dark background

Human-in-the-loop는 핵심 의사결정 지점에서 인간의 감독을 에이전트형 AI 워크플로에 의도적으로 통합하는 것을 뜻합니다. 에이전트가 작업을 처음부터 끝까지 실행하게 두고 올바른 판단을 하길 바라는 대신, HITL은 워크플로가 계속되기 전에 사용자의 승인, 거절, 또는 피드백 확인 단계를 추가합니다.

AI 시스템은 여러분이 아무것도 건드리지 않아도 여러 앱에 걸쳐 메시지를 라우팅하고, 레코드를 업데이트하고, 의사결정을 내리고, 전체 워크플로를 트리거할 수 있습니다. 하지만 AI가 점점 보조 도구에서 에이전트형 시스템을 구동하는 역할로 옮겨가면서, 인간에게는 새로운 책임이 생깁니다. 바로 아무 일도 잘못되지 않도록 확인하는 일입니다.

아무리 똑똑한 AI 시스템이라도 뉘앙스, 예외 상황, 또는 팀이 의사결정을 내릴 때 사용하는 암묵적인 규칙을 이해하는 데는 여전히 어려움을 겪기 때문입니다. 자동화된 에이전트가 그런 맥락 없이 행동하면 작은 빈틈이 금세 큰 문제로 이어질 수 있습니다. 이때 필요한 것이 human-in-the-loop(HITL)입니다.

AI 시스템이 아무 제약 없이 작동하도록 두는 대신, 인간이 경험, 맥락, 상식을 가지고 개입하는 확인 단계를 설계할 수 있습니다. 이런 개입은 인간이 관여해야 하는 결정에 실제로 인간이 관여하도록 보장합니다. 그리고 Zapier 같은 도구를 사용하면 이런 확인 단계를 AI 워크플로 안에 직접 구축할 수 있습니다.

그럼 human-in-the-loop가 실제로 무엇을 의미하는지, 왜 필요한지, 그리고 에이전트형 워크플로에 HITL을 추가하는 몇 가지 실용적인 패턴을 살펴보겠습니다.

목차:

human-in-the-loop는 무엇을 의미하나요?
AI 워크플로에서 언제 HITL을 사용해야 하나요?
AI 워크플로에 human-in-the-loop를 추가하는 방법
human-in-the-loop가 중요한 이유는 무엇인가요?
Zapier로 AI 워크플로와 에이전트에 HITL을 추가하세요

휴먼 인 더 루프란 무엇인가요?

예를 들어 잠재 고객을 식별하고, CRM에 추가하고, 타깃 이메일을 발송하는 자동화된 리드 생성 시스템을 만든다고 해봅시다. 이 작업의 대부분은 자동으로 실행될 수 있지만, 에이전트가 기존 고객 레코드를 업데이트하려 하거나 이메일을 보내기 전에 검토가 필요하다면 인간의 승인이 필요할 수 있습니다.

그리고 이건 통제광이 되자는 말은 아닙니다(물론 그런 데에도 아주 좋습니다). HITL은 AI 자동화의 모든 이점을 그대로 유지하면서도, 결정에 위험, 뉘앙스, 또는 후속 영향이 있을 때 안심할 수 있게 해줍니다. 돌이킬 수 없는 오류를 막고, 규제가 있는 상황에서 컴플라이언스를 지원하며, AI가 놓칠 수 있는 윤리적 문제를 인간이 발견할 기회를 제공합니다. 검토자가 찾아낸 내용을 바탕으로 에이전트형 워크플로의 지침과 임계값을 시간이 지나며 더 정교하게 다듬으세요.

Zapier 같은 AI 오케스트레이션 도구를 사용하면 human-in-the-loop 단계와 확인 단계를 AI 워크플로와 AI 에이전트 안에 직접 구축할 수 있습니다. 일시정지는 모두 Zap 기록에 표시되고, 감사 로그에는 각 검토자의 승인, 거절, 또는 데이터 제출이 기록되므로, 검토가 필요할 때 명확한 기록을 남길 수 있습니다.

A human-in-the-loop step in a Zapier workflow

AI 워크플로에서 언제 HITL을 사용해야 하나요?

여러분을 대신해 행동하는 AI 에이전트가 있다면, 어디에서 human-in-the-loop가 필요할지 신중하게 생각해야 합니다. AI 자동화의 목표는 속도이지만, AI가 잘못된 판단을 내리는 순간 속도는 그다지 중요하지 않습니다. HITL은 자동화된 워크플로가 계속되기 전에 언제, 어디서, 어떻게 인간을 포함할지 정해 주는 안전장치 역할을 합니다.

에이전트형 워크플로우가 멈추고 사람의 검토를 요청해야 하는 일반적인 상황이 몇 가지 있지만, 각 워크플로우는 개별 사례별로 살펴봐야 합니다.

낮은 확신도 또는 모호성

고객 메시지가 이렇게 들어왔다고 상상해 보세요. “청구서가 잘못됐고, 이걸 최대한 빨리 수정해야 합니다.” 이건 청구 분쟁일까요? 환불 요청일까요? 기술적 문제일까요?

에이전트가 메시지를 자신 있게 분류할 수 없다면, 추측하는 대신 워크플로우를 멈추고 사람에게 에스컬레이션해야 합니다(우리가 알다시피 AI는 추측을 정말 좋아하니까요). 이 원칙은 특정 상황에 대한 에이전트의 신뢰도 점수가 여러분이 미리 정한 임계값보다 낮을 때도 적용됩니다.

민감한 작업

실수로 인한 데이터 손실이나 영구적인 오류로 이어질 수 있는 작업이 있다면, 사람의 개입이 필요합니다. 예를 들어 고객 기록을 덮어쓰거나 데이터를 삭제하는 작업을 실행할 때는 HITL 체크포인트가 필요합니다. 여기서는 여러분의 위험 감수 수준이 중요하지만, 처음에는 HITL을 더 많이 두고 AI가 잘 동작하는 것이 확인되면 점차 줄이는 편이 좋습니다.

규제 및 컴플라이언스 영향

작업에 규제 또는 컴플라이언스상의 영향이 따르는 경우에는 사람의 검토를 추가해야 합니다. 예를 들어 에이전트가 계약서를 초안 작성한다면, 어떤 내용이든 발송되거나 서명되기 전에 인간 변호사가 모든 문구를 검토해야 합니다.

공감이 필요한 모든 일

공감과 인간적 판단이 필요한 작업과 결정은 AI에게만 맡겨서는 안 됩니다. AI 에이전트는 많은 일을 할 수 있지만, 다른 사람에게 진정으로 공감할 수는 없습니다. 그리고 억지로 공감하는 듯 보이면, 그건 즉시 부자연스럽고 진정성이 없다고 여겨질 것입니다(당연히 그래야 합니다). 또한 AI의 잠재적 편향도 고려해야 합니다. 물론 인간도 편향적이지만, 편향이 개입될 수 있는 상황마다 HITL 체크포인트를 두면 잠재적 문제를 피하는 데 도움이 됩니다.

AI 워크플로우에 사람의 개입을 추가하는 방법

사람의 판단이 어디서 중요한지 파악했다면, 다음 단계는 그 체크포인트를 실제 AI 워크플로우에 넣는 것입니다.

Human-in-the-loop는 승인, 맥락 요청, 검증 단계 등 여러 형태를 취할 수 있습니다. 하지만 그렇다고 자동화를 느리게 하거나 모든 작업을 검토하라는 뜻은 아닙니다. 대신 워크플로우가 사람의 입력이 필요한 지점에 도달할 때까지는 스스로 실행되도록 하는 것이 목표입니다.

다음은 에이전트형 워크플로우에 사람의 검토를 추가하는 몇 가지 실용적인 패턴과, 이를 업무에 적용하는 실행 가능한 방법들입니다.

승인 흐름

승인 흐름은 사람 검토자가 에이전트의 결정을 승인하거나 거부할 때까지, 미리 정해 둔 체크포인트에서 에이전트의 워크플로우를 멈추게 하는 방식입니다.

SkillStruct 팀은 사용자에게 도달하기 전에 AI가 생성한 모든 경력 추천을 검토하는 데 이 승인 흐름을 사용한다고 말했습니다. 사용자의 프로필을 바탕으로 경력 추천을 생성한 뒤, AI 시스템은 개발 팀에 이메일 알림을 보냅니다. 그다음 개발자가 맞춤형 앱을 사용해 결과를 검토합니다. 승인되면 추천이 사용자에게 표시되고, 거부된 콘텐츠는 삭제됩니다.

Zapier에서 AI 워크플로우를 만들면 승인 단계를 쉽게 추가할 수 있습니다. 여러분의 Zap (자동화된 워크플로우) 안에서 승인 요청 단계를 사용해 체크포인트를 워크플로우에 바로 넣을 수 있습니다. 검토자에게 이메일이나 Slack으로 알림을 보내도록 설정할 수도 있고, 다른 통합 앱을 통해 맞춤 요청을 보내는 두 번째 Zap을 구성할 수도 있습니다. 중요한 점은, 검토자가 승인하기 전에 Zap의 출력물(예: AI가 생성한 이메일 초안)을 편집하도록 허용할 수도 있다는 것입니다. 또한 워크플로우의 결과도 제어할 수 있어, 거부 시 Zap을 완전히 중단할지 아니면 정의된 경로를 따라 계속 진행할지 결정할 수 있습니다.

워크플로우에 대해 human-in-the-loop 승인이 필요하다는 이메일 알림

또한 AI by Zapier 단계에는 기본적으로 꺼져 있는 실행 전에 승인 필요 옵션을 켤 수 있다는 점도 알아둘 만합니다. 이 옵션을 켜면 Zap이 해당 AI 단계에 도달할 때마다 이메일을 받게 되며, Zapier 계정에서 작업을 승인하거나 거부할 수 있습니다.

AI by Zapier 단계의 설정으로, 실행 전에 승인을 요구하도록 하는 화면

신뢰도 기반 라우팅

신뢰도 기반 라우팅은 AI 에이전트가 모호함을 마주했을 때 사람의 개입을 끌어옵니다. 이 패턴에서는 에이전트의 지침에 정의된 신뢰도 점수가 포함되며, 그 신뢰도가 임계값 아래로 떨어지면 자동으로 사람에게 넘깁니다.

신뢰도 기반 라우팅은 들어오는 고객 요청 분류처럼 대체로 명확한 작업을 폭넓게 처리하지만, 모호한 예외 사례를 위한 폴백 메커니즘이 필요한 에이전틱 워크플로에 이상적입니다.

예를 들어, Tradesmen Agency의 소유자는 Llama Parse로 첨부 파일을 분석하고, Zapier와 다른 도구들 안에서 대규모 언어 모델을 사용해 구조화된 데이터를 추출하는, AI가 오케스트레이션하는 송장 처리 시스템을 직접 구축했다고 제게 공유했습니다. 하지만 시스템이 예외나 불확실한 결과를 마주할 때마다(예: 누락되거나 서로 충돌하는 데이터 필드, Entrata 기록에서 공급업체 또는 PO를 찾지 못함, 또는 검증 신뢰도가 일정 임계값보다 낮음), 워크플로는 해당 사례를 예외 로그로 보내고 수동 검토를 위한 이메일 알림을 전송합니다. 그다음 사람 검토자가 데이터를 검증하고, 세부 정보를 수정하거나, 업로드용 레코드를 승인할 수 있습니다.

에스컬레이션 경로

에스컬레이션 경로를 사용하면 작업이 에이전트의 범위를 벗어날 때 사람 운영자가 개입해 자동화가 실패하지 않도록 할 수 있습니다.

송장 환불 요청을 처리하도록 맡겨진 AI 에이전트가 금액 임계값을 넘는 요청을 마주했다고 해봅시다. 에이전트는 끝없이 재시도하며 워크플로를 멈추게 하는 대신, "환불 요청이 자동화 한도를 초과했으며, 사람의 검토가 필요합니다." 같은 메모와 함께 작업을 재무팀으로 전달합니다.

Zapier에서는 예를 들어 이런 메모를 전용 Slack 채널에 즉시 게시하고, 재무 담당 리드에게 @멘션하여 즉각적인 사람 검토와 해결이 이루어지도록 하는 에이전틱 워크플로를 구성할 수 있습니다.

피드백 루프

피드백 루프를 사용하면 피드백 메커니즘을 워크플로 안에 직접 구축함으로써 사람이 AI 에이전트와 함께 작업할 수 있습니다. 에이전트가 작업을 실행하면 검토자가 이를 평가하고, 간단한 좋아요를 남기거나, 에이전트를 수정할 수 있도록 더 구체적인 피드백을 제공할 수 있으며, 그 수정 내용은 이후 반복 작업의 입력이 됩니다.

예를 들어, ContentMonk 팀은 AI 콘텐츠 시스템을 사용해 콘텐츠 운영의 70~80%를 자동화합니다. 사람 운영자는 콘텐츠 제작 과정의 여러 단계에서 AI 시스템과 함께 인사이트를 제공하고 결과물을 검토하며, 시스템은 작성 작업을 자동화합니다. 브리프가 생성되기 전에 사람은 톤 오브 보이스, ICP, 메시징 프레임워크, 브랜드 가이드라인 같은 세부 사항을 입력합니다. 그런 다음 AI가 생성한 브리프는 초안이 생성되기 전에 검토, 편집, 승인됩니다. 초안이 준비되면 사람은 다시 한 번 검토해 브랜드 요구 사항을 충족하는지 확인한 뒤 이미지를 추가하고 게시합니다.

Zapier의 휴먼 인 더 루프 Collect Data 액션을 사용하면 피드백 루프를 워크플로에 직접 구축할 수 있습니다. 이 단계에서는 단순히 예/아니오 승인 또는 거부를 제공하는 대신, AI가 실행한 작업을 검토자에게 넘기고 자동화를 계속하기 전에 구체적인 데이터 입력을 수집할 수 있습니다.

Zapier의 인간 개입 단계에서 Collect data 옵션을 설정하는 화면

감사 로그

모든 에이전틱 워크플로가 사람의 실시간 승인까지 필요로 하는 것은 아닙니다. 때로는 가시성만 있으면 되고, 감사 로그는 모든 동작을 나중에 검토할 수 있도록 기록하면서 자동화를 최대 속도로 실행하게 해줍니다.

예를 들어, 어떤 에이전트가 고객 통화 후 CRM 기록을 업데이트한다면, 각 변경 사항은 실행 세부 정보에 기록됩니다: 무엇이 언제 바뀌었는지 말입니다. 승인도, 워크플로 중단도 필요하지 않습니다. 감사 로그는 사람에게 강제 중단 없이 추적 가능성을 제공하므로, 감독은 중요하지만 즉각적인 사람 개입은 필요하지 않은 워크플로에 이상적입니다.

Zapier에서는 Zap 기록을 통해 각 실행 내역을 모두 볼 수 있으며, 여기에는 AI by Zapier가 어떤 도구를 사용했고 무엇을 했는지도 포함됩니다. 계정 수준의 관리 측면에서는 감사 로그에 검토자가 HITL 요청을 승인하거나 거절한 것과 같은 이벤트가 기록됩니다.

왜 human-in-the-loop가 중요한가?

HITL 단계는 AI와 자동화가 빠르게 움직이면서도, 위험이 따르거나 AI가 다루기에는 뉘앙스가 더 많거나, 인간의 책임이 필요한 결정을 당신이 통제할 수 있게 해줍니다.

또한 피드백 루프가 있으면 사람의 수정 내용이 학습 데이터가 되어 AI 에이전트가 더 똑똑해지고, 당신이 원하는 결과에 더 잘 맞게 됩니다. AI가 맥락이나 판단이 부족한 순간을 사람이 이끌어 주면, 시스템은 시간이 지날수록 더 신뢰할 수 있고 더 적응력 있게 변합니다.

이만큼이나 중요한 점은 승인, 에스컬레이션 지점, 감사 로그가 팀에 AI 워크플로와 추론 과정을 보여 주어 AI의 블랙박스 효과를 줄이는 데 도움이 된다는 것입니다. 이는 회사 내 책임성과 투명성을 뒷받침할 뿐만 아니라, 규정 준수 감사와 내부 검토 과정에서도 중요하게 작용합니다.

기업 리더의 38%가 AI 공급업체의 보안을 신뢰하지 않는다고 답한 만큼, HITL은 리더십의 동의를 얻을 가능성도 높여 줍니다.

Zapier로 AI 워크플로와 에이전트에 HITL을 추가하기

에이전틱 AI는 인상적이지만, 그만큼 트레이드오프도 있습니다. AI 에이전트는 무엇을 해야 하는지는 알 수 있지만, 왜 해야 하는지는 이해할 맥락이 부족할 수 있습니다. 말할 필요도 없이 위험합니다.

중요한 의사결정 순간에 체크포인트를 추가하면 워크플로에 맥락, 판단, 책임성을 주입할 수 있습니다. 이렇게 하면 잘못된 고객에게 환불이 지급되거나, CRM의 데이터가 덮어써지거나, 규정 준수 오류가 발생하거나, 단순히 브랜드와 맞지 않는 메시지가 나가는 등 신뢰를 해치는 결과를 막을 수 있습니다.

Zapier에서는 어떤 워크플로에도 human-in-the-loop 체크포인트를 추가해, 자동화를 계속하기 전에 승인을 요청하거나 추가 데이터를 수집할 수 있습니다. 그리고 AI by Zapier 단계를 추가하면, 작업을 계속하기 전에 승인 요청을 하도록 간단히 지시할 수 있습니다. 즉, 완전히 자동화된 시스템을 만들면서도 언제 확인이 필요한지 스스로 알게 할 수 있습니다.

Zapier 사용해 보기

관련 읽을거리:

이 글은 원래 2025년 11월에 게시되었습니다. Nicole Replogle의 기여가 포함된 가장 최근 업데이트는 2026년 10월이었습니다.