OpenAI Decisions API 정식 출시

발행 2026.10.22출처 openai.com · openai.com

OpenAI사례전문가

애플리케이션과 에이전트는 워크플로 전반에서 입력을 분류하는 방법, 요청을 어디로 라우팅할지, 다음에 어떤 작업을 수행할지 등 수많은 작은 결정을 내립니다. 개별적으로는 단순하지만, 규모가 커지면 지연 시간과 비용이 누적됩니다.

오늘 저희는 Decisions API의 정식 출시를 발표합니다. GPT‑6 Luna로 구축된 Decisions API는 제한된 답을 갖는 질문에 Luna의 지능을 집중시켜, 애플리케이션과 에이전트가 텍스트, 이미지, 구조화된 입력을 바탕으로 거의 실시간에 가까운 결정을 내리도록 돕습니다. 또한 Responses API를 사용할 때의 GPT‑6 Luna보다 최대 10배 더 빠릅니다.

퍼블릭 베타 이후, 저희는 네이티브 GPT‑Live 통합, 재사용되는 컨텍스트를 위한 프롬프트 캐싱, 그리고 미국과 EU에서의 추론 리전 상주를 추가했습니다. 개발자는 이제 네이티브 JSON 입력을 전달하고, 질문 지침에 이미지를 포함하며, 요청당 최대 400개의 질문을 할 수 있는데, 이는 이전 한도의 두 배입니다. 또한 아시아 여러 지역에서의 추가 용량을 포함해 지연 시간 개선도 계속해 왔습니다.

Decisions의 초기 도입 사례는 다양한 사용 사례에 대한 적용 가능성을 보여주었습니다.

OpenAI 전반에서 여러 팀이 제품 및 비즈니스 워크플로에 Decisions API를 적용하고 있습니다. dots 팀은 이를 사용해 응답 시간을 줄이고 상호작용성을 개선하고 있습니다. 저희 Personal Finance 팀은 이를 사용해 거래 설명을 분류하고 있으며, Communications 팀은 Decisions를 사용해 보도를 주제별로 분류하고, 핵심 내러티브를 강화하는지 혹은 도전하는지를 점수화하고 있습니다. 이를 통해 더 면밀한 검토가 필요한 항목을 식별하는 데 도움을 받고 있습니다.

이러한 초기 사례들은 빠르고 구조화된 의사결정이 들어오는 정보를 다양한 사용 사례에서 유용한 행동으로 바꿀 수 있음을 보여줍니다. 고객들도 Decisions API를 마찬가지로 폭넓게 활용하고 있으며, AI 비용을 정확히 귀속하는 일부터 언어 학습 경험을 더 상호작용적으로 만드는 일까지 적용하고 있습니다.

5개 중 1개

“*Box Extract와Decisions API를 통해 저희는 비즈니스 문서를 분류하고 적절한 다음 단계로 라우팅합니다. 저희 평가에서Decisions API는 30개의 보험 증서 사례에서 동일한 정확도를 유지하면서 라우트 선택을 약 5배 더 빠르게 제공했으며, 이를 통해 반복적인 작업을 자동화하고 신뢰도가 낮은 사례는 검토자에게 전달할 수 있었습니다.*”

—Biswaroop Palit, VP, Product Management Platform and Integrations, Box

“Decisions API는 에이전트가 생성한 [rshell commands⁠]의 실행 전 위험도를 점수화해, 문제를 자율적으로 복구하는 데 도움을 주고 있습니다. 사용 가능한 최첨단 모델과 비교했을 때, 유사한 정확도로 p95를 40배 더 빠르게 제공했으며, 이로써 복구 작업의 핫 패스에 Decisions를 배치할 수 있게 되었습니다.”

—AJ Stuyvenberg, Staff Engineer, Datadog

“Sierra에서는 라이브 고객 대화 중 오케스트레이션의 일부 단계에서 다음에 취할 올바른 행동을 선택하는 데 Decisions API를 사용합니다. p95 기준 280ms 미만으로 동작하며, 이전 접근 방식보다 약 3배 빠르고 호출당 비용은 90% 낮지만, 고객 성과는 저하되지 않았습니다.”

—Ajeet Grewal, Engineer, Sierra

“언어 학습자에게는 타이밍이 중요합니다. 저희 테스트에서 GPT‑Live의 Decisions API 통합은 다음 행동까지 걸리는 시간을 90% 이상 줄여 1.4초에서 0.13초로 단축했으며, 훨씬 더 상호작용적인 학습 경험을 만들어 주었습니다.”

—Andrew Hsu, CTO, Speak

Decisions API 사용은 간단합니다. 개발자는 질문과 허용되는 답변을 정의한 다음, 텍스트, 이미지 또는 네이티브 JSON 형태로 컨텍스트를 제공합니다. API는 애플리케이션이 다음에 일어날 일을 결정하는 데 사용할 수 있는 세 가지 지원 답변 유형 중 하나인 확률, 선택, 또는 점수를 반환합니다. 다양한 답변 유형 덕분에 Decisions는 매우 다양한 사용 사례에 적용될 수 있습니다.

Decisions API는 세 가지 답변 유형을 지원합니다:

Type	Use it to	Main result
predicate	제품에 눈에 보이는 손상이 있는지와 같이, 어떤 조건이 참일 확률을 추정합니다.	probability: 조건이 참일 확률에 대한 0에서 1까지의 추정치입니다.
choice	에이전트가 계속할지, 다시 시도할지, 아니면 추가 설명을 요청할지와 같이, 미리 정의한 옵션 중 하나를 선택합니다.	choice: 제공한 값 중 하나입니다. 응답에는 확률과 신뢰도도 포함됩니다.
score	손상의 심각도와 같이, 루브릭에 있는 순서화된 수준에 대해 입력을 평가합니다.	score: 수준 인덱스의 확률 가중 평균입니다.

With GPT‑Live, 자연스럽고 표현력 있는 대화를 음성 애플리케이션에 구현할 수 있으며, 매끄러운 중단 처리로 대화 흐름을 자연스럽게 이어갈 수 있습니다. Decisions API는 이제 GPT‑Live⁠와 기본적으로 통합됩니다. 이를 통해 애플리케이션은 실시간 대화 중에 빠르고 집중된 결정을 내릴 수 있습니다. 고객 지원 상담원은 확인 질문을 할지, 요청을 다른 경로로 넘길지, 아니면 문제를 상위 담당자에게 escalte할지 결정할 수 있습니다. 아바타는 사용자가 말을 하는 동안 표정을 조정할 수 있고, 사용자의 말에 따라 윙크나 미소로 응답해 더 상호작용적인 경험을 만들 수 있습니다.

아래 예시는 트랜스크립트 업데이트를 사용해 아바타의 표정을 선택합니다. 기존 GPT‑Live 세션의 session.triggers에 이 구성을 추가하세요.

JSON

1 { 2 "type": "decisions", 3 "event_type": "session.input_transcript.delta", 4 "decisions": { 5 "questions": [{ 6 "type": "choice", 7 "name": "reaction", 8 "instructions": "Choose an appropriate reaction for the avatar based on the user's latest message.", 9 "choices": [ 10 { "value": "neutral" }, 11 { "value": "happy" }, 12 { "value": "sad" }, 13 { "value": "concerned" } 14 ] 15 }] 16 } 17 }

Live는 decision.event를 내보내고, 애플리케이션은 선택된 reaction을 읽어 그에 맞게 캐릭터를 애니메이션 처리합니다. Decisions API에 음성을 연결하는 방법에 대해 자세히 알아보세요. ⁠

Decisions API는 전용 Decisions 엔드포인트를 통해 현재 GPT‑6 Luna에서 일반 공개로 제공됩니다. 현재 요금과 캐싱 세부 사항은 요금 및 사용 가능성 가이드⁠에서 확인하세요.

애플리케이션이 자주 내리는 반복적인 결정 하나부터 시작하세요. 질문, 가능한 답변, 그리고 그것들을 구분하는 데 필요한 맥락을 정의하세요. 실제 사용을 반영하는 예시로 테스트해 보세요. Decisions Playground⁠에서 직접 작성한 텍스트나 이미지로 시험해 볼 수 있으며, 개발자 가이드⁠를 따라 첫 요청을 만들 수도 있습니다.

Decisions API는 입력 토큰 100만 개당 \$0.10이 듭니다. 캐시된 입력은 100만 토큰당 \$0.01입니다. 30분 및 12시간 캐시 쓰기에 대해서는 요금 가이드를 읽어보세요.⁠ 요금은 입력 토큰에 대해서만 부과되며, 출력 토큰 요금은 없습니다. 지역 처리(region processing)는 미국과 EU에서 제공되며, 적격 고객은 Zero Data Retention⁠을 이용할 수 있습니다. 자세한 내용은 요금 및 캐싱⁠과 데이터 제어⁠를 참조하세요.