AI Gateway 로그의 세션 분석 기능
AI Gateway 로그에 Sessions 보기가 추가되어 요청을 세션 단위로 묶고 라우팅 경로를 보여줍니다.
교안에 영향
세션이 자동으로 묶여 보이므로 예전처럼 요청을 개별 로그로만 설명한 안내는 맞지 않을 수 있습니다.
요약
- Sessions 보기가 추가되어 요청을 세션으로 묶어 보여주고, session affinity가 각 요청을 어떻게 라우팅했는지 확인할 수 있습니다. - 각 행에서 Claude Code, Codex, Cursor 같은 코딩 에이전트나 앱, 비용, 모델, provider, 캐시 사용량을 볼 수 있습니다. - 세션 상세에서 cache hit rate, duration, path를 확인하고, 각 turn의 모델과 timing 및 provider 변경 이력을 볼 수 있습니다. - turns, client, model, provider, authentication, cost로 세션을 필터링할 수 있으며, single-turn sessions는 minimum turns 필터를 지우기 전까지 숨겨집니다. - Session affinity는 text와 chat 요청에 기본 적용되며, providerOptions.gateway의 sessionId 또는 x-session-id 헤더로 세션을 직접 그룹화할 수 있습니다.
바뀐 것
새 기능
- AI Gateway 로그에 요청을 세션으로 묶고 session affinity가 각 요청을 어떻게 라우팅했는지 보여 주는 Sessions 보기가 추가됐습니다.
- 각 행에는 Claude Code, Codex, Cursor 같이 세션을 실행한 코딩 에이전트나 앱과 함께 비용, 모델, provider, 모든 turn에 걸쳐 입력이 캐시된 양이 표시됩니다.
- 세션을 열면 cache hit rate, duration, path를 볼 수 있습니다.
- path에는 각 turn의 모델과 timing이 나열되고, 세션을 처리하는 provider와 이전 provider가 함께 표시됩니다.
- turns, client, model, provider, authentication, cost로 세션을 필터링할 수 있습니다.
- Single-turn sessions는 minimum turns 필터를 지우기 전까지 숨겨집니다.
- Session affinity는 text와 chat 요청에 기본으로 적용됩니다.
- 요청을 직접 묶으려면 대화의 모든 요청에 providerOptions.gateway의 같은 sessionId 또는 같은 x-session-id 헤더를 보내면 됩니다.
- 이 값이 없는 요청은 대화 시작 부분의 fingerprint로 묶여 fingerprinted sessions로 표시됩니다.
- AI Gateway가 세션을 식별하는 방식은 session affinity 문서에서 자세히 확인할 수 있습니다.