Interfaze의 Vercel 월 5천만 요청 운영 사례

발행 2026.10.23출처 vercel.com · Susan Aziz

Vercel사례준전문가

Interfaze on Vercel

한 달에 5천만 요청
Fluid compute에서 실행되는 백엔드
AI Gateway를 통해 하나의 폴백 계층 뒤에서 여러 모델 제공자 사용

Interfaze는 범용 LLM이 잘 처리하지 못하는 결정적 작업을 위한 모델을 만듭니다. 문서 처리, OCR, 객체 감지, 웹 스크래핑, 음성-텍스트 변환, 분류가 그 대상입니다.

창립자 Yoeven Khemlani의 말에 따르면, "대부분의 모델은 본질적으로 결정적이지 않습니다. 에세이 초안을 작성할 때는 괜찮습니다. 하지만 병원이나 법무팀이 문서를 처리해야 할 때는 LLM을 찾지 않습니다." LLM에 송장 합계를 물으면 숫자는 나오지만 그 값이 어디에서 왔는지 쉽게 확인할 방법이 없습니다. Interfaze의 모델은 숫자와 함께 그 값이 페이지의 어디에서 왔는지 보여 주는 바운딩 박스, 그리고 모델이 얼마나 확신하는지를 나타내는 신뢰도 점수를 반환합니다. 모든 결과는 검증할 수 있고, 모델은 여전히 LLM처럼 프롬프트를 받습니다.

Interfaze의 모델을 둘러싼 모든 것은 백엔드를 포함해 Vercel에서 실행됩니다. 여기에는 한 달에 5천만 요청을 처리하는 API, 모델이 작성한 코드를 실행하는 샌드박스, 그리고 서드파티 모델 제공자가 다운되더라도 데이터 전처리가 계속되게 하는 라우팅이 모두 포함됩니다.

백엔드는 별도의 인프라 작업이 필요하지 않았습니다

Interfaze의 프론트엔드와 백엔드는 모두 Vercel에서 실행됩니다. 백엔드는 고객이 모델을 호출하든 파일을 업로드하든 Interfaze API로 들어오는 모든 요청을 처리합니다. 이 모든 것은 프론트엔드와 같은 코드베이스에서 서버리스 함수로 실행됩니다. 요청에 연산이 필요하면 모델은 코드를 Vercel Sandbox로 전달하고, 거기서 격리된 상태로 실행됩니다. 별도로 설정해야 할 인프라는 없었습니다.

Fluid compute가 무거운 작업을 처리합니다

확장성은 Yoeven의 최우선 요구사항이었습니다. 목표는 수백만 사용자에게 모델을 제공하는 것이고, Fluid compute는 트래픽에 맞춰 자동으로 확장됩니다. 더 무거운 작업도 그곳에서 실행됩니다. Vercel의 메모리와 타임아웃 제한은 충분히 높아서 Puppeteer로 실행되는 Interfaze의 웹 스크래핑이 기본 설정만으로도 잘 동작합니다.

AI Gateway는 대규모에서도 모델 라우팅을 안정적으로 만듭니다

Interfaze는 서드파티 제공자가 호스팅하는 오픈소스 모델을 통해 대량의 데이터 정제 작업을 처리합니다. 단일 제공자는 취약한 고리입니다. 제공자는 속도 제한에 걸리거나 다운될 수 있고, 그렇게 되면 트래픽이 다른 곳으로 이동하지 않는 한 정제 작업은 멈춥니다.

제공자들은 서로 대체 가능하지도 않습니다. 둘이 같은 오픈소스 모델을 호스팅한다고 주장하더라도 품질은 크게 다를 수 있습니다.

제공자가 실패하거나 제한을 걸면, AI Gateway는 요청을 자동으로 다음 제공자로 넘깁니다. 또한 Interfaze가 어떤 제공자가 특정 모델을 서비스할지 선택할 수 있게 해 주므로, 팀은 같은 작업을 각 제공자에 돌려 보며 어느 쪽 성능이 좋은지 확인한 뒤 그곳으로 트래픽을 보낼 수 있습니다.

Workflow SDK는 수개월에 걸친 이메일 시퀀스를 실행합니다

Interfaze는 제품 사용량에 따라 발송이 조건부로 결정되는 라이프사이클 이메일 시스템을 Workflow SDK에서 운영합니다. 이 시스템은 고객이 어떤 API를 호출했는지, 어느 정도의 볼륨이었는지, 그리고 그것이 첫 주와 비교해 어떤지 추적합니다. 재시도는 자동으로 처리되므로 한 단계가 실패해도 전체 시퀀스가 중단되지 않습니다.

Interfaze가 가장 필요로 했던 부분은 내구성 있는 실행이었습니다. 워크플로는 한 단계를 일시 중지했다가 상태를 그대로 유지한 채 몇 달 뒤 다시 이어서 실행할 수 있는데, 팀은 다른 시스템들이 이를 오랫동안 해내지 못한다고 느꼈습니다.

미리보기 배포로 새 모델 버전을 고객에게 전달합니다

Interfaze는 하나 이상의 모델 버전을 동시에 운영하며, 각각 고유한 URL을 가집니다. 오류가 발생하면 팀은 무엇을 수정하기 전에 먼저 어떤 버전이 그 오류를 만들어 냈는지 알아야 합니다. Vercel에서는 모든 URL이 각자 고유한 배포이며, 각자 로그도 따로 남기 때문에 오류는 이미 원인을 일으킨 버전 아래에 기록됩니다. 별도의 로깅 벤더를 설정할 필요가 없었습니다.

새 모델 버전이 고객에게 전달되기 전에 먼저 도달하는 경로도 바로 그 미리보기 URL입니다. 릴리스의 Vercel 측 빌드는 약 3분이면 끝납니다. GPU에 가중치를 호스팅하는 쪽이 더 느린 부분입니다.

다음은 무엇인가요

Interfaze는 최근 Interfaze 1 Lite를 공개했습니다. 이 모델은 단일 GPU에서 실행되는 오픈웨이트 버전이며, 동일한 API를 통해 제공됩니다. 다음은 웹 검색용 게이트웨이로, 개발자가 선택한 검색 제공업체로 라우팅하는 하나의 API입니다. AI Gateway가 모델에 대해 하는 방식과 같습니다. 이는 다른 모든 기능과 마찬가지로 동일한 Vercel 백엔드에서 출시됩니다.

Interfaze 소개: Interfaze는 OCR, 객체 감지, 웹 스크래핑, 음성-텍스트 변환, 분류를 포함한 결정론적 작업을 위한 모델을 만듭니다. 고객은 법률, 의료, 금융 분야의 엔지니어링 팀입니다.