CONTINUUM AI(컨티뉴엄 AI)가 개발한 OpenAI 호환 LLM 게이트웨이인 OrcaRouter 가 AI 에이전트의 실행을 기록하고 되짚는 추적 도구 ‘orca-trace’ v0를 공개했다고 밝혔다. 같은 시점에 실행 기록을 재현하고 분기하는 오픈소스 도구 OrcaReplay도 Apache-2.0 라이선스로 함께 공개했다.

에이전트 실행에서 일어나는 일은 두 곳에 나뉘어 있다. 모델 쪽에서는 무엇을 요청했고 무엇이 돌아왔는지, 어떤 모델과 제공자로 라우팅됐는지가 게이트웨이를 지나간다. 기계 쪽에서는 셸 명령, 파일시스템 접근, MCP 호출, 그리고 실제로 남은 부작용이 일어난다. 한쪽만 보면 나머지 절반이 보이지 않는다. orca-trace는 이 두 갈래를 한 줄로 잇는다. 게이트웨이가 보는 요청·응답·라우팅 결정·실제 프로덕션 트래픽과 실행 환경이 보는 셸·파일시스템·MCP·부작용을 함께 기록해 하나의 실행으로 묶는다.

기록한 실행은 명령 두 개로 로컬과 게이트웨이 사이를 오간다. ‘orca push [run]’은 로컬에서 기록한 실행을 게이트웨이로 올리고, ‘orca pull ’은 게이트웨이에 남은 실행을 로컬로 내려받는다. 로컬에서 재현하던 실행을 그대로 올려 다른 환경에서 확인하거나 게이트웨이에서 관측된 실행을 로컬로 가져와 다시 돌려볼 수 있다는 뜻이다.

기록된 실행은 OrcaRouter 사용자 콘솔의 Insights → Sessions 화면에서 확인한다. OrcaReplay는 기록한 에이전트 실행을 재생하고, 분기하고, 디버깅하는 도구다. OrcaRouter는 이 도구를 Apache-2.0 라이선스로 공개했으며, 저장소는 공개 상태로 유지되고 있다. 같은 실행을 서로 다른 모델로 돌려 결과가 어떻게 갈라지는지 비교하는 용도로 쓸 수 있다.

orca-trace는 첫 공개 버전인 v0며, 별도의 문서 페이지는 아직 공개되지 않았다. 현재 확인 가능한 공개 자료는 OrcaRouter의 발표와 OrcaReplay 저장소다. OrcaRouter는 이 도구를 에이전트 관측성의 출발점으로 두고 있다고 밝혔다.

OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다. OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1밀리초 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.