Jev란 무엇인가 — 'System One 모델'과 LLM의 결정적 차이

'글'을 만드는 AI와 '판단'을 내리는 AI

들어온 문의 하나를 '환불·버그·기능요청' 중 하나로 나누려고 LLM에 프롬프트를 던져 본 적이 있으실 겁니다. 답은 대체로 맞습니다. 문제는 그 다음입니다. 한 건에 몇 초씩 걸리고, 트래픽이 몰리면 응답이 밀리고, 토큰 요금은 호출할 때마다 쌓입니다. 라벨 하나 받자고 문장 생성 엔진을 통째로 돌리는 셈입니다.

Jev는 바로 이 지점을 겨냥해 나온 모델입니다. 2026년 9월 15일 얼리 액세스로 공개되자마자 개발자 사이에서 화제가 됐고, Vercel은 자사 AI Gateway 출시 첫날 팀의 약 13%가 이 모델을 붙였다며 "역대 가장 빠르게 채택된 모델"이라고 소개했습니다.

문장 생성이 필요 없는 일이 더 많다

서비스 코드 안에서 AI가 하는 일을 뜯어보면, 실제로는 '글쓰기'보다 '판단'이 훨씬 많습니다. 이 문의는 어느 팀으로 보낼까, 이 요청은 저렴한 모델로 충분할까 비싼 모델을 써야 할까, 이 사용자 입력은 위험한가. 전부 정해진 선택지 안에서 하나를 고르는 문제입니다.

이런 판단에 LLM을 쓰는 건 과합니다. 답이 '라벨·점수·참거짓'인데도 모델은 매번 문장을 한 토큰씩 지어내며 그 안에 답을 실어 보냅니다. 결과를 다시 파싱해야 하고, 형식이 어긋나면 재시도해야 합니다.

그래서 'System One 모델'이 나왔다

TypeSafe AI는 Jev를 "소프트웨어 안에서 내리는 결정을 위한 새로운 종류의 AI 모델"이라고 정의합니다. 회사는 이 부류에 System One 모델이라는 이름을 붙였습니다. 대니얼 카너먼이 말한 빠르고 직관적인 'System 1' 사고에서 따온 것으로 알려져 있는데, 공식 페이지에서 카너먼을 직접 인용한 문구까지는 확인되지 않았습니다. 개념만 빌려 온 작명으로 보는 편이 안전합니다.

Jev의 정의 — 상태를 넣으면 '타입 있는 결정'이 나온다

Jev를 한 문장으로 요약한 공식 표현이 가장 정확합니다.

"Jev를 프런티어 지능 함수 호출이라고 생각하라 — 비정형 상태를 넣으면 타입이 있는 확률적 결정이 나온다." (typesafe.ai)

state와 questions, 그리고 단일 패스

요청은 두 부분으로 구성됩니다. state는 판단 대상이 되는 비정형 입력(텍스트, JSON, 텍스트 배열)이고, questions는 그 입력에 대해 묻고 싶은 질문의 스키마입니다. Jev는 이 둘을 받아 한 번의 병렬 패스로 답을 계산합니다. LLM이 토큰을 순차적으로 뽑아내는 것과 달리, 정해진 선택지에 확률을 매기는 방식이라 빠릅니다.

돌아오는 값은 단순한 라벨이 아닙니다. 각 선택지의 확률과 함께 **보정된 신뢰도(calibrated confidence)**가 붙습니다. TypeSafe는 이 신뢰도를 실제 정확도와 맞추기 위해 RLHF 대신 RLCD(Reinforcement Learning for Calibrated Decisions)라는 방식으로 훈련했다고 밝힙니다.

Choice·Score·Noul — 세 가지 질문 형태

스키마는 세 가지 기본형(primitive)으로 짭니다. 대부분의 분류·평가·판정이 이 셋 안에 들어옵니다.

'type-safe'라는 이름값

Jev의 답은 스키마에 정의된 값 중에서만 나옵니다. 스키마 밖의 엉뚱한 형식이 튀어나올 수 없다는 뜻이라, TypeSafe는 이를 두고 형식 오류가 "수학적으로 불가능"하다고 표현합니다. 다만 이 말은 '판단이 늘 옳다'는 보장이 아니라 '정해둔 답 바깥 값을 못 내놓는다'는 구조적 의미입니다. 분류 자체가 틀릴 수는 있고, 그래서 신뢰도 점수와 평가 데이터가 중요합니다.

LLM과 무엇이 다른가

생성 모델과 결정 모델은 근본이 다르다

둘은 경쟁 관계가 아니라 역할이 다릅니다. LLM은 열린 질문에 대한 추론과 생성에 강하고, Jev는 그 흐름 중간중간의 빠른 구조적 결정에 강합니다. LangChain 공식 블로그도 "개방형 추론과 생성에는 LLM을, 그 사이의 빠르고 구조화된 결정에는 Jev를 쓰라"고 정리합니다.

환각이 '구조적으로' 줄어드는 이유

LLM에 "환불/버그/기능요청 중 하나로만 답하라"고 시켜도, 가끔 "환불 관련 문의로 보입니다" 같은 문장이나 목록에 없는 라벨이 돌아옵니다. Jev는 애초에 정해진 선택지에만 확률을 매기므로 이런 형식 이탈이 나오지 않습니다. 재시도·파싱 로직이 줄고, 결과를 코드가 바로 소비할 수 있다는 점이 실전에서 가장 크게 체감되는 차이입니다.

숫자로 보는 차이 — 속도와 비용

70~500ms, 그리고 40~200배

공식 수치 기준으로 Jev의 응답 지연은 종단 간 70~500ms입니다. 같은 수준의 판단을 LLM으로 하면 3~329초가 걸린다고 보고, 그 차이를 40~200배 빠름으로 제시합니다.

Jev 지연시간 70~500ms · LLM 대비 40~200배 빠름 (typesafe.ai)

입력 100만 토큰당 $0.042, 출력은 무료

가격 구조도 판단 작업에 맞춰져 있습니다. 입력은 100만 토큰당 $0.042, 출력 토큰은 무료입니다(답이 짧은 결정값이라 출력이 작습니다). 비교 대상 LLM의 입력 단가는 100만 토큰당 $0.20~$10 수준으로 언급됩니다.

홈페이지에는 "수백 배 저렴"에 해당하는 구체적 배수도 등장하지만, 헤드라인 원문의 정확한 수치는 재확인이 필요합니다. 단가만 놓고 보면 대량 판단 작업에서 비용이 확연히 낮아지는 것은 분명합니다. 현재 모델 버전은 jev-1.13.0이고, 요청당 컨텍스트는 최대 64k 토큰(그중 state와 질문 합산 32k)입니다.

누가 만들었고 어디까지 퍼졌나

팀과 투자

만든 사람들의 이력이 이 모델의 방향을 설명합니다. CEO Diogo Almeida는 OpenAI에서 RLHF와 InstructGPT를 공동 발명한 인물로, ChatGPT로 이어진 방법론의 핵심에 있었습니다. COO Sasha Sheng은 Meta FAIR 출신, CTO Erik Gafni는 멀티모달 AI 스타트업 Ravel을 창업했습니다. 시드 라운드로 DCVC가 리드해 $40M을 투자했고, 관계자 인용 기준 밸류에이션은 $200M으로 보도됐습니다. 약 2년의 스텔스를 거쳐 공개됐습니다.

이미 붙은 생태계

출시 직후부터 붙을 곳이 많다는 점이 이 모델의 강점입니다. Python·JavaScript SDK와 HTTP API로 직접 호출할 수 있고, Cloudflare Workers AI에 typesafe/jev라는 이름으로 공식 등재돼 있습니다. LangChain에는 langchain-typesafe 패키지의 TypeSafeClassifier가 .invoke() 인터페이스로 연결됩니다. 공식 진입점은 console.typesafe.ai이며, jev.works처럼 "공식 플레이그라운드"를 자처하는 도메인은 TypeSafe 소유가 아니니 주의해야 합니다. 이 시리즈에서 다루는 도구 상세는 Jev (TypeSafe AI) 페이지에서도 확인할 수 있습니다.

정리

Jev는 LLM을 대체하는 물건이 아니라, LLM이 과하게 쓰이던 '판단' 자리를 더 빠르고 싸게 메우는 모델입니다. 텍스트 생성 대신 스키마 기반의 타입 있는 결정을 돌려주고, 그 대가로 속도와 비용에서 큰 이점을 가져갑니다.

다음 장에서는 '언제 LLM, 언제 결정모델?'을 다룹니다. 실무에서 두 모델의 경계가 애매한 순간이 많은데, 선택 기준과 의사결정 트리로 그 경계를 정리하겠습니다.