코드깎는노인 채널의 **「출시하자마자 난리 난 AI, JEV는 대체 뭐가 다른가」** 영상에서는 TypeSafe AI가 공개한 새로운 \*\*System One Model 'Jev'\*\*가 기존 LLM과 무엇이 다른지 소개합니다. Jev는 ChatGPT나 Claude처럼 긴 문장을 생성하는 데 초점을 둔 모델이 아니라, 소프트웨어가 바로 사용할 수 있는 **선택·분류·평가·라우팅 같은 구조화된 판단**을 빠르게 반환하도록 설계된 모델입니다. ## Jev는 무엇이 다른가? ### 1\. 텍스트 생성보다 '판단'에 집중 기존 LLM은 자연어 문장을 토큰 단위로 생성합니다. 반면 Jev는 미리 정의된 타입에 맞춰 다음과 같은 구조화된 결과를 반환합니다. * **Choice**: 여러 선택지 중 하나를 선택 * **Score**: 특정 항목에 점수를 부여 * **Boolean**: 참/거짓 판단 * **Confidence**: 판단 결과에 대한 신뢰도 제공 즉, 긴 문장을 만드는 것보다 **소프트웨어가 즉시 사용할 수 있는 판단 결과를 빠르게 반환하는 것**에 초점을 맞춘 모델입니다. ## AI Agent에서 활용하기 좋은 이유 Jev는 AI Agent가 반복적으로 수행해야 하는 의사결정 업무에 활용할 수 있습니다. 예를 들면 다음과 같습니다. * 어떤 Tool을 호출할지 결정하는 **Tool Routing** * 사용자 요청 분류 * 위험도 및 품질 점수화 * LLM 출력 결과 검증 * Guardrail 및 Jailbreak 탐지 * 여러 작업 중 다음 단계 선택 특히 AI Agent는 매 단계마다 LLM에게 긴 답변을 생성하게 할 필요가 없기 때문에, 이런 판단 전용 모델을 함께 사용하면 속도와 비용을 줄일 수 있습니다. ## 매우 빠른 응답 속도 TypeSafe AI는 Jev의 응답 시간이 약 **70\~500ms** 수준이라고 설명합니다. 기존 생성형 LLM처럼 토큰을 하나씩 생성하는 방식이 아니라, 필요한 판단 결과를 구조화된 형태로 빠르게 반환하도록 설계되어 있습니다. ## 낮은 비용 공식 공개 가격 기준 입력 비용은 다음과 같습니다. * **입력 100만 토큰당 $0.042** * **출력 토큰 비용 없음** 분류나 라우팅처럼 반복적으로 실행되는 작업에서는 비용 절감 효과가 클 수 있습니다. ## 판단 결과와 함께 신뢰도 제공 Jev는 단순히 결과만 반환하는 것이 아니라 각 판단에 대한 **확률 및 Confidence**를 함께 제공합니다. 예를 들어 다음과 같은 자동화 구조를 만들 수 있습니다. * 신뢰도 90% 이상 → 자동 실행 * 신뢰도 70\~90% → 추가 검증 * 신뢰도 70% 미만 → 사람이 직접 확인 이런 방식은 AI Agent를 실제 서비스에 적용할 때 중요한 **안전장치와 자동화 기준**으로 활용할 수 있습니다. ## 기존 LLM을 대체하는 모델일까? Jev는 ChatGPT나 Claude 같은 LLM을 완전히 대체하기 위한 모델이라기보다 역할을 분담하는 모델에 가깝습니다. 예를 들어 AI Agent를 구성할 때 다음과 같이 사용할 수 있습니다. ```text 사용자 요청 ↓ LLM 요청 이해 및 작업 계획 ↓ Jev Tool 선택 / 분류 / 판단 ↓ 외부 Tool 실행 ↓ Jev 결과 검증 ↓ LLM 최종 답변 생성 ``` 즉, **LLM = 생성과 복잡한 추론** **Jev = 빠른 판단과 분류** 역할로 나누어 사용할 수 있습니다. ## 앞으로의 AI Agent 구조 이번 Jev 공개에서 흥미로운 부분은 앞으로 AI Agent가 하나의 거대한 LLM만 사용하는 구조에서 벗어날 가능성을 보여준다는 점입니다. 앞으로는 다음과 같은 구조가 더욱 많이 사용될 수 있습니다. ```text LLM + 판단 전용 모델 + RAG + Tool + Workflow ``` 각 작업에 가장 적합한 모델을 조합하면 속도, 비용, 안정성을 동시에 개선할 수 있습니다. Jev는 이러한 **멀티 모델 AI Agent 구조**에서 빠른 판단을 담당하는 모델의 가능성을 보여주는 사례라고 볼 수 있습니다. *** ## 관련 링크 * YouTubehttps://www.youtube.com/watch?v=lx3YkhzM\_04 * TypeSafe AI 공식 소개https://typesafe.ai/blog/introducing-system-one-models-and-jev * TypeSafe AIhttps://typesafe.ai/