Jev 그냥 가벼운 LLM 아냐?
라고 생각하신다면 이 글을 읽어주세요
1. 며칠 전, 글쓰기가 아니라 판단을 내리는 역할에 특화된 AI인 Jev가 등장했음
(자세히 알고싶다면 인용글)
2. Jev 탄생 이후 글을 쓰는 AI와 판단을 내리는 AI가 나뉘어 쓰이기 시작함
3. 예전엔 LLM이 매번 문장을 만들고 그 문장에서 원하는 데이터를 파싱해야 했는데, 지금은 Jev가 판단할 수 있도록 데이터를 주는 구조로 바뀌고 있어 효율이 엄청나게 증가했음
4. 가장 체감되는 변화는 에이전트 루프가 훨씬 싸고 빨라졌다는 것 ㄷㄷ
5. 브라우저 에이전트에서 다음 클릭을 Jev가 고르고, 글 입력만 작은 LLM이 맡는 방식이 이미 나왔고
6. 얼마 전 Astra로 computer use가 빠르다는 영상이 돌았는데, Jev를 사용하면 이게 진짜 싸고 빠르게 가능해짐
7. 그래서 지금 GitHub에 Jev를 활용한 프로젝트가 실시간으로 나오고 있고 계속 새로운게 쏟아져 나오고 있는 중
8. Jev의 한계가 어느정도인지 계속 테스트되고 있고
앞으로 기존 LLM이 하던 일 중 일부를 특화하는 실험이 많아질 것으로 예상됨
오늘 AI 피드를 점령한 Jev 요약
1. Jev는 9월 15일 TypeSafe AI가 공개한 판단 전용 AI 모델임
2. ChatGPT처럼 글을 쓰는 모델이 아니라, 정해진 질문에 대해 선택·점수·예/아니오 같은 판단과 그 확률을 돌려줌
3. 질문 유형은 세 가지가 있는데 Choice는 여러 보기 중 하나를 고르고, 각 보기의 확률과 신뢰도를 반환하고
4. Score는 정해진 척도로 점수를 반환하고, Noul은 예/아니오일 확률을 반환함
5. 응답 시간은 약 70~500ms로 매우 빠르고, 입력 100만 토큰당 약 $0.042 밖에되지 않음 ㄷㄷ
6. 회사는 적합한 작업에서 기존 LLM보다 수십~수백 배 빠르고 저렴하다고 함
7. 고객 문의 분류, 긴급도·환불 여부 판단, 티켓 라우팅, 로그 판별, 에이전트의 다음 행동 선택처럼 답이 정해진 좁은 판단에 적합하고
8. 긴 글쓰기, 복잡한 추론, 계획 수립에는 맞지 않음
1줄요약: 무언가 판단할 때 Jev를 쓰면 싸고 빠름