표지 준비 중

Jev & Laya LLM 결정 모델 쿡북 with Python

고우주

아티팩트 · 2026-10-30 출간 예정

ISBN 9791124236222 · 총류

정가 10,000원 · 전자책

출간 예정전자책국립중앙도서관 ISBN 서지정보 등록

출간되면 알려드릴게요

『Jev & Laya LLM 결정 모델 쿡북 with Python』는 2026-10-30 출간 예정입니다. 출간되면 서점 판매 링크와 함께 이메일로 한 번 알려드립니다.

책 소개

LLM 으로 서비스를 만들다 보면 코드의 상당 부분이 글을 쓰는 일이 아니라 판단하는 일에 쓰인다는 것을 알게 된다. 들어온 요청을 막을지 정하고, 어느 모델이나 에이전트로 보낼지 고르고, 에이전트가 고른 도구를 실행해도 되는지 묻고, 일이 끝났는지 확인한다. 하나하나는 「예」나 「아니오」, 혹은 몇 개의 선택지 가운데 하나를 고르는 짧은 판단이다. 그런데 이 판단을 대개 글을 쓰는 모델에게 시킨다. 「다음 중 하나로만 답하라」는 지시를 붙여 문장을 받아 내고, 그 문장을 정규식으로 잘라 판단으로 되돌린다.

심리학에는 사람의 사고를 빠르고 자동적인 시스템 1 과 느리고 의식적인 시스템 2 로 나누는 설명이 있다. 이 구분을 LLM 시스템에 옮기면 일의 자리가 갈린다. 글을 쓰고, 추론을 펼치고, 계획을 세우는 것은 시스템 2 의 일이고 생성 모델이 잘하는 일이다. 그 앞뒤에서 수없이 반복되는 짧은 판단은 시스템 1 의 일이다. 시스템 1 의 판단은 빨라야 하고, 반복될수록 비용이 쌓이며, 무엇보다 자신이 얼마나 확신하는지를 함께 내야 한다. 사람도 멀리서 본 뒷모습에는 「아마도」를 붙이고, 그 확신에 따라 손을 흔들지 한 번 더 볼지를 정한다. 기계의 판단도 그 확신을 숫자로 가져야 코드가 같은 일을 할 수 있다.

이 책에서 판단을 맡기는 엔진은 둘이다. 하나는 TypeSafe 가 API 로 제공하는 결정 모델 Jev 이고, 다른 하나는 같은 일을 사내 GPU 에서 하는 오픈소스 Laya 다. Jev 는 쓰기 쉽고 정확하지만 판단할 문장이 회사 밖으로 나간다. Laya 는 사내에 둘 수 있지만 그대로 쓰면 Jev 보다 크게 뒤진다. 공통 평가셋에서 학습하지 않은 Laya 는 0.506 을 맞혔다. 이 책의 절반은 Jev 로 판단을 짜는 법이고, 나머지 절반은 Laya 를 Jev 가까이 끌어올리는 법이다.

판단을 확률로 받는다는 생각은 단순하다. 그러나 그 단순한 생각이 운영의 많은 부분을 바꾼다. 무엇을 자동으로 처리하고 무엇을 사람에게 넘길지, 언제 더 비싼 모델을 부를지, 사내 엔진이 쓸 만해졌는지를 모두 숫자로 정할 수 있게 된다. 이 책이 그 숫자를 다루는 손을 조금이라도 단단하게 해 주기를 바란다.

출처: 국립중앙도서관 출판예정도서 등록 정보(출판사 제출)