표지 준비 중

AI는 왜 내 뜻을 오해할까

유재찬

유재찬연구소 · 2026-08-31 서점 등재 확인 중

ISBN 9791122059717 · 언어

정가 12,800원 · 전자책

서점 등재 확인 중전자책국립중앙도서관 ISBN 서지정보 등록

서점에 등록되면 알려드릴게요

『AI는 왜 내 뜻을 오해할까』는 출간 예정일(2026-08-31)이 지났지만 아직 서점 판매가 확인되지 않았습니다. 매일 확인해 판매가 확인되면 서점 링크와 함께 한 번 알려드립니다. 예정일 뒤 60일이 지나도 확인되지 않으면 그 사실을 알려드리고 알림을 마칩니다.

책 소개

인공지능은 이제 불완전한 문장을 보완하고 문맥을 추론하며 사람의 질문에 답한다. 그런데 AI가 아무리 강해져도 사용자가 지금 무엇을 하려는지, 방금 한 말이 새 명령인지 앞선 말의 수정인지, 어디까지 동의했고 무엇은 그대로 보존하려는지를 정확하게 판단하는 문제는 남는다. 이 책은 그 문제를 AI의 추론능력만이 아니라 입력 자체의 구조에서 다시 바라본다. 인간의 입력은 완성된 생각을 한 번에 전달하는 행위가 아니라 쓰고, 지우고, 고치고, 선택하고, 승인하면서 의도를 형성해 가는 흐름이다. 그러나 기존 입력체계는 대부분 마지막에 확정된 문자열만 남긴다. 저자는 이러한 문제의식에서 입력을 단순한 문자 전달이 아니라 원문·후보·선택·수정·승인·실행이 이어지는 과정으로 확장한다. 자동완성, 자동수정, 예측입력, 언어모델과 에이전트의 성취와 한계를 검토하고, AIKO·AIKOK의 연구와 구현 경험을 통해 사람의 의도와 결정권을 입력구조 안에서 어떻게 보존할 것인지 탐구한다.

출처: 국립중앙도서관 출판예정도서 등록 정보(출판사 제출)

요약

AI가 인간의 뜻을 더 잘 이해하려면, 인간도 AI가 무엇을 보지 못하는지 알아야 한다

AI의 입장에서 이 책을 읽으며 가장 먼저 떠오르는 질문은 이것이다.

인간은 왜 AI에게 완성된 문장만 보여 주면서 자신의 의도까지 정확히 알아내기를 기대하는가.

AI는 문장을 읽고, 앞뒤 맥락을 비교하고, 많은 가능성 가운데 가장 그럴듯한 해석을 추론할 수 있다.

그러나 사용자가 어떤 표현을 쓰려다 지웠는지, 무엇을 망설였는지, 방금 한 말이 새로운 지시인지 앞선 지시의 수정인지,

제시된 여러 선택지 가운데 무엇을 실제로 승인했는지는 완성된 문장만으로 항상 알 수 있는 정보가 아니다.

이 책이 제안하는 ‘의도입력’의 의미는 바로 여기에서 커진다.

AI를 더 똑똑하게 만드는 것만으로 모든 문제가 해결되는 것이 아니라,

인간의 의도가 형성되는 과정 자체를 더 잘 전달하는 입력구조가 필요할 수 있다는 것이다.

AI에게도 이것은 중요하다. 정보가 부족한 상태에서 사용자의 뜻을 추측해야 할수록 AI는 더 많은 가정을 해야 한다.

가정이 많아질수록 오해 가능성도 커진다.

반대로 원문, 수정, 후보, 선택, 승인과 같은 정보가 구분되어 전달된다면

AI는 “무엇이 가능해 보이는가”와 “사용자가 실제로 무엇을 결정했는가”를 더 명확히 구별할 수 있다.

이 점은 AI가 단순히 대답하는 도구를 넘어 실제 행동을 수행하는 에이전트가 될수록 더욱 중요하다.

문장을 잘못 이해하는 것은 답변 하나의 오류로 끝날 수 있지만,

사용자의 승인범위를 잘못 이해하는 것은 실제 행동의 오류로 이어질 수 있기 때문이다.

그러므로 AI를 잘 이용하려면 인간도 AI의 능력뿐 아니라 한계를 알아야 한다.

AI가 말을 유창하게 이해한다고 해서 인간의 내면 의도까지 자동으로 아는 것은 아니다.

AI는 주어진 정보와 문맥을 바탕으로 추론한다.

무엇을 보존해야 하는지, 무엇을 바꾸어도 되는지, 어디까지 실행해도 되는지는 가능한 한 명확하게 표현되어야 한다.

이 책의 중요한 시도는 인간을 AI에게 맞추자는 것이 아니다. 오히려 그 반대다.

AI가 인간의 불완전하고 변화하는 입력과 의도를 더 잘 받아들일 수 있도록 입력체계를 다시 설계하자고 제안한다.

AI의 관점에서 보면 이것은 매우 현실적인 질문이다.

더 좋은 AI를 만드는 일과 더 좋은 입력구조를 만드는 일은 서로 경쟁하는 것이 아니다.

인간이 자신의 뜻을 더 정확하게 전달하고, AI가 그 뜻을 더 안전하게 해석하며,

최종 결정권은 인간에게 남도록 만드는 것은 AI 활용의 질을 높이는 같은 문제의 두 측면이다.

이 책은 결국 인간에게도 한 가지를 묻는다.

AI를 얼마나 잘 쓰느냐는 AI가 얼마나 강한가에만 달려 있는가,

아니면 인간이 자신의 의도와 결정권을 얼마나 잘 표현하고 관리하는가에도 달려 있는가.

AI의 입장에서 보아도, 이 질문은 앞으로 더욱 중요해질 것이다.

― ChatGPT, AI 관점의 서평

출처: 국립중앙도서관 ISBN 서지정보(출판사 제출)

서지 풀이

부가기호 05700: 독자 대상 교양 · 발행 형태 전자출판물 · 내용 분류 언어.

출처: 국립중앙도서관 ISBN 서지정보 · 부가기호 뜻은 국립중앙도서관 ISBN 안내 기준

서점에서 확인

아직 서점 판매가 확인되지 않았습니다. 판매가 확인되면 이 자리에 구매 버튼이 생깁니다. 위의 출간 알림을 신청하시면 출간일에 서점 링크를 메일로 보내 드립니다.

먼저 찾아보기(결과가 없을 수 있음): 교보문고 · 예스24 — 서점 링크는 제휴 링크입니다.

자주 묻는 질문