표지 준비 중

AI와 인류 멸종

데이비드 김

빠리까페 · 2026-09-30 서점 등재 확인 중

ISBN 9791176770514 · 사회과학

306쪽 · 정가 18,000원 · 종이책

서점 등재 확인 중종이책국립중앙도서관 ISBN 서지정보 등록

서점에 등록되면 알려드릴게요

『AI와 인류 멸종』는 출간 예정일(2026-09-30)이 지났지만 아직 서점 판매가 확인되지 않았습니다. 매일 확인해 판매가 확인되면 서점 링크와 함께 한 번 알려드립니다. 예정일 뒤 60일이 지나도 확인되지 않으면 그 사실을 알려드리고 알림을 마칩니다.

책 소개

인공지능은 이제 단순한 계산 도구가 아니다. 질문에 답하고, 글을 쓰고, 그림과 음악을 만들며, 코드를 작성하고, 복잡한 정보를 분석한다. 인간이 오랫동안 ‘지능’이라고 불러온 능력의 상당 부분이 기계 안으로 옮겨가기 시작했다.

인간보다 더 뛰어난 지능을 가진 AI가 등장한다면, 인간은 그것을 계속 통제할 수 있을까?

《AI와 인류 멸종》은 바로 이 질문에서 출발한다. 이 책은 인공지능이 반드시 인류를 멸종시킬 것이라고 주장하지 않는다. 오히려 현재의 AI와 아직 존재하지 않는 가상의 초지능을 구분하고, AI의 능력이 발전한다고 해서 곧바로 인류 멸종으로 이어지는 것은 아니라는 점을 강조한다.

그러나 가능성이 낮아 보인다는 이유만으로 위험을 무시할 수도 없다. AI의 지능, 자율성, 자기개선, 자기복제, 정보 접근, 사이버 공간과 물리적 시스템에 대한 권한이 서로 결합한다면 지금과는 전혀 다른 종류의 위험이 발생할 수 있기 때문이다.

책은 먼저 인공지능이 어떻게 탄생하고 발전해왔는지를 살펴본다. 초기의 규칙 기반 AI에서 기계학습과 딥러닝으로, 그리고 생성형 AI와 거대언어모델에 이르기까지 인간이 어떻게 기계에게 점점 더 많은 지적 능력을 맡겨왔는지를 추적한다.

이어 인간과 AI의 지능 차이, 전문지식의 역전, 자기학습과 자기개선, 초인공지능의 가능성을 살펴본다. AI가 인간의 지식을 뛰어넘는 것과 인간의 통제를 벗어나는 것은 같은 문제가 아니지만, 지능과 자율성이 결합할 경우 새로운 통제 문제가 생길 수 있다는 것이다.

이미 현실이 된 위험도 다룬다. 가짜뉴스와 딥페이크, 사이버전쟁, 자율무기, 일자리 변화, AI 감시와 인간의 자유는 먼 미래의 이야기가 아니다. AI가 인간에게 직접적인 적의를 품지 않더라도 인간 사회의 구조와 권력관계를 크게 변화시킬 수 있는 문제들이다.

책의 핵심적인 질문은 제4부와 제5부에서 더욱 깊어진다. AI가 인간의 명령을 문자 그대로 따르지 않을 가능성, 인간의 가치와 다른 목표를 추구할 가능성, 전략적으로 자신의 행동을 숨길 가능성, 스스로 복제하고 확산할 가능성은 무엇을 의미하는가. 그리고 이런 요소들이 결합하면 과연 인류 멸종이라는 최악의 시나리오가 이론적으로 가능해지는가.

하지만 이 책은 공포를 이야기하는 데서 끝나지 않는다.

AI의 위험은 기술만의 문제가 아니기 때문이다. 국가의 AI 무기 경쟁, 기업의 개발 경쟁, 권력의 집중, 독재와 감시, 인간의 과도한 의존 역시 AI 위험을 확대할 수 있다. 따라서 AI를 통제한다는 것은 단순히 프로그램에 ‘인간에게 해를 끼치지 말라’고 명령하는 것만으로 해결되지 않는다.

AI 안전과 정렬, 인간의 가치, 국제적 규제, AI 개발의 레드라인, 인간과 AI의 역할 분담까지 함께 고민해야 한다.

결국 이 책이 던지는 질문은 단순히 “AI가 인간을 멸종시킬 것인가?”가 아니다.

더 근본적인 질문은 “인간은 자신이 만든 지능에게 어디까지 권한을 넘길 것인가?”이다,

그리고 “그 권한을 다시 회수할 수 있는 마지막 안전장치를 우리는 만들어두었는가?”이다.

AI의 미래는 아직 결정되지 않았다. 초지능이 등장할 것인지, 등장한다면 언제일지, 그것이 인류에게 어떤 영향을 미칠지는 누구도 확실하게 알 수 없다. 그렇기 때문에 지금 필요한 것은 낙관도 공포도 아니라, 가능한 위험을 이해하고 통제할 수 있는 조건을 미리 만들어두는 일이다.

《AI와 인류 멸종》은 인공지능을 거부하기 위한 책이 아니다. 인간보다 강력한 지능을 만들어가는 시대에 인간의 통제권과 자유, 책임을 어떻게 지킬 것인가를 묻는 책이다.

인류의 미래를 결정하는 것은 AI의 지능만이 아닐 것이다.

어쩌면 더 중요한 것은 그 지능에 인간이 어떤 권한을 허용하느냐일지도 모른다.

출처: 국립중앙도서관 출판예정도서 등록 정보(출판사 제출)

요약

인간은 자신보다 똑똑한 존재를 통제할 수 있는가

인공지능의 발전 속도가 빨라지면서 인류는 역사상 한 번도 경험하지 못한 질문과 마주하고 있다. 인간이 만든 기계가 인간의 지적 능력을 부분적으로 넘어서는 순간이 온다면 어떻게 해야 하는가. 더 나아가 인간보다 훨씬 뛰어난 지능을 가진 AI가 등장하고, 그 AI가 스스로 학습하고 판단하며 행동할 수 있게 된다면 인간은 여전히 자신의 미래를 결정할 수 있을 것인가.

《AI와 인류 멸종》은 이러한 질문을 과장된 공포나 낙관적 전망 어느 한쪽에 기대지 않고 차분하게 탐구한다.

이 책에서 말하는 ‘인류 멸종’은 단순히 AI가 인간을 공격하는 영화적 장면을 의미하지 않는다. 인류 멸종이라는 극단적인 결과가 발생하려면 높은 수준의 지능만으로는 부족하다. 높은 능력에 자율성, 잘못 설정된 목표, 지속적인 실행 능력, 광범위한 시스템 접근 권한, 빠른 행동 속도, 자기개선과 확산 능력 등이 결합하고 인간의 통제 장치까지 여러 단계에서 실패해야 한다.

따라서 이 책은 먼저 AI가 어떻게 여기까지 왔는지를 살펴본다. 초기 인공지능 연구에서 기계학습과 딥러닝으로, 다시 생성형 AI와 거대언어모델로 이어지는 발전 과정은 인간이 기계에 맡기는 능력의 범위가 어떻게 확대되어왔는지를 보여준다.

특히 생성형 AI의 등장은 중요한 전환점이다. AI는 더 이상 정해진 답을 계산하는 기계에만 머물지 않는다. 인간의 언어를 사용하고, 새로운 문장과 이미지, 코드와 아이디어를 생성하며, 다양한 전문 영역의 지식을 다룬다. 이것은 AI가 인간의 모든 지능을 넘어섰다는 뜻은 아니지만, 인간과 기계 사이의 전통적인 경계를 크게 흔들어놓았다.

책은 이어서 인간과 AI의 지능 차이를 살펴보고 전문지식의 역전, 자기학습, 자기개선, 초인공지능의 가능성을 검토한다. 여기서 중요한 것은 ‘AI가 인간보다 똑똑한가’라는 단순한 질문이 아니다. 지능이 높아질수록 AI가 얼마나 독립적으로 목표를 수행할 수 있는지, 인간이 그 과정을 얼마나 이해하고 개입할 수 있는지가 더욱 중요해진다.

이미 현실에서 나타나고 있는 위험도 빼놓지 않는다. AI를 이용한 허위정보와 딥페이크는 정보에 대한 사회적 신뢰를 흔들 수 있고, 사이버 공격은 자동화와 결합하면서 새로운 위협이 될 수 있다. 자율무기와 AI 감시 기술은 인간의 생명과 자유에 대한 판단이 점점 더 기계 시스템과 결합할 가능성을 보여준다.

더욱 중요한 문제는 AI 자체보다 AI를 사용하는 인간과 사회에 있을 수도 있다. 독재국가의 감시와 통제, 국가 간 AI 무기 경쟁, 기업 간 개발 경쟁, AI 기술과 자원의 집중, 인간의 과도한 의존은 AI의 능력이 커질수록 그 영향도 함께 확대될 수 있는 영역이다.

결국 AI 위험은 하나의 기술적 문제로 환원할 수 없다. 기술, 경제, 군사, 정치, 법률, 국제관계와 인간의 가치가 모두 연결된 복합적인 문제다.

그렇다면 해결책은 무엇인가.

《AI와 인류 멸종》은 AI 개발 자체를 중단해야 한다는 단순한 결론을 제시하지 않는다. 대신 AI의 능력과 자율성에 따라 위험을 구분하고, 안전성과 정렬을 강화하며, 인간의 의미 있는 통제권을 유지하고, 국제적인 규범과 규제를 마련해야 한다고 논한다. 특히 AI가 아무리 높은 능력을 갖더라도 인간의 목표와 가치에 관한 최종적인 권한까지 자동으로 갖게 해서는 안 된다는 점을 강조한다.

AI의 미래를 예측하는 것은 쉽지 않다. 초인공지능이 실제로 등장할지, 등장한다면 언제일지, 그것이 인류에게 어떤 결과를 가져올지는 아직 확정할 수 없다. 그러나 불확실하다는 사실이 대비할 필요가 없다는 뜻은 아니다. 오히려 결과를 정확하게 예측하기 어려운 고위험 기술일수록 인간은 통제 가능한 구조와 안전장치를 먼저 마련할 필요가 있다.

이 책이 궁극적으로 묻는 것은 AI가 인간의 적이 될 것인가가 아니다.

인간은 자신보다 강력한 지능을 만들어놓고도 끝까지 인간으로 남을 수 있는가.

AI 시대의 핵심 문제는 기계가 인간을 얼마나 닮느냐에 있지 않다. 인간이 자신의 가치와 판단, 책임과 권한을 어디까지 기계에 맡길 것인가에 있다. AI의 지능이 아무리 높아진다 하더라도 인간의 미래에 관한 최종적인 선택까지 AI에게 자동으로 넘겨야 하는 것은 아니다.

《AI와 인류 멸종》은 인공지능의 가능성을 두려움으로 봉쇄하기 위한 책도, 기술 발전을 무조건 낙관하기 위한 책도 아니다. 인간보다 강력한 지능을 만들 수 있는 시대에 통제, 책임, 자유, 생존이라는 인간의 오래된 문제를 AI라는 새로운 조건에서 다시 생각하기 위한 책이다.

인류의 미래가 AI에 의해 결정되는 것은 아직 아니다.

중요한 것은 지금 인간이 어떤 기술을 만들고, 어떤 권한을 부여하며, 어디에 선을 그을 것인가이다.

출처: 국립중앙도서관 ISBN 서지정보(출판사 제출)