[나는 리뷰어다] 기업 AI 정책 담당자 입장에서 읽은 『AI가 두려운 당신에게』

 

한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다.

 

---

들어가며 - 제 모니터에는 늘 켜놓는 화면이 두 개 있습니다

한쪽 화면에는 회사의 AI 활용 현황의 로그가 흐릅니다. 오늘 몇 건의 질의가 들어왔고, 어떤 문서가 검색되지 않았고, 어떤 테넌트에서 권한 오류가 났는지를 확인합니다. 다른 쪽 화면에는 AI 정책 논문이 열려 있습니다. 이번 학기부터 AI 정책 박사과정을 시작하게 된 저는, 지난 몇 년간 제가 만들어 온 것들이 어떤 제도적 좌표 위에 놓여 있는지를 다시 공부하는 중입니다.

AI 리서치 엔지니어의 시간은 스프린트 단위로 흐르고, AI 정책 담당자의 시간은 큰 이벤트와 예산 주기로 흐릅니다. 제 안의 다른 역할 둘은 시간과 관점이 다릅니다. 그러나 목표는 같습니다. 'AI 기술이 사람들의 업무와 역량 향상에 도움이 되는 것'.

『AI가 두려운 당신에게』 도 비슷한 이야기로 시작합니다. 

생각해 보면 제가 연구자로서 AI를 개발하던 이유도, 정책 책임자로서 AI 정책을 고민하는 이유도 결국은 같은 질문에서 출발하고 있었습니다. 기술이 어디까지 발전할 수 있는가가 아니라 '그 기술이 사람들의 삶을 얼마나 더 나아지게 할 수 있는가'라는 것입니다.

이 책은 바로 그 질문에서 시작되었습니다.

내가 만들던 기술이 누군가의 삶에서 활용되는가?

16p

---

1. 이 책의 성격

25년 차 AI 연구자이자 초거대 AI '엑사원(EXAONE)' 개발을 이끌었던 인물이, 지금은 대한민국 AI 정책과 국가 R&D를 총괄하는 부총리 겸 과학기술정보통신부 장관이 되어 국민이 궁금해할 14가지 질문에 답합니다. 목차를 펼치면 질문들이 이렇습니다.

• 우리 아이, AI 시대에 어떻게 가르쳐야 할까요?
• AI가 업무에 들어오면, 나는 무엇을 배워야 할까요?
• 회사 자료를 AI에 넣어도 정말 괜찮을까요?
• 그냥 챗GPT를 쓰면 되는데 왜 우리만의 AI가 필요한가요?
• 막대한 AI 예산은 제 일상에 어떻게 반영되나요?
• ...

이 책은 AI 정책을 설명하는 책이면서도, 모든 챕터 제목이 일상에서 떠오를법한 의문문으로 쓰여 있습니다. '국가인공지능전략 추진 방향'이 아니라 '우리 아이, 코딩까지 가르쳐야 할까요?'입니다.

현직 정책 책임자가 집행하는 정책을 스스로 쉽게 설명하는 책이라고 보면 될 것 같습니다.

---

2. PART 1 - AI 시대, 우리는 무엇을 준비해야 할까?

"AI는 왜 자신 있게 틀릴까요?"

1장에서 제가 가장 반가웠던 부분입니다. 보통은 "AI는 환각(hallucination)을 일으킵니다, 그러니 검증하세요"에서 멈추거든요.

엔지니어 입장에서 이 질문의 진짜 답은 조금 불편합니다. 언어모델은 '틀린 것을 말하는' 게 아니라 '그럴듯한 다음 토큰을 고르는' 일만 합니다. 정답과 오답을 구분하는 회로가 따로 있는 게 아니라, 확률적으로 자연스러운 문장을 이어 붙이는 과정에서 사실과 허구가 같은 매끄러움으로 생성됩니다. 게다가 사후 정렬(alignment) 과정에서 모델은 '도움이 되는 답'을 하도록 학습되기 때문에, 모르겠다고 말하는 것보다 그럴듯하게 답하는 쪽으로 편향되기 쉽습니다. 자신감은 정확도의 신호가 아니라, 문장 생성 방식의 부산물입니다.

이 설명을 일반 독자의 언어로 옮기는 건 정말 어려운 일인데, 이 부분 뿐 아니라 전체적으로 쉽고 친절하게 작성되었습니다.

"AI는 친구도, 선생님도, 신도 아닙니다"

이 한 줄은 이 책 전체에서 가장 잘 벼려진 문장 중 하나라고 생각합니다. 세 단어의 배치가 정확합니다. 친구는 정서적 의존, 선생님은 인식론적 권위, 신은 무오류성입니다. AI에 대한 사회적 오해를 딱 세 층위로 잘라 놓았습니다.

현장에서 저는 세 번째 오해보다 첫 번째 오해가 더 자주, 더 조용히 문제가 되는 것을 봅니다. 사용자 로그를 보면 사람들은 생각보다 AI에게 많은 것을 털어놓습니다. 그리고 조직은 그걸 '활용률 상승'으로 읽습니다. 이 책이 교육 챕터에서 이 문장을 앞세운 건 정확한 판단입니다.

---

3. PART 2 - 대한민국에 '우리 AI'가 필요한 이유

"회사 자료를 AI에 넣어도 정말 괜찮을까요?"

이 질문은 제 업무 메일함에 가장 자주 도착하는 질문입니다. 계열사 보안 담당자, 법무팀, 현업 부서장이 각기 다른 표현으로 같은 것을 묻습니다. 그리고 제가 배운 가장 중요한 사실은 이 책의 소제목이 정확히 짚고 있습니다.

"규칙이 없으면 활용도 멈춥니다"

이건 실무자만 아는 진실입니다. 보안 규정이 없는 조직은 자유롭게 AI를 쓰는 게 아니라, 아무도 쓰지 않습니다. 책임 소재가 불분명하면 합리적인 개인은 사용하지 않는 쪽을 택하기 때문입니다. 그래서 거버넌스는 활용의 브레이크가 아니라 액셀입니다. 

 

AI 기본법과 고영향 영역 규율을 다루는 부분은, 법률 조문을 직접 인용하지 않고도 규범의 골격을 전달합니다. 다만 정책을 공부하는 입장에서는 하위 법령과 가이드라인의 구체성, 즉 "우리 회사의 이 업무가 고영향에 해당하는가"를 판단하는 실무적 기준까지는 나아가지 않습니다. 이건 책이 다룰 범위를 넘어서는 일이기도 하고, 아직 제도가 진행 중이기 때문이기도 합니다.

5장·6장 - 소버린 AI, 이 책에서 가장 강조하는 이야기

이 책의 무게중심은 여기에 있습니다. 5장과 6장은 다른 챕터들과 밀도가 다릅니다. 문장에 힘이 들어가 있고, 논증이 길고, 반론을 의식하는 흔적이 보입니다. "그냥 챗GPT를 쓰면 되는데 왜 우리만의 AI가 필요한가요?"라는 제목 자체가 이미 반론을 정면으로 받는 형태입니다.

책이 제시하는 논거는 크게 네 가지로 정리됩니다.

1. 의존의 위험 - 해외 모델에만 기대면 서비스 중단·정책 변화·가격 결정권에 종속됩니다.
2. 안보 - "AI, 전장의 신경망으로 자리 잡다"라는 소제목이 말하듯, AI는 이미 국방 인프라입니다.
3. 언어와 제도 - 한국어와 한국의 법·행정 맥락을 아는 모델이 필요합니다.
4. 생태계 - 독파모(독자 AI 파운데이션 모델) 컨소시엄을 통해 국내 연구자가 성장할 토양을 만들어야 합니다.

한국어 처리 품질만 놓고 보면, 프런티어 모델과 국내 모델의 격차는 제가 몇 년 전 예상했던 것보다 빠르게 좁혀지는 영역도 있고, 오히려 벌어지는 영역도 있습니다. 문제는 이 격차가 고정된 값이 아니라 움직이는 값이라는 겁니다. 그리고 이 책은 그 사실을 회피하지 않습니다. "AI 시대의 전략, 무빙 타깃"이라는 소제목이 있다는 것 자체가, 저자가 이 취약점을 알고 있다는 신호입니다.

이 부분이 제가 이 책을 신뢰하게 된 지점입니다. 정책 홍보물이라면 "우리도 곧 따라잡습니다"라고 썼을 겁니다. 대신 이 책은 목표가 계속 움직인다는 것을 인정하고, 그럼에도 왜 달려야 하는지를 설명합니다. 그리고 "한국은 고래가 아니라 강소국 서퍼로 경쟁합니다"라는 표현으로 전략적 포지션을 정리합니다. 

그럼에도 남는 질문들

정책 연구자로서 이 파트에 던지고 싶은 질문 세 가지를 적어 둡니다. 이건 책의 결함이라기보다, 이 책이 촉발한 후속 질문에 가깝습니다.

첫째, GPU 26만 장의 '활용률' 문제. 확보는 시작이지 끝이 아닙니다. 자원 배분의 우선순위, 유휴율, 그리고 무엇보다 전력이 실제 병목입니다. 책도 "데이터센터와 전력 인프라가 AI 경쟁을 좌우합니다"라는 소제목으로 이를 다루지만, 계통 연계와 입지 갈등이라는 정치적으로 껄끄러운 부분은 상대적으로 짧게 지나갑니다.

둘째, 컨소시엄 방식의 자원 분산 문제. 여러 팀에 나누어 지원하면 경쟁을 통한 학습 효과가 생기지만, 단일 팀에 몰아주는 것 대비 개별 팀의 컴퓨트 규모는 작아집니다. 스케일링 법칙이 여전히 유효한 국면에서 이 트레이드오프는 실질적입니다. 다만 "말이 아니라 결과로 보여 준 독파모의 첫 무대"라는 소제목이 있는 걸 보면, 저자도 이 논쟁을 성과로 답하려는 것으로 보입니다. 판단은 몇 년 뒤 데이터가 해 줄 겁니다.

셋째, 지속가능성. 정권과 예산 주기를 넘어 이 전략이 유지될 수 있는가. 이건 기술의 문제가 아니라 제도 설계의 문제이고, 어쩌면 현직 장관이 책에서 답하기 가장 어려운 질문일 겁니다.

---

4. PART 3 - 편리함 뒤에 숨어 있는 AI의 위협

개인적으로 가장 잘 쓰인 파트는 3부라고 생각합니다. 이유는 단순합니다. 여기서 저자는 정부의 성과를 자랑할 것이 상대적으로 적고, 그래서 문장이 가장 정직해집니다.

"생성 기술과 탐지 기술은 끝없이 경쟁합니다"

딥페이크 챕터의 이 소제목은 기술적으로 정확합니다. 탐지 모델은 본질적으로 후행합니다. 새로운 생성 기법이 나오면 기존 탐지기의 성능이 떨어지고, 탐지기가 개선되면 다시 이를 회피하는 생성 기법이 나옵니다. 이건 승부가 나는 싸움이 아니라 영속적인 군비 경쟁입니다.

그래서 AI 생성물 표시 의무(워터마킹, 출처 메타데이터)가 논의되는 건데, 이 역시 만능이 아닙니다. 스크린샷 한 번이면 메타데이터는 사라지고, 픽셀 워터마크는 리사이즈와 재압축에 약합니다. 무엇보다, 규범을 지키는 사업자만 표시하고 악의적 행위자는 표시하지 않는 비대칭 준수 문제가 남습니다.

이 책의 미덕은 이 한계를 인정한 뒤 결론을 기술이 아닌 사람에게 돌린다는 점입니다.

"최종 판단은 이용자의 문해력에서 나옵니다" "공유하기 전에 멈추는 3초가 필요합니다"

정책으로 다 막을 수 없다는 것을 정책 책임자가 인정하는 문장입니다. 저는 이 솔직함이 이 책에서 가장 높이 평가할 지점이라고 생각합니다. 그리고 '3초'라는 구체적인 숫자로 행동을 제안한 것도 좋습니다. 추상적 당부보다 훨씬 기억에 남습니다.

7장의 문제 제기 - '모두의 AI'는 구호인가 인프라인가

7장이 다루는 AI 격차 문제는, 제가 이번 학기 연구 주제로 삼으려는 영역과 정확히 겹칩니다. "기술 격차가 일상 격차로 변하는 순간", "같은 지역 안에서도 접근성이 다릅니다" 같은 소제목은 문제를 정확히 좁혀서 잡고 있습니다.

AI 격차는 과거의 정보 격차와 성질이 다릅니다. 인터넷 접근성은 이분법(있다/없다)이었지만, AI 활용 역량은 연속적인 스펙트럼입니다. 같은 도구를 손에 쥐고도 산출물의 격차가 벌어집니다. 그래서 '보급'만으로는 해결되지 않고, 역량과 맥락이 함께 가야 합니다. 이 책은 "모두의 AI는 구호가 아닌 인프라입니다"라고 선언하는데, 저는 이 선언이 실제 정책 설계로 번역되는 과정을 계속 지켜볼 생각입니다.

---

5. PART 4 — 우리의 일상을 바꾸는 AI

4부는 산업·의료·공공·국방·농업까지 넓게 훑습니다. 넓은 만큼 각 주제의 깊이는 얕아지지만, 이 파트에는 다른 목적이 있어 보입니다. 추상적인 국가 예산을 시민 개인의 감각으로 환산하는 것입니다.

12장 「막대한 AI 예산은 제 일상에 어떻게 반영되나요?」가 그 정점입니다. "장바구니와 세금 상담, 인허가가 달라집니다", "식탁 위에 닿는 AI 예산의 변화" 같은 소제목은 재정 커뮤니케이션의 교과서적 사례입니다. 조 단위 예산은 아무도 체감하지 못하지만, 인허가 처리 기간이 며칠 줄었다는 이야기는 체감됩니다.

그리고 이 파트에서 제가 가장 좋아한 소제목은 이겁니다.

"공공 AI 앞을 막는 절차의 벽"

정부가 스스로의 조달·행정 절차가 병목이라고 쓴 문장입니다. 병목을 잘 인지하고 해결해나가도록 모두가 힘을 합치면 좋겠습니다.

10장 AI가 공장에 들어오면 제 일자리는 사라질까요?

책의 답은 "일자리가 사라지는 것이 아니라 일의 방식이 바뀝니다"입니다. 거시적으로는 맞는 말입니다. 역사적으로도 그랬습니다. 하지만 거시의 진실이 개인의 위로가 되지는 않습니다. 전환기의 비용은 평균값으로 지불되지 않고, 특정한 사람들에게 몰려서 지불됩니다. 40대 중반의 공정 관리자에게 "일의 방식이 바뀐다"는 문장은, 재교육 기간의 소득과 전직 경로가 함께 제시되지 않으면 위로가 아니라 통보로 읽힙니다.

이 책은 "베테랑의 안목은 AI 시대에 더 중요해집니다", "결국 사람이 없으면 기술도 발전할 수 없습니다"라는 답을 내놓습니다. 따뜻하고, 상당 부분 사실이기도 합니다. 다만 저는 이 지점이 이 책에서 가장 정직하게 어려운 자리였다고 생각합니다. 그리고 여기에 완전한 답을 내놓지 못한 것은 이 책의 실패가 아니라, 아직 우리 사회 전체가 답을 못 찾은 문제라고 보는 게 공정할 것 같습니다.

---

6. 종이 밖으로 이어지는 정책노트

이 책에는 종이 지면 바깥으로 이어지는 장치가 있습니다. 챕터별 정책노트를 담은 온라인 페이지(illuminus.kr)가 있습니다.

책에서 '무엇을 말하기로 했는가'가 잘 녹아져 설명되고 있다면, 정책노트는 '정부가 어떻게 준비하고 있는지'에 대한 내용이 있습니다. 

---

7. 이 책을 어떻게 읽을 것인가 

① 시민의 독법 - 앞에서부터, 순서대로

AI가 막연히 불안한 분이라면 1장부터 읽으시면 됩니다. 14개의 질문 중 최소한 서너 개는 본인의 질문일 겁니다. 내가 평소에 가지고 있는 질문에 대해 책과 함께 고민해봅니다.

② 직장인의 독법 - 2장 → 4장 → 10장

조직에서 AI 도입을 맡고 있다면 이 세 챕터만 먼저 읽어도 충분한 값을 합니다. 특히 4장은 보안팀을 설득할 때 쓸 수 있는 논리를 제공합니다. "규칙이 없으면 활용도 멈춘다"는 문장은, 현재 저도 공감이 많이 가는 문장입니다.

③ 연구자·정책 관심자의 독법 - 5장·6장을 '사료'로 읽기

정책을 공부하는 사람에게 이 책의 가치는 논증의 정교함이 아니라 1차 사료로서의 성격에 있습니다. 2026년 시점에 대한민국 AI 정책 최고 책임자가 소버린 AI 전략의 근거를 어떤 언어로 국민에게 설명하기로 선택했는가라는 관점에서 이 기록은 시간이 지날수록 가치가 올라갑니다.  저는 이 책을 그런 용도로 책장에 남겨 둘 생각입니다.

---

마치며 - 몰라서 오는 두려움

에필로그의 제목은 「몰라서 오는 두려움은 알게 되면 사라진다」입니다.

이 문장에 저는 반쯤 동의합니다. 알게 되면 사라지는 두려움도 있고, 알고 나서 더 선명해지는 두려움도 있기 때문입니다. 제가 이 일을 하면서 배운 것은 후자 쪽에 가깝습니다. 모델의 내부를 알수록 신뢰의 조건이 까다로워지고, 정책을 알수록 제도의 공백이 잘 보입니다.

하지만 그 선명해진 두려움은 다룰 수 있는 두려움입니다. 막연한 불안은 사람을 마비시키지만, 구체적인 우려는 사람을 움직이게 합니다. 이 책이 하는 일이 정확히 그것입니다. 안개를 걷어 내고, 그 자리에 대답 가능한 질문 14개를 놓아 줍니다. 

AI가 두렵다면, 이 책은 두려움을 완전히 없애 주지는 않습니다. 대신 두려움에 이름을 붙여 줍니다. 이름이 붙은 두려움은 더 이상 유령이 아니라고 생각합니다.

344p

---

이런 분께 권합니다

• AI가 불안한데 무엇부터 알아야 할지 모르겠는 분
• 조직에서 AI 도입·보안 정책을 만들어야 하는 실무자
• 자녀 교육 방향을 고민 중인 학부모
• 국가 AI 정책의 방향과 근거를 원문 수준에서 확인하고 싶은 분

이런 분께는 다른 책을 권합니다

• 모델 아키텍처나 파인튜닝 등 기술 구현을 배우고 싶은 분
• AI 정책에 대한 비판적·논쟁적 시각을 찾는 분 (이 책은 설명하는 책이지 반론하는 책이 아닙니다)