한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다.
챗GPT 계정은 전 직원에게 나눠줬는데, 왜 회사는 그대로일까?
요즘 저는 코드를 짤 때 AI 도구부터 켭니다. 개인 차원에서는 이미 AI 없이 일하던 시절로 돌아가기 어렵습니다. 그런데 시선을 회사 단위로 올리면 풍경이 달라집니다. 도입 공지가 올라오고 교육이 한 번 돌고 나면 그걸로 끝. 석 달 뒤 사용 현황을 열어 보면 숫자가 처참한 경우가 많습니다.
SI 업계에 있다 보니 이런 장면을 회사 안팎에서 봅니다. 고객사 제안요청서에는 어느새 AI 활용이 기본 항목으로 들어와 있는데 정작 도입 이후의 이야기를 해 주는 자료는 드뭅니다. 컨설팅 보고서는 너무 높이 날고 유튜브 후기들은 개인기에 가깝습니다. 조직 단위로 AI가 자리 잡는 과정을 처음부터 끝까지 보여주는 기록이 늘 아쉬웠습니다.
한빛미디어의 신간 <실전 AX 리포트>는 그 빈자리에 도착한 책입니다. 쓴 이들은 국내 한 대기업 AX 팀의 세 실무자, 박주혜·오현식·공득조 님입니다. 부서 하나에서 시작한 AI 활용이 52개 계열사, 3만 5천 명 규모까지 퍼져 나간 과정을 340쪽에 담았습니다. 7개 부, 22개 장. 전략과 예산에서 시작해 플랫폼 아키텍처와 에이전트, 보안을 지나 조직과 문화에서 끝나는 구성입니다.
실패담을 앞자리에 놓은 책
이 책의 첫인상은 목차에서 정해졌습니다. 1부 제목이 'AX, 왜 대부분 실패하는가'입니다. 성과 자랑으로 문을 여는 대신 상용 솔루션을 들여놓고 사용률 10%에 멈췄던 경험, 파일럿만 반복하다 시간이 흘러간 구간, 플랫폼을 세 번 갈아엎은 과정을 먼저 꺼냅니다. 저자들 표현으로는 '실패를 감추지 않는 것이 실패를 줄이는 가장 빠른 방법'이라서요.
출판사 소개에 나오는 문장 하나가 이 책의 태도를 요약합니다. 지금까지의 AX 이야기는 손에 잡히지 않는 무지개 같았다는 것. 그래서 저자들은 결론 대신 판단 과정을 남기기로 했습니다. 모델과 도구는 금방 낡지만 단계마다 무엇을 놓고 고민했고 어떤 기준으로 결정했는지는 오래 남는다는 이야기인데, 책 전체가 실제로 그 원칙대로 쓰였습니다.
PoC 지옥이라는 정확한 이름
1장에 'PoC 지옥'이라는 표현이 나옵니다. 파일럿은 성공하는데 전사 확산으로는 넘어가지 못하는 상태. 이 단어를 보는 순간 떠오르는 프로젝트가 몇 개 있었습니다. 시연회에서 박수를 받고 보고서가 한 바퀴 돌고 나면 그다음이 없습니다. 책은 이 현상의 원인을 프레임에서 찾습니다. 기술 도입과 AX를 같은 것으로 보는 착각, 킬러 유스케이스 하나만 찾으면 된다는 집착, 조직이 AI를 거부하는 진짜 이유까지 2장에서 하나씩 짚습니다.
2부는 실무자가 경영진을 설득하는 방법입니다. 눈에 들어온 건 4장 제목인데요. 'ROI 없이 시작하고, ROI로 증명하기'. 도입 초기에 ROI부터 요구하면 왜 일이 꼬이는지, 그 대신 어느 시점에 어떤 지표로 성과를 보여야 하는지를 정량 측정 프레임워크와 '숫자를 이야기로 만드는 법'으로 풀어 줍니다. 체험, 내재화, 혁신으로 이어지는 3단계 로드맵과 예산 제안서 구조까지 붙어 있어서 이 부만 떼어 읽어도 보고 자료 한 벌이 나올 것 같았습니다.
백엔드 엔지니어의 눈으로 읽은 플랫폼 파트
본업 관점에서는 3부가 가장 밀도 높게 읽혔습니다. 6장 첫 절 제목이 '왜 챗봇이 아니라 플랫폼이어야 하는가'인데, 여러 계열사를 하나의 플랫폼에 태우는 멀티 테넌시 설계, LLM 게이트웨이와 RAG 파이프라인, 권한 체계까지 전사 AI 인프라의 뼈대를 차례로 보여줍니다. 아키텍처가 1.0에서 4.0까지 진화해 온 과정을 버전별로 따라가는 절이 특히 좋았습니다. 처음부터 완성형 설계였을 리 없다는 당연한 사실이 오히려 위로가 되더군요.
7장은 모델 운영입니다. 상용과 오픈 소스 사이의 선택, 업무별·비용별 라우팅, 토큰 사용량 모니터링. 평소 관측 대시보드 들여다보는 일을 좋아하는 저는 비용 최적화 절에서 오래 멈춰 있었습니다. LLM 비용도 결국 운영 지표의 문제라 서버 모니터링과 같은 감각이 통합니다. 8장 멀티 에이전트 장은 Tool Use와 Function Calling, MCP 같은 요소 기술이 사내 시스템에서 어떻게 조립되는지 다루고 9장은 프롬프트 인젝션 방어, 계열사별 데이터 격리, 접근 제어 같은 보안·거버넌스로 이어집니다. 금융 전산을 거쳐 온 입장에서는 15장의 금융권 보안 기준을 충족한 구축형 플랫폼 사례와 함께 가장 현실적으로 읽힌 대목입니다.
확산의 병목은 결국 사람이었다
4부와 7부는 기술 밖의 이야기입니다. 파일럿 대상 선정에서 52개 계열사 롤아웃까지의 단계별 확산 전략, 3만 5천 명을 대상으로 한 온보딩 설계, 프롬프트 템플릿 라이브러리, AI 챔피언 프로그램. 도구를 깔아 주는 일과 쓰게 만드는 일 사이의 간극을 메우는 장치들이 구체적으로 나옵니다. '저항을 협력으로 바꾸는 일'이라는 절 제목처럼 현업의 반발을 신호로 읽는 관점도 인상에 남았습니다.
읽는 내내 우리 회사 생각을 했습니다. 계열사 52개는커녕 법인이 하나뿐인 작은 회사지만 가져올 만한 아이디어가 적지 않습니다. 전 직원 교육보다 챔피언 한두 명을 먼저 세우는 순서, 우수 사례를 모아 돌려 보는 체계 같은 것들은 규모와 무관하게 통할 테니까요.
마트 육류 판별부터 전자결재 연동까지
5부의 산업별 사례는 이 책에서 가장 재미있게 읽히는 대목입니다. 문화센터 강좌 추천이나 회의록 자동화처럼 예상 범위의 과제 사이에 마트 육류의 지방 비율을 판별하는 AI, 건설 현장의 실시간 번역, 지하철 혼잡도 분석, 수영장 안전 모니터링 같은 사례가 섞여 있습니다. 화려한 데모용 과제보다는 현장 부서의 골칫거리에서 출발한 과제들이라는 게 목록만 봐도 느껴집니다.
6부 기간계 연동은 SI 개발자에게 기시감이 드는 파트입니다. 그룹웨어와 전자결재, ERP와 CRM에 AI를 붙일 때 필요한 오케스트레이션 레이어, 그리고 '레거시 시스템 연동의 현실적 제약과 우회'라는 절 제목. 이 일을 해 본 사람이라면 제목만 봐도 어떤 밤들이 있었을지 짐작이 갑니다. 오픈AI 앱스 SDK로 챗GPT 안에 들어간 사례, 코파일럿·워크스페이스 AI와의 공존 전략, n8n 같은 자동화 도구와 MCP 기반 통합까지 2026년 시점의 선택지들이 정리되어 있습니다.
총평 및 추천 대상
덮고 나니 이 책의 정체는 세 권이 겹쳐진 물건에 가깝습니다. 경영진을 설득하는 전략서, 플랫폼 아키텍처 기술서, 조직 변화 관리서. 보통은 서로 다른 저자가 서로 다른 독자를 향해 쓰는 주제들이 한 조직의 실제 시간 순서로 묶여 있다는 점이 이 책의 희소성입니다.
물론 어디까지나 한 그룹의 기록이라는 점은 감안해야 하고요. 계열사 구조나 예산 규모가 다른 조직이라면 그대로 가져다 쓰기 어려운 대목도 있고 RAG나 에이전트 같은 각론의 깊이가 전문서 한 권을 대신하지도 못합니다. 다만 이 책의 쓸모는 판단의 순서와 기준을 보여주는 데 있으니 큰 흠으로 느껴지지는 않았습니다.
✅ 이런 분들에게 강력 추천합니다:
- 위에서는 AX를 하라고 하고 아래에서는 아무도 쓰지 않는, 그 사이에 낀 실무 책임자
- 사내 AI 플랫폼의 게이트웨이·멀티 테넌시·에이전트·보안을 설계해야 하는 백엔드·AI 엔지니어
- 경영진 보고와 예산 제안서에 들어갈 논리와 숫자가 필요한 전략·기획 담당자
- 고객사에 AI 과제를 제안해야 하는 SI·컨설팅 쪽 개발자와 PM
성공담은 박수로 끝나지만 시행착오의 기록은 두고두고 꺼내 쓰게 되죠. 저부터도 다음에 AI 과제 이야기가 나오면 2부의 보고 프레임을 다시 펼쳐 볼 생각입니다. 도입을 앞둔 조직에도, 도입해 놓고 멈춰 선 조직에도 권합니다.
AI 도입의 성패는 모델이 정하지 않는다.
그걸 쓰는 조직이 정한다.