작동하는 거버넌스,
바닥에서 올라오는 AX
막는 정책에서 작동하는 거버넌스로. 폐쇄망에서 실제로 돌아가는 여덟 가지 증거와 함께.
한국의 공공 AX 논의에서 오랫동안 놓쳐 온 질문이 있다. 거시적 AX의 큰 물결 — 소버린 AI, K-AI 파운데이션 모델, GPU 확보, 인공지능위원회 — 그 흐름 속에서 정작 소외되고 있는 작은 현장의 문제들을 어떻게 풀 것인가 하는 질문이다. 이 글의 메시지는 하나로 모아진다.
01 / 두 축AX 대전환의 거시와 미시
AX 대전환에는 두 개의 축이 있다. 하나는 거시적 축이다. 소버린 AI, K-AI 파운데이션 모델, GPU 확보, 인공지능위원회 — 국가 차원의 전략적 흐름이다.
또 하나는 미시적 축이다. 직원 한 사람, 실무자 한 사람이 AX를 통해 자신의 일과 삶을 어떻게 바꿀 것인가 하는 문제다. 이 글이 집중하는 쪽은 두 번째 축 — 바닥에서 올라오는 AX다. 거시적 축만으로는 결코 닿을 수 없는 골목길의 문제가 이 나라에 너무 많이 남아 있기 때문이다.
02 / 소버린모델이 아니라 '꽂히는 자리'다
거시적 축을 짧게 짚고 가자. '소버린 AI'라는 말이 유행처럼 번지고 있다. 그런데 소버린 AI는 GPU를 사 모으고 파운데이션 모델을 하나 만드는 것으로 끝나지 않는다.
진짜 소버린 AI는 우리가 이미 세계 최고 수준으로 가지고 있는 자산 — 조선·제조·방산·식량 보안·공공 행정 데이터 — 이 자산들과 AI가 결합될 때 비로소 완성된다. 모델 자체가 아니라, 그 모델이 어디에 꽂히느냐가 소버린 AI의 본질이다. 그리고 그 '어디'의 가장 밑바닥은 결국 현장 실무자의 책상이다.
03 / VIBE이제는 스스로 만드는 시대다
그러면 미시적 축은 어떻게 이루어지는가. 불과 1~2년 전만 해도 실무자 AI 교육의 초점은 "ChatGPT를 얼마나 잘 쓰는가"였다. 보고서 초안을 뽑고, 문장을 다듬고, 아이디어를 정리하는 수준이었다.
지금은 완전히 다른 시대가 열렸다. 그 이름이 VIBE 코딩이다. OpenAI 공동 창립자이자 Y Combinator에서 오랫동안 활약한 안드레이 카파시가 붙인 이름이다.
내가 겪는 문제를 안다. 풀렸을 때의 모습을 상상할 수 있다. '어떻게' 푸는지는 — AI와 함께 찾는다.
이 말의 무게를 다시 한번 생각해 볼 필요가 있다. 이제는 현장 실무자 한 사람이 자기가 필요한 소프트웨어를, 자기가 필요한 업무 자동화 도구를, 스스로 만들어 쓸 수 있는 시대가 왔다는 뜻이다. 에이전트가 뭔지·하네스가 뭔지에 대한 기본 어휘는 이 블로그의 앞선 글에서 정리해 두었으니 필요하면 참고하기 바란다.
04 / 증거폐쇄망에서도 돌아가는 여덟 가지
"보안이 중요한 환경에서는 이 모든 것이 꿈 같은 이야기 아닌가"라는 질문이 자연스럽게 따라온다. 답은 "아니다"이다. 폐쇄망·행정망에서 오늘 당장 돌아가는 여덟 가지 방법을 정리해 본다. 모두 현장에서 검증된 것들이다.
HTML·CSS·자바스크립트 단일 파일 도구
브라우저만 있으면 동작한다. 자바스크립트 라이브러리는 파일 안에 그대로 심어 넣는다. 행정망에서도, 폐쇄망에서도, 더블클릭 한 번으로 돌아간다. 민원 CSV를 올리면 대시보드가 그려지고, 통계가 계산된다. CDN도 설치도 필요 없다.
파이썬 오프라인 패키징
파이썬은 기본 기능만으로도 엑셀·파워포인트·PDF·파일 시스템을 제어한다. 외부망에서 ChatGPT에게 코드를 받고, 내부망에서 실행한다. 라이브러리가 필요하면 pip install --target 한 줄로 폴더째 받아, 그 폴더째 폐쇄망으로 옮기면 끝이다. 보고서 자동 생성, PDF 텍스트 추출, 개인정보 일괄 마스킹 — 한 사람이 한 시간 안에 만들 수 있다.
파이썬 데스크탑 앱 (EXE)
PyInstaller나 Electron으로 단일 실행 파일로 묶어낸다. 설치만 하면 독립적으로 동작한다. EXE에 대한 보안 우려가 있다는 것을 잘 알고 있다. 다만 한국 보안 당국의 실력이 이런 실행 파일 하나를 검증해 내지 못할 수준은 결코 아니다. Claude Code가 주어진다면, 한 자리에서 개인정보 마스킹·파일 통합·민원 분류 도구를 한 시간 안에 열 개 만들 수 있다.
Node.js 오프라인 패키징
자바스크립트를 브라우저 밖으로 꺼내는 기술이다. node_modules 폴더째 들고 들어가면, 내부망에서도 수천 개의 오픈소스 라이브러리를 그대로 쓸 수 있다. 파일 정리, 로그 파싱, 대량 변환 — 더 복잡한 자동화가 가능해진다.
Ollama — 로컬 소형 언어모델
1B·2B 크기의 모델이면 CPU만으로도 돌아간다. 민원 한 건을 유형별로 분류하고, 자연어 요약을 만들고, 짧은 질의응답을 수행한다. 전부 로컬에서, 외부 통신 한 번 없이. 폐쇄망 안의 공공 AI 어시스턴트가 이렇게 완성된다.
레거시와의 결합 — 엑셀 속의 AI
허깅페이스에서 검증된 오픈소스 모델을 받아, 엑셀 VBA에서 AI 함수를 직접 호출한다. 셀 하나에 =AI("이 민원을 3줄 요약")이면 된다. "GPT for Sheets"의 공공 버전을 우리가 직접 만들 수 있다. 학습된 가중치 파일은 보안 당국이 충분히 정적 검증할 수 있다.
에이전틱 AI와 '하네스'
Claude Code·Codex·Antigravity·OpenCode — 내 컴퓨터 안에 AI 에이전트가 들어와 파일을 읽고, 수정하고, 작업을 함께한다. 모델 성능도 중요하지만, 진짜 핵심은 그 모델을 둘러싼 하네스 — 기억과 규칙, 반복 루틴, 검색 일관성이다. 이 구조만 잘 만들면, 보안 당국이 검증한 공공 기반 모델을 꽂는 순간 '공공형 AI 에이전트'가 완성된다. (하네스의 실체가 궁금하다면 이 블로그의 하네스 글에서 파일과 폴더 단위로 풀어 두었다.)
오픈소스 생태계 — '공공 부품창고'라는 제안
깃허브에는 매일 새로운 라이브러리·MCP 서버·스킬·API가 쏟아진다. 민간의 1인 프리랜서와 작은 기업들이 이 생태계를 키운다. 공공에서도 검증된 오픈소스만 모아 놓는 '공공 소스 저장소'를 만들면, 로컬 에이전트는 그 저장소에서 자유롭게 라이브러리를 가져와 HTML·파이썬·Node.js 도구를 순식간에 찍어낼 수 있다. 공공 앱스토어가 아닌, 공공 부품창고다.
05 / 골목길큰 예산이 결코 돌보지 않는 것들
여기까지의 여덟 가지는, 거대한 시스템이 해결해 주지 못하는 작은 골목길의 문제들을 푸는 방법이다. 내가 지금 목마르고, 내가 지금 배고프고, 내가 지금 손을 쓰고 싶은 그 작은 문제 — 큰 예산 사업·큰 벤더·큰 컨설팅이 결코 돌봐 주지 않는 바로 그 문제들이다.
거시적 AX와 미시적 AX가 만나는 순간, 그때 비로소 AX의 'X' — Transformation을 당당히 말할 수 있게 된다. 모델의 크기가 아니라 닿는 깊이가 진짜 혁신의 지표다.
06 / 거버넌스다섯 층위 — 3·4·5층이 비어 있다
마지막으로 거버넌스 이야기다. '혁신과 규제'라는 시소가 있다. 지금 우리의 시소는 너무 규제 쪽으로 기울어져 있지 않은가 — 감히 던지고 싶은 질문이다.
많은 공무원들이 AI 교육을 받을 때, 머릿속에 계속 맴도는 질문이 있다고 한다. "내가 이걸 배운들, 우리 기관에서 과연 쓸 수 있을까?" 이 막막함, 이 병목 — 역량 강화가 실무로 이어지지 못하게 만드는 이 벽. 이것을 걷어내는 것이 거버넌스의 실체다.
1층과 2층 — 법·제도와 원칙·윤리 — 은 한국 공공기관에 '있다.' 3·4·5층 — 정책·절차, 기술적 통제, 조직문화·역량 — 이 '비어 있다.' 그래서 거버넌스가 문서 속에만 머문다. 3·4·5층을 채우는 일, 그것이 이 글의 제언이다.
07 / 맺음막는 정책에서 작동하는 거버넌스로
공공을 진심으로 아끼는 사람들이 모여 있다면, 이 여덟 가지 증거는 여덟 가지 현장이 되고, 여덟 가지 현장은 수백 개의 일상이 된다. 아주 먼 이야기가 아니다. 이 글에 담긴 여덟 가지는 지금 당장, 오늘 오후에라도, 한 실무자의 책상에서 시작될 수 있는 것들이다.
거버넌스는 이 시작을 가로막지 않는 것에서 출발한다. 막는 정책이 아니라 작동하는 거버넌스. 위에서 내려오는 선언이 아니라 바닥에서 올라오는 실천. 이 두 방향이 만나는 어딘가에서, 우리는 비로소 한국형 AX의 첫 모양을 잡을 수 있다.
모델의 크기가 아니라 닿는 깊이가 혁신의 진짜 지표다. 그리고 그 깊이는 늘 작은 책상에서부터 시작한다.
이 글은 2026년 4월 14일 공공 정책·보안 실무자·위원 대상으로 발표한 키노트의 내용을 블로그 형태로 정리한 것이다. 함께 고민할 분들이 많아지기를 바란다.