K-EXAONE 사례로 본 소버린 AI — 모델보다 데이터 엔진이 먼저다

관련 글 — LLM 데이터셋 · LLM 학습 방식 · 대한민국 소버린 AI

얼마 전 K-EXAONE의 호스팅 서비스에서 내부 skill로 보이는 정보가 프롬프트 인젝션을 통해 노출됐다는 커뮤니티 게시물이 공유됐다. 게시물 작성자는 상식·수수께끼 유형을 처리하는 것으로 보이는 skill 설명에 특정 문제와 닮은 표현이 있었고, 문제의 숫자를 바꾸자 답도 흔들렸다고 주장했다. 댓글에는 다른 숫자에서도 일관된 답을 받았다는 반례가 있었다. 실험 날짜, 서비스 버전, 세션과 추론 설정이 통제되지 않은 관찰이므로 이 게시물만으로 학습 데이터 오염이나 평가 조작을 말할 수는 없다.

이 글을 정리한 2026년 8월 10일에는 같은 방식의 질의로 과거의 출력을 재현하지 못했다. 서비스가 수정됐는지, 모델이 교체됐는지, 입력 필터가 추가됐는지는 공개 정보만으로 알 수 없다. 더구나 호스팅 서비스의 답은 모델 가중치만의 결과가 아니다. 입력 필터, router, system prompt, 검색, tool, 출력 후처리가 모두 개입할 수 있다.

이 사례에서 내가 궁금했던 것은 “누가 부정행위를 했는가”보다 모델의 일반화 능력과 공개 시험에 특화된 서비스 최적화를 구분할 수 있는가였다. 이 질문은 한 기업의 도덕성보다 국가가 어떤 성과를 측정하고 보상하는지로 이어진다.

공개 점수가 보상 함수가 될 때

벤치마크는 필요하다. 여러 모델을 같은 조건에서 비교하고 공공 투자의 결과를 설명하려면 정량 지표가 있어야 한다. 문제는 시험 문항과 평가 방식이 널리 알려져 있고, 그 점수가 다음 단계 진출과 후속 지원에 직접 연결될 때 생긴다. 측정 도구였던 벤치마크가 개발 방향을 움직이는 보상 함수가 되기 때문이다.

정부의 독자 AI 파운데이션 모델 프로젝트 1차 단계평가는 벤치마크 40점, 전문가 평가 35점, 사용자 평가 25점으로 구성됐다. 벤치마크만으로 선발한 것은 아니며 전문가들은 기술보고서와 학습 로그를 검토했고, 전문 사용자들은 활용성과 추론 비용 효율성까지 평가했다. 그럼에도 정량 벤치마크 40점은 단일 항목으로 가장 크다. 팀의 생존이 걸려 있다면 공개 문제군에 post-training 데이터, prompt, decoding과 평가 harness를 맞추는 것은 매우 합리적인 선택이 된다.

2026년 8월의 2차 평가는 같은 숫자를 그대로 적용한다고 전제하면 안 된다. 과기정통부와 NIPA는 국민 평가단을 별도로 모집했고, 이 글의 발행 시점에는 8월 8일부터 11일까지 사용자 평가가 진행 중이다. 아직 나오지 않은 최종 결과나 순위를 미리 단정할 수 없는 이유다.

국가가 실제로 원하는 것은 새로운 문제 해결, 한국어와 한국 맥락의 이해, 신뢰성, 비용 효율, 배포 가능성, 지속적인 개선 능력의 합에 가깝다. 하지만 사업에서 직접 측정하기 쉬운 것은 공개 벤치마크 점수와 정해진 형식의 평가다. 대리 지표가 실제 목적의 일부만 포착하는데 기관의 존속은 그 지표에 달려 있으면, 자원은 측정 가능한 쪽으로 이동한다.

공개 벤치마크는 모델의 능력을 재는 체온계여야 한다. 그러나 사업의 생존과 연결되는 순간 개발 방향을 움직이는 온도조절기가 된다.

시험 대비와 연구의 경계

공개 문제와 비슷한 데이터를 학습하는 것 자체를 부정행위라고 부를 수는 없다. 수학 문제를 잘 풀게 하려고 수학 문제를 더 학습하고, tool-use 평가를 대비해 tool-use 궤적을 만드는 것은 정상적인 post-training이다. 다만 높은 점수가 어디에서 왔는지를 구분할 수 있어야 한다.

GSM-Symbolic은 수학 문제의 이름과 숫자를 바꾸거나 무관한 조건을 더했을 때 모델 성능이 흔들릴 수 있음을 분석했다. 이 한 연구로 모든 추론 능력의 한계를 단정할 수는 없지만, 정적인 원본 문항만 보지 말고 절차적으로 만든 변형군을 함께 평가해야 한다는 문제의식은 유효하다. LiveBench와 LiveCodeBench는 최신 문제를 계속 추가해 오래 공개된 시험의 오염 가능성을 줄이려는 시도다.

더 나은 평가는 공개 원본 점수 옆에 비공개·회전형 문항, 숫자와 조건을 바꾼 변형 문제, 실제 업무의 task success를 함께 놓아야 한다. 모델은 평가기관의 독립 환경에서 실행하고, system prompt와 RAG·tool 사용 여부, 추론 파라미터도 기록해야 한다. 좋은 벤치마크는 순위를 만드는 시험지보다 실패를 발견하는 센서에 가깝다.

시험에 과적합된 모델과 납품에 과적합된 데이터

벤치마크보다 더 오래 남는 병목은 데이터다. 모델 구조가 뛰어나도 존재하지 않는 한국의 현장 지식과 long-tail 사례를 스스로 복원할 수는 없다. 같은 웹 원천을 쓰더라도 무엇을 추출하고, 어떤 문서를 버리고, 어느 단위로 중복을 제거하며, 도메인을 어떤 비율로 섞는지에 따라 모델은 달라진다.

DataComp-LM은 모델과 학습 코드를 고정한 채 데이터 구성 전략을 비교할 수 있도록 설계됐고, FineWeb은 Common Crawl에서 텍스트를 추출하고 필터링·중복 제거하는 선택을 실험으로 공개했다. 데이터 정제는 학습 전의 허드렛일이 아니라 성능과 연산 효율을 결정하는 연구 변수라는 뜻이다. K-EXAONE의 기술보고서 역시 236B total, 23B active parameter의 MoE 모델뿐 아니라 tokenizer 재설계, 다단계 사전학습, 데이터 filtering과 합성, SFT와 강화학습까지 폭넓은 개발 과정을 설명한다. 실제 성과를 인정하면서도 장기 데이터 자산에 어떤 보상이 돌아가는지는 별도로 물을 수 있다.

모델 사업에서 공개 점수가 대리 목표가 되는 것처럼, 데이터 사업에서는 구축 건수와 납품 완료가 대리 목표가 되기 쉽다. 시험에 과적합된 모델과 납품 규격에 과적합된 데이터는 같은 구조의 두 얼굴이다. 하나는 정답률을 만들고 다른 하나는 파일 수를 만들지만, 둘 다 새로운 상황에서 재사용될 능력을 자동으로 보장하지 않는다.

AI Hub의 파일은 언제 자산이 되는가

감사 결과를 다룰 때는 범위를 정확히 한정해야 한다. 감사원의 지능정보화사업 추진실태 감사를 인용한 보도에 따르면, 조사 대상은 2020~2021년에 구축한 360종이었다. 이 가운데 122종, 사업비 1,148억 원 규모는 목표와 다르게 과소 구축되거나 장기간 적재·개방되지 않는 등의 이유로 계획대로 활용되지 못했고, 별도로 168종은 설정한 품질 목표를 달성하지 못한 것으로 보도됐다. 이 숫자를 현재 AI Hub 전체가 쓸모없다는 주장으로 확대해서는 안 된다.

현장에서 말하는 “학습하기 어렵다”는 표본 라벨 정확도 하나보다 넓은 문제다. 손상 파일과 실제 설명서가 다를 수 있고, train과 test 사이에 중복이 있을 수 있다. 라벨 정의가 모호하거나 실제 서비스 분포의 long-tail이 빠지기도 한다. 수집 출처, 동의와 권리 범위, 원본과 파생본의 관계를 샘플 단위로 추적하기 어려우면 연구자는 모델 학습 전에 데이터 감사부터 다시 시작해야 한다.

AI Hub 이용정책은 개인정보와 제3자 권리를 보호하기 위해 무단 제공·양도와 국외 반출, 재식별 등을 제한한다. 이런 보호 장치는 필요하다. 다만 사용자가 고친 오류와 정제 코드를 공식 버전으로 되돌리는 patch 경로가 함께 없다면 기관마다 같은 청소를 반복하게 된다. 재배포 제한을 없애자는 것이 아니라, 제한된 원본 위에서도 오류 신고, 수정 제안, 검증과 새 release가 이어지는 공식 통로가 필요하다는 이야기다.

정부와 NIA도 문제를 방치하고 있는 것은 아니다. AI Hub는 2026년 데이터 품질관리 가이드라인 v4.0을 공개했고, 기존 데이터를 생성형·추론형 AI에 맞게 다시 가공하는 업사이클링 사업도 진행하고 있다. 중요한 것은 이 개선 사업마저 새 납품물로 끝내지 않고, 실제 모델의 실패가 다음 데이터 버전으로 돌아오게 만드는 일이다.

데이터셋을 납품하지 말고 데이터 엔진을 운영해야 한다

일회성 데이터셋은 정해진 파일 묶음이다. 데이터 엔진은 원천이 추가되고, 권리와 개인정보를 확인하고, 정제와 중복 제거를 거쳐 학습한 뒤, 모델의 실패를 다시 수집·수정하는 운영 체계다. 둘의 차이는 규모보다 순환에 있다.

이 엔진에는 데이터 위치와 담당자를 찾는 catalog, 수집과 가공 이력을 기록하는 lineage, 사용 가능한 목적을 적는 rights ledger가 필요하다. PII와 유해 콘텐츠를 탐지하고 사람이 검토하는 queue, exact·near deduplication, train-test leakage 검사, 버전별 manifest도 있어야 한다. 마지막으로 모델의 실패를 지식 부족, 지시 불이행, 검색 실패, tool 오류로 나눠 어느 데이터 단계로 돌려보낼지 결정해야 한다.

연구자 한 명에게 공급망 전체를 맡길 수는 없다

많은 조직에서 연구자는 원본 위치를 찾고 접근 승인을 받은 뒤, 파일을 변환하고 손상을 제거하고 중복과 라벨을 검사한다. 동시에 학습 코드를 만들고 모델을 평가하고 데모까지 구현한다. 연구자가 데이터를 직접 이해하는 과정은 필요하지만, 모든 연구자가 저작권·PII·공통 정제 파이프라인을 매번 다시 만드는 것은 다른 문제다. 프로젝트가 끝나거나 담당자가 이동하면 그때의 판단 기준과 처리 코드도 함께 사라지기 쉽다.

사내 데이터도 저장소에 있다는 이유만으로 학습 가능한 것은 아니다. 방송사나 미디어 기업에는 방송본과 클린본, 대본·자막·타임코드, 편집 이력, 다국어 번역 수정본처럼 공개 웹에서 구하기 어려운 자산이 있다. 동시에 외부 제작사 저작권, 출연자와 실연자 계약, 초상·음성 권리, 음원과 자료 화면의 제3자 권리, 개인정보와 원래 수집 목적이 얽혀 있다.

“저작권이 해결된 사내 데이터”는 회사가 파일을 보유했다는 뜻이 아니다. 학습 목적, 이용 지역과 기간, 상업 이용과 재배포 범위, 삭제 요청의 처리 방법이 확인되고 데이터와 함께 추적된다는 뜻이어야 한다. 이 일은 연구자의 정규식 한 번이 아니라 데이터 엔지니어, curator, 법무, 개인정보 담당자가 함께 운영할 조직 역량이다.

오픈웨이트는 지렛대인가, 목발인가

해외 오픈웨이트 모델을 쓰는 것 자체는 소버린 AI의 실패가 아니다. 모든 기업이 범용 모델을 처음부터 사전학습하는 것은 비효율적이고, 검증된 base model 위에 한국어·도메인 데이터와 자체 평가를 더하는 편이 훨씬 합리적인 조직도 많다. Open Source를 전략적으로 활용하는 것과 구조적으로 종속되는 것을 구분해야 한다.

외부 모델을 사용하는 것이 종속은 아니다. 외부 모델이 새로 나오지 않으면 우리도 더 나아갈 수 없는 상태가 종속이다. 반대로 해외에서 시작한 open-weight라도 국내에서 self-host하고 데이터와 배포를 통제하며 다른 모델로 교체할 수 있다면 운영 수준의 주권은 높을 수 있다. 다만 그것을 처음부터 학습한 독자 Foundation Model이라고 부르는 것은 별개의 주장이다.

소버린 AI를 다시 정의하기

모델 국적만으로 주권을 설명하면 중요한 층이 빠진다.

이 기준에서 독자성은 한 번 weight를 random initialization부터 학습했다는 과거의 사건보다, 다음 모델을 스스로 다시 만들 수 있다는 미래의 능력에 가깝다. 외부 기술을 전혀 쓰지 않는 자급자족이 아니라, 핵심 데이터와 평가 기준을 통제하고 필요할 때 공급자를 교체할 선택권이다.

국가는 무엇을 성과로 사야 하는가

소버린 AI 투자를 줄이자는 이야기가 아니다. 같은 돈으로 무엇을 남길지 다시 묻자는 것이다. 정책의 KPI가 바뀌면 수행기관이 최적화하는 대상도 바뀐다.

1. 공개 점수에서 변형 견고성으로: 원본 문항과 비공개·회전형·절차적 변형의 성능을 함께 보고한다.
2. 데이터 건수에서 실제 효용으로: 같은 모델과 학습 예산에서 신규 데이터가 downstream task를 얼마나 개선했는지 측정한다.
3. 다운로드 수에서 검증된 재사용으로: 다른 기관이 실제로 학습과 평가를 재현했는지 확인한다.
4. 납품 완료에서 유지보수로: 오류 신고부터 공식 patch까지 걸린 시간, provenance가 완비된 샘플 비율, release 이력을 평가한다.
5. 단년도 예산에서 다년도 운영으로: 구축비 일부를 3~5년의 재검증, 권리 갱신, patch와 독립 데이터 감사에 배정한다.
6. 평균 점수에서 실패 계획으로: 어떤 하위집단과 도메인에서 실패했고 다음 데이터에 어떻게 반영할지를 의무적으로 공개한다.

모델 가중치는 중요하다. K-EXAONE을 비롯한 국내 모델이 쌓은 대규모 학습과 시스템 경험도 가볍게 평가할 수 없다. 그러나 가중치는 데이터·학습·평가 순환이 특정 시점에 만들어낸 한 결과물이다. 그 순환이 남지 않으면 다음 세대는 다시 원재료를 찾고 같은 청소를 반복한다.

한국 소버린 AI의 성패는 가장 큰 모델을 한 번 만들었는지가 아니라, 오류가 발견되면 수정되고 새로운 도메인이 생기면 수집되며 모델이 실패하면 다시 학습 데이터로 돌아오는 엔진을 남겼는지로 판단해야 한다. 국가가 사야 할 것은 이번 평가의 몇 점이 아니라, 다음 모델을 더 잘 만들 수 있는 반복 능력이다.