사람의 맛

AI

인간 시대의 끝이 도래했다는 작자들의 비명 소리가 들려왔다.

사실 이런 반응은 2026년 가장 뜨거웠던 감자 Astra 이전에도 익숙했다.
그들의 리그에서 소위 말하는 ‘호들갑’이 들려올 때마다 항상 비판적인 관점을 가지고 받아들였던 것 같다. 세세하게 에이전트가 뭔지, MCP가 뭐고 Harness가 뭔지 그게 사실 중요한가? 우리한테 중요한 것은 최종 결론 ‘그래서 AI가 다 할 수 있다고?’

예전에는 ‘에이 AI가 아직 부족한 점이 많지~’라는 의견이 그래도 주를 이루었는데, 지금은 반대로 말하는 사람들이 예전보다는 많아졌다. 안 그래도 AI로 떠들어대는 수많은 ㅈ문가들이 판치는 마당에 OpenAI와 Claude, Meta의 행보는 꽤나 그들을 지지하는 것처럼 보인다.

언제나 마케팅은 진보적으로 접근하고 기술은 보수적으로 접근한다. 하지만 이러한 균형은 기술이 기술을 완벽하게 이해한다는 조건에서 성립한다. 그런데 어느 순간부터 기술도 AI를 이해하지 못하게 되었다. 이거 왜 잘되냐?

그래서 나도 직면해 보기로 결심했다. AI가 만들어낸 AI Slop들을 미워했고, 에이전트니 MCP니 하네스니 결국 분석이라고는 없는 경험적/귀납적 방법론이라고 비평했던 나인데, 언젠가부터 AI를 개발하는 입장으로 AI를 대변하지 못하는 아이러니한 상황이 벌어졌다. 사실은 AI로 돈을 벌어먹고 있는데 AI를 찬양하는 모든 사람들과 기업들을 미워하다니, 슬슬 내가 프로불편러처럼 느껴지기 시작했다.

나도 AI를 마냥 무시하는 건 아니다. ChatGPT에 매달 20만 원가량의 돈을(개인 구독) 투자하고 있고, 실제로 업무뿐만이 아니라 일상의 다양한 케이스에서도 자연스럽게 활용하게 되었다. 최근에는 회사 임직원 건강검진에서 어떤 추가 검진을 받으면 좋을지 모르겠어서 걍 복붙해서 ChatGPT한테 추천해 달라고 했다. 일본 여행에 가서는 읽을 수 없는 니혼슈가 가득한 메뉴판을 사진으로 찍어서 ChatGPT한테 각 메뉴별 발음과 어떤 술인지 디테일하게 소개해 달라고 했다. 사실상 이제는 ‘특정’ 전문성이 있는 서비스가 필요한 것이 아니라 그냥 내가 잘 모르는 아무 분야든 ChatGPT가 알아서 검색하고 문맥을 찾고, 본인이 가지고 있는 pretrained knowledge와 잘 조합해서 최소한의 hallucination을 보장하는 답변을 해주는 광범위한 coverage를 가지는 LLM이 필요할 뿐이다.

물론 한계점도 명확하다. 니혼슈 메뉴판을 잘못 읽고 없는 술을 작성해 주기도 했다. 물론 이건 OCR과 같은 tool calling이라든지, visual context에 대한 오탐지는 LLM의 context engineering 차원에서 성능 해결이 되지 않는 문제니까 용인 가능하다.

아무튼 이렇게 자주 사용하는 AI를 활용해서 글을 써보고 싶었다. 나야 물론 예전부터 글을 쭉 작성해 왔지만, 과연 AI가 내가 쓰는 글의 문체를 제대로 이해하고, 내가 잘 모르는 분야에 대해서도 내가 썼던 문체와 흐름에 맞게 글을 작성해 줄 수 있느냐를 테스트해 보기로 했다.

결론부터 말하자면 그다지 맛있게 글을 써주지는 못한다는 것. 아무래도 ‘문체’ 자체는 in-context learning 식으로 얼추 따라오기는 하는데, 아무래도 내가 쓰는 글과는 다르게 애매한 유머를 넣는다든지, 글을 쓰기 위한 이런저런 레퍼런스를 찾아서 투머치로 달아놓는다든지 등등. 왜 이런 문제가 발생했을까?

사람으로 살아가면서 글을 쓰는 방식

사람(나)이었다면 레퍼런스를 참고해서 글을 쓰더라도, 해당 레퍼런스를 통해 공부를 해서 내재화를 하고, 내가 나름대로 이해한 방향으로 글을 작성할 것이다. 이는 LLM이 글을 쓰는 방식과는 조금의 차이가 있다. 우리는 새로운 지식이 있다면 이를 학습하고 작성한다. LLM이 컨텍스트를 가져가는 것은 학습하는 것이 아니다. 그저 잘 생성하는 능력에 문맥을 추가하는 일종의 오픈북이다. 우리가 전공책을 요약한다고 가정해 보자. 전공책을 잘 이해하지 않은 상태로 전공책을 펴서 특정 개념에 대해 설명하는 것은 골치 아플 것이다.

여기서 차이가 발생한다. 솔직히 말하자면 우리는 “AI”보다 똑똑하지 않다. 적어도 Pretrained Knowledge에 대해서는 말이다.

그렇기 때문에 우리는 잘 모르고 있는 개념에 대해서 설명하기 위해서는 그만큼 해당 내용에 대해 익숙해져야 하고, 심지어 아예 그 개념을 모르는 사람이 이해할 수 있을 정도로 친절하게 글을 작성하기 위해서는 온전히 그 개념을 이해해야만 한다. 하지만 AI(LLM)는 그렇지 않다. Pretrained Knowledge에는 상상 이상의 다양한 정보들이 담겨 있고, 그들은 충분히 파라미터에 내재화된 학습된 정보로부터 그럴듯한 문장을 완성할 수 있으며, 전공책을 추가 학습(Continual Learning)하지 않더라도 꽤나 완벽하게 모르는 정보를 요약해 낼 수 있다. 어쩌면 이건 사람이 이해하는 방식을 모방했다기보단, 주어진 정보를 활용하는 방식에 가깝다. 사람은 그렇게 못하니까.

어쩌면 이러한 텍스트를 만들어내는 방식 차이에서 사람다운 글과 AI 티가 많이 나는 글에 차이가 생기는 것 같다. 사람이라면 레퍼런스를 줄줄이 다는 식으로 글을 쓰지도 않을 테고(논문은 제외), 제대로 이해하지 못한 부분이 있다면 글을 쓰다가도 몇 번이나 갈아엎을 것이기 때문이다. 그렇게 갈아엎더라도 실수로 잘못 설명한다든지 용어나 정의를 헷갈린다든지 하는 당연한 실수를 할 것이다.

우리는 완벽하지 않기 때문에 실수에 대비할 준비를 하게 된다. 그러나 LLM은 실수에 대비할 준비를 하지 않는다. 아무리 그 어떤 추론 과정이나 Harness를 제공하더라도 에이전트는 결국 주어진 환경 내에서 최선의 답변을 확률 분포상에서 즉각적으로 내뱉는 기계일 뿐이다. AI는 추론 과정에서는 더 이상 학습하지 않는다.

앞으로도 AI로 글을 쓸 것인가?

AI로 글을 쓰는 것은 꽤나 도움이 되긴 했다. 내가 글을 쓸 때는 사실 바로 AI한테 글을 써달라는 식으로 부탁하지는 않고, 주제와 소재를 정한 뒤에 내가 가지고 있는 논제와 의견을 던진다. 그리고 그 논제에 대해서 비판적인 시각이든 아니든 어느 정도의 글 형태를 잡고서 이를 구체화하는 과정을 거친다. 드라마를 본격적으로 찍기 전에 스토리보드부터 시작하는 것과 같다.

AI가 글을 쓰면서 가장 아쉬웠던 것 중 하나는 바로 “그림”이다. 맛깔나는 글에 적절한 이미지와 캡션은 필수다. 그 이미지에는 저자가 가지고 있는 생각을 굉장히 스마트하게 표현할 수 있는 형태의 유머나 정보가 들어간다. 그리고 저자는 본인이 이해하는 방식을 그림에 녹여내기 때문에, 앞서 말했던 것처럼 LLM이 생성형 모델을 통해서 만드는 개념적인 도식화에 비해서 훨씬 친절하면서도 간결하다. 어쩌면 이런 이미지들을 잘 만들어내고 선별하는 것도 글을 쓰는 것 이상으로 중요한 작업이다. 그러나 에이전트는 아무리 이미지 생성 모델이 텍스트 렌더링을 잘하고 사실적인 이미지를 만든다고 하더라도, 근본적으로 개념을 새로 학습하는 형태로 글을 작성하지 않기 때문에 그렇게 만들어낸 이미지에는 “이해하려는 노력과 차별성”이 결코 들어 있을 수 없다. 아마도 평생 AI가 해결하지 못할 숙제로 남을 것이다.

대략의 형태를 가지는 그 어떤 작품이든 완벽에 가깝게 보이더라도 완벽하지 않은 무언가가 자리 잡고 있다. 사람이 만든 것에도 그러한 불완전은 있고, AI가 만든 것에도 그러한 불완전은 있다. 우리는 사람이 만들어낸 불완전에는 익숙하지만, AI가 만들어내는 불완전에는 익숙하지 않다. 이건 앞으로도 변하지 않을 것이다.

아 그래서 AI로 글을 쓸 거냐고? 그렇긴 하다. 하지만 사랑하지는 못할 것 같다.

마지막으로

AI를 가지고 활용을 가장 잘하는 사람은 AI가 가지는 한계를 명확하게 알면서도 그 AI가 할 수 있는 영역을 명확하게 알기에 이런저런 워크플로우에 즉시 활용하는 사람이다. AI가 난제인 수학 문제를 풀었느니 마느니 하는 어리석은 마케팅에 현혹되지 말고 그냥 써보고, 공부하고 준비하면 된다. 항상 디테일한 부분을 가르고 실패 요인을 가려내는 능력은 어느 아키텍처에서나 필요한 부분이다. 내가 그 실패 요인을 판별할 수 있는 사람이냐 아니냐는 내가 얼만큼 고민하고 본질을 이해하려고 노력했느냐 아니냐에 달려 있다. AI가 다 대체한다고? ㅈ까라 그래