-----BEGIN PGP SIGNED MESSAGE-----
Hash: SHA256

2년 전쯤에 ‘AI 부업’이 반짝 유행한 시기가 있었다. 티스토리 블로그 같은 걸 무더기로 개설하고는, 각자 컨셉을 하나씩 잡아서 GPT한테 글을 쓰게 시키고 트래픽이 나오면 애드센스 광고를 넣어서 돈을 번다는 개념이었다. 당시 나는 ‘저런 걸로도 돈을 버는구나’ 하고 신기해했었다.

경제학의 굳건한 법칙에 따라, 명목상 가치와 실제 가치의 괴리가 생기는 순간 그걸로 돈을 벌려는 사람들은 생긴다. 전에는 직접 글을 쓰는 사람들이 광고료를 받아가는 식으로 균형이 형성되었다면, ChatGPT의 등장은 글을 쓰는 비용을 낮춰버리면서 그걸 깨버린 거다. 손쉽게 만들어낸 수백 개의 게시글과 자동화한 태깅 시스템으로 SEO를 씹어먹어버린 그런 블로그들은 검색결과 최상단으로 올라왔고, 경제적으로 꽤 잘나가는 사람들도 보이는 것 같았다.

하지만 경제학 법칙은 배신하지 않았다. 차익을 이용하려는 세력이 생기면 가치의 괴리는 해소되는 법이다. 얼마 안 있어 블로그 수익화 시장도 레드오션이 되어 버렸다. 처음엔 배너 광고 몇 개에 머무르던 사이트들이 요즘은 온갖 팝업에 앵커 광고에 난리들이다. 눈살을 찌푸리게 하는 광고가 많아질수록 검색 결과에서 블로그를 찾는 빈도는 줄어든다. 이젠 검색하는 사람들도 그 광고의 지옥에 직접 들어가기보다, 대신할 에이전트를 보낸다. 접속자는 줄고, 봇의 비율은 늘고, 광고 수익은 바닥을 긴다. 그렇게 ‘블로그 자동화’의 유행은 끝났다.

이 이야기가 단지 유행을 좇아 ‘빨리 부자 되기’를 추구한 사람들의 실패담으로 끝났다면 별 문제가 되지 않았을 거다. 하지만 이 현상은 (내가 보기에는) 인터넷의 미래를 정말 크게 바꾸어버린 사건이 되었다. 바로 이 사람들이 인터넷을 죽여버린 것이다.

## 레몬이 복숭아를 밀어내다

2010년대를 기억하는가. 사람들이 인터넷 검색을 하면 위에서부터 사이트를 하나씩 눌러서 들어가서 읽은 다음에 정보를 종합하던 시절이 있었다. 이렇게 써 놓고 보면 무지하게 비효율적일 것 같지만, 별로 그렇지는 않았다. 상당히 큰 이유는, 그 정보의 질을 대체로 한눈에 가늠할 수 있었기 때문이다. “사이트가 깔끔한가? 통과. 저자 프로필은? 믿을 만해 보이네. 이미지들은? 퍼온 건 아니군.” 이런 식으로 말이다. 하지만 요즘 시대에 그런 휴리스틱이 통할 리가 없다.

이제는 AI가 그럴싸한 웹사이트를 10분이면 만들어 주는데, 구질구질한 사이트가 대체 어디 있겠는가. 저자 프로필과 커버 이미지, 이런 것들도 이미지 생성기로 뚝딱 만들 수 있다. 심지어 얼마 전에는 AI로 만들어낸 [가짜 언론사들이](https://cybelangel.com/blog/ai-generated-fake-news-sites/) 논란이 되었을 정도이다.

게다가, 어떤 글이 AI의 산출물인지 판단하는 것은 상당한 시간과 노력을 요하는 일이다. 다들 느껴보지 않았는가. 글 중간쯤 왔는데 느껴지는 어딘가 이상한 느낌. 말투가 왠지 어색하고, 분명 문장 자체가 이상한 건 아닌데 읽다 보면 GPT의 향기를 부인할 수 없다. 이미 여기까지 왔으면 그 글을 읽는 데 들인 시간은 날려버린 셈이다. 내가 읽고 있는 사이트가 진짜 사람이 생각해서 쓴 건지, 프롬프트 한 줄에 ‘딸깍’ 생성된 텍스트인지 구별하기가 이렇게 어려운데, 대체 누가 그 리스크를 감수하고 글을 읽겠느냔 말이다.

전형적인 [레몬 시장](https://en.wikipedia.org/wiki/The_Market_for_Lemons)이 생겨난 것이다. 글을 쓴 사람이야 자기 글이 공들여 쓴 것인지 ‘딸깍’한 것인지 알지만, 독자는 실제로 글을 읽기 전에는 이것을 알기 어렵다. 과거에는 글의 품질을 전하는 신호 체계가 여럿 작동하고 있었다면, AI가 이것들을 무력화해버린 셈이다. 극한의 정보 비대칭 상황에서, 복숭아는 레몬을 이길 수 없다. 좋은 글을 쓰는 사람들의 노력은 평가 절하되고, 그들은 이제 더 이상 글을 쓸 유인이 없어진다.

## 양성 피드백 고리의 완성

> garbage in, garbage out.

이것은 AI 파워 유저들에게도 부메랑이 되어 돌아온다. 최근 들어 해본 적 없는가? LLM들이 적어 놓은 출처를 눌렀는데 또 다른 AI가 써놓은 인터넷 글로 연결되는 경험 말이다.

학습 데이터를 자주 업데이트하기 어려운 특성상 LLM은 최신 정보를 얻어오기 위해 [RAG](https://en.wikipedia.org/wiki/Retrieval-augmented_generation)라는 기법을 활용한다. 구글 검색을 하는 것과 비슷하다. 인터넷에서 가져온 최신 글들을 이용해 시의성 있는 답변을 제공하겠다는 것이다.

RAG를 만든 취지는 인터넷의 좋은 글들을 답변에 잘 활용할 수 있게 하자는 것이었다. 하지만 이제는 인터넷의 글들을 누가 쓰는가? LLM의 결과물을 또다시 학습 데이터로 쓴다는 발상은 [대체로 안 좋은 생각이라고](https://arxiv.org/abs/2307.01850) 알려져 있다. 학습은 아니지만, 인터넷의 슬롭 글들을 참조하는 RAG 시스템도 비슷하게 문제를 일으킬 여지가 크다. 환각과 같은 문제가 대표적이다. 개별 LLM 모델의 환각은 최근 들어 상당히 줄어드는 추세이지만, RAG는 이 문제를 다른 차원으로 끌어올린다. 이전 모델이 만들어낸 환각을 포함한 데이터가 인터넷 글로서 RAG의 참조자료로 활용되면, 잘못된 정보가 확대 재생산되기 쉬워진다는 것이다. Kurzgesagt도 [AI Slop의 문제를 다룬 영상](https://www.youtube.com/watch?v=_zfN9wnPvU0)에서 LLM 환각으로 인한 거짓 정보의 확산을 과학에의 큰 위협으로 꼽았다.

## 그럼 어떡하나?

늘 그렇듯, 내가 떠올리고는 괜찮은 아이디어라고, 한 편의 글을 쓸 만하다고 생각한 주제를 찾아보면 이미 전 세계의 연구자들이 각종 학술지에 투고한 논문이 수두룩하다. 그럼 해결책도 제시했겠지. 아래는 네이버랩 연구진들이 ACM2026에서 발표한 논문 [*Retrieval Collapses When AI Pollutes the Web*](https://arxiv.org/abs/2602.16136) 의 결론 문단에서 가져온 것이다.

> (…) as Agentic AI begins to autonomously publish content, defense mechanisms must evolve from static text analysis to behavioral fingerprinting, identifying and isolating agents that systematically produce high-entropy, low-factuality streams.

검색 시스템을 바꿔야 한다는 말이다. 타당한 주장이다. 지금 생기는 문제는, AI 슬롭 결과물들이 검색결과 상단까지 올라올 수 있게 만든 기존의 검색 순위 결정 알고리즘의 한계라고 할 수 있으니 말이다. 어떤 글이 사람이 잘 쓴 글인지, 콘텐츠팜에서 양산한 저품질의 딸깍 글인지의 여부는 사용자가 판단할 일이 아니라 검색엔진이 알아서 걸러야 할 문제인 것이다.

얼마 전, Anthropic에서 [클로드 챗봇에 워터마크 기능을 넣겠다고 발표한 것](https://www.anthropic.com/news/claude-text-watermark)도 이와 무관하지 않다. ‘AI 카피킬러’같은 불안정한 기법에만 의존하지 않고, 글 생성 과정에서부터 개입해서 AI가 생성한 텍스트를 추적 가능하게 만들겠다는 의도다. 물론 그 자체로 완벽한 해결책이 되지는 않겠지만, AI 사용 여부를 파악 가능하게 만들어야 한다는 의식을 보여준다고 생각한다.

- ---

LLM이 처음 나왔을 때의 맹목적 낙관주의가 가시고 난 뒤, 우리는 이제 인공지능이 인류의 지식 체계에 가하는 위협을 맞닥뜨리고 있다. 하지만 AI가 사라지는 일은 없을 거다. 그 잠재력이 엄청난 기술임에 분명하고, 또 당면한 문제 해결에 매우 효율적인 수단이 될 수 있기 때문이다. 그럼에도 AI 슬롭의 문제를 해결하고 인터넷을 다시 ‘인류 지식의 보고’로 재생시키는 것은 인간이 맡아야 할 과제가 될 것이다.
-----BEGIN PGP SIGNATURE-----

iKYEARYIAE4WIQQmP48mzPgsad1+4+LxH/R5ARn9kAUCapAR7xsUgAAAAAAEAA5t
YW51MiwyLjUrMS4xMiwwLDMUHGhlbGxvQGJhbWJhbmdhbi5uZXQACgkQ8R/0eQEZ
/ZAW8AEA6CoH7TZmpsRDziI2XEDtQWugn39+NY9xcALYaJJUl0sA/0PWqP+8Fp0Q
XnhDP7AZVoOy96GY4ngShlaDRjSbPlsN
=xzS5
-----END PGP SIGNATURE-----