AI 검사기는 어떻게 작동할까?

전체 개요

AI 검사기는 의미를 ‘이해’하지 않습니다. 단어의 통계적 패턴을 측정해 기계 생성 확률을 추정합니다. 핵심 아이디어는 두 가지 — perplexity와 burstiness — 이고, 여기에 학습된 분류기가 더해지기도 합니다.

Perplexity (예측 가능성) — 쉽게

다음 단어가 얼마나 예측 가능한지입니다. 언어모델은 확률 높은 ‘안전한’ 단어를 고르는 경향이 있어, 출력의 perplexity가 낮습니다. 사람 글은 의외의 단어 선택이 많아 보통 더 높습니다.

감을 잡기 위한 예시입니다. “오늘 점심으로 김치찌개를 ___” 다음에 ‘먹었다’가 오면 아주 예측 가능한 문장입니다. 그런데 “오늘 점심으로 김치찌개를 포기했다 — 줄이 40분이었다”처럼 이어지면 예측이 깨집니다. 언어모델은 본질적으로 ‘다음 단어 맞히기 기계’라서 앞쪽 같은 무난한 선택을 반복하고, 사람은 뒤쪽 같은 돌발적 전개를 훨씬 자주 만듭니다. 탐지기는 글 전체에서 이 ‘놀라움의 총량’을 측정합니다.

Burstiness (변동성) — 쉽게

문장 길이와 복잡도의 변화 폭입니다. 사람은 긴 문장 뒤에 짧은 문장을 두는 등 들쭉날쭉하지만, AI는 더 균일한 경향이 있습니다. 낮은 burstiness 역시 ‘AI 쪽’으로 점수를 밀어냅니다.

글을 심전도 그래프라고 생각하면 쉽습니다. 사람 글의 그래프는 봉우리와 골짜기가 불규칙하게 출렁입니다 — 두 어절짜리 단문이 나왔다가, 세 개의 절이 이어진 만연체가 나오는 식으로요. AI 글의 그래프는 잔잔한 파도처럼 일정합니다. 한 문장씩 보면 티가 안 나도, 문단 전체를 놓고 리듬을 재면 차이가 드러납니다. 이것이 탐지기가 짧은 글에서 부정확해지는 이유이기도 합니다 — 리듬을 잴 표본 자체가 부족하니까요.

분류기 방식

최신 탐지기는 사람·AI 글 대량 표본으로 분류기를 학습시켜, 공식 하나로 표현하기 어려운 미세한 ‘지문’까지 잡습니다. perplexity·burstiness 같은 명시적 지표에 더해, ‘AI가 유독 좋아하는 연결어’, ‘문단을 여는 전형적 패턴’ 같은 신호를 데이터에서 스스로 찾아내는 방식입니다.

대신 약점도 물려받습니다. 학습 표본에 없던 새 모델의 문체, 소수 언어, 비원어민의 글에서는 판단 근거가 얇아져 오류가 늘어납니다. 분류기가 ‘본 적 없는 것’을 만나면 가장 비슷한 기억에 끼워 맞추는데, 그 결과가 오탐입니다.

워터마크 방식은 왜 안 쓰이나

이론상 가장 깔끔한 방법은 AI가 글을 생성할 때 보이지 않는 통계적 서명(워터마크)을 심고, 탐지기가 그 서명을 확인하는 것입니다. 실제로 주요 AI 회사들이 연구해 온 방식이지만, 현실 적용은 지지부진합니다. 문장을 조금만 고쳐 써도 서명이 흐려지고, 모든 AI 업체가 같은 방식을 채택해야 실효가 있는데 강제할 방법이 없기 때문입니다.

그래서 현재 시중의 AI 탐지는 사실상 전부 ‘통계 추정’ 방식이고, 이 글에서 설명한 한계를 공유합니다.

왜 100% 정확할 수 없나

사람 글과 AI 글은 통계적으로 겹칩니다. 겹치는 한 어떤 기준선도 둘을 깔끔히 가르지 못하고, 오탐(억울한 사람)과 미탐(놓친 AI)을 맞바꿀 뿐입니다. 기준선을 엄격하게 잡으면 억울한 사람이 늘고, 느슨하게 잡으면 AI 글이 더 많이 통과합니다. 어느 쪽이든 ‘0’은 불가능합니다.

게다가 최신 모델일수록 사람 글의 변동성을 더 잘 흉내 내면서 겹치는 영역이 계속 넓어지고 있습니다. 그래서 ‘100% 정확한 AI 탐지’는 존재하지 않고, 앞으로도 어렵습니다. 이 한계를 염두에 두고 직접 검사해보세요 — 점수보다 문장별 하이라이트를 보는 것이 올바른 사용법입니다.