AI 판별 모델은 사람처럼 손가락이나 글자를 보지 않고 픽셀의 통계와 주파수 특성을 봅니다. 원리를 알면 판별 결과를 오해하지 않습니다.
받은 사진을 판별기에 돌렸는데 "AI 생성 확률 78%"라는 결과가 나오면 보통 이렇게 반응합니다. "손가락도 다섯 개고 글자도 멀쩡한데 왜?" 이 질문이 나오는 이유는 간단합니다. 사람이 보는 단서와 모델이 보는 단서가 완전히 다르기 때문입니다. AI 이미지 판별 원리를 조금만 알면 이 확률 숫자를 훨씬 정확하게 읽을 수 있습니다.사람은 사진을 볼 때 의미 단위로 봅니다. 손가락 개수가 맞는지, 귀걸이가 양쪽 대칭인지, 배경 글자가 읽히는지를 확인합니다. 그래서 "이상한 손가락이 없으니 진짜 사진이다"라고 결론 내리기 쉽습니다. 하지만 최근 생성 모델들은 손가락 문제를 대부분 해결했습니다. 반대로 판별 모델이 "AI 생성"이라고 표시한 사진을 사람이 봤을 때 아무 문제를 못 찾는 경우도 흔합니다. 이 간극이 바로 오해의 시작점입니다.
처음에는 판별 결과를 사람이 이해하는 방식대로 설명하려고 했습니다. "이 부분이 흐릿해서", "그림자 방향이 어색해서" 같은 식으로요. 그런데 이 설명은 절반만 맞습니다. 실제로 모델이 확률을 높인 이유가 눈에 보이는 어색함과 전혀 무관한 경우가 많았기 때문입니다. 모델은 이미지를 의미 있는 대상(얼굴, 손, 글자)으로 나눠 보지 않습니다. 픽셀 값들이 어떤 통계적 패턴을 이루는지를 봅니다. 그래서 사람 눈에는 완벽해 보이는 사진에서도 판별 모델은 확률을 높게 매길 수 있고, 반대로 어색해 보이는 사진을 낮게 매길 수도 있습니다. 사람의 언어로 판별 근거를 100% 번역하려던 접근은 여기서 한계에 부딪혔습니다.
결국 판별 원리를 사람 눈의 단서가 아니라 모델이 실제로 처리하는 신호 기준으로 다시 정리했습니다. 핵심은 두 가지입니다.
즉 모델은 "손가락이 이상한가"를 보는 게 아니라 "이 픽셀 분포가 카메라 센서에서 나올 수 있는 값인가, 아니면 생성 알고리즘의 흔적인가"를 봅니다. 사람이 의미로 판단하는 지점과 모델이 통계로 판단하는 지점은 애초에 다른 층위에 있는 셈입니다.
하지만 이 주파수 흔적은 원본 그대로 있을 때만 뚜렷합니다. 사진을 재압축하거나 크기를 줄이면(리사이즈) 이 흔적이 흐려집니다. 메신저로 전송된 사진, SNS에 올라갔다가 다운로드한 사진은 대부분 한 번 이상 재압축을 거치기 때문에 원본보다 판별이 더 어려워집니다. 판별 결과가 애매하게 나온다면 사진 자체의 문제라기보다 전송 경로에서 흔적이 흐려졌을 가능성부터 의심해야 합니다.
사람이 보는 단서와 모델이 보는 단서를 정리하면 아래와 같습니다.
| 구분 | 사람의 판단 기준 | 모델의 판단 기준 |
|---|---|---|
| 보는 대상 | 손가락, 글자, 그림자 같은 의미 단위 | 픽셀 값의 통계 분포 |
| 단서의 형태 | 눈에 보이는 어색함 | 눈에 안 보이는 주파수 흔적 |
| 재압축의 영향 | 화질 저하로 보이지만 판단은 유지 | 흔적이 흐려져 판별 정확도 하락 |
| 결과의 성격 | 있다/없다 식 단정 | 확률값 |
이 표를 이해하고 나면 "손가락은 멀쩡한데 확률이 높게 나왔다"는 결과가 더 이상 모순으로 느껴지지 않습니다. 모델은 애초에 손가락을 보고 있지 않았기 때문입니다.
이 방식에는 구조적인 한계가 있습니다. 새로운 생성 모델이 나오면 그 모델이 남기는 주파수 특성도 이전과 달라집니다. 기존 판별 모델은 과거에 나온 생성 모델들의 흔적을 학습해서 만든 것이기 때문에, 최신 생성 모델이 등장하면 판별 성능이 떨어지는 시기가 생깁니다. 판별 모델을 업데이트해서 따라잡아야 하는데, 이 과정은 생성 모델이 새로 나오는 속도를 항상 따라가지 못합니다. 또한 재압축·캡처·필터 적용이 여러 번 겹친 사진은 원본이 실제 사진이든 생성 사진이든 판별이 더 어려워집니다. 그리고 결과는 언제나 확률이라는 점도 남는 한계입니다. 하나의 점수만으로 관계나 신뢰 여부를 단정하는 것은 위험합니다.
AI 이미지 판별은 사람이 보는 방식과 다른 층위에서 작동합니다. 눈에 보이는 어색함이 아니라 픽셀 통계와 주파수 흔적을 보고, 그 흔적은 압축과 리사이즈로 흐려지며, 새로운 생성 모델이 나올 때마다 다시 조정이 필요합니다. 판별 결과를 볼 때는 이 점을 감안해서 확률로 읽는 태도가 필요합니다.
긁?에서는 사진 한 장을 올리면 위에서 설명한 픽셀 통계와 주파수 특성을 기준으로 AI 생성 가능성을 점수로 보여주는 AI 생성 판별 기능을 제공합니다. 얼굴이 다른 사진에서 가져와 합성됐는지를 따로 확인하고 싶다면 딥페이크 확인 기능으로 같은 사진을 다시 볼 수 있습니다. 두 기능 모두 결과는 확률값으로 나오며, 이 글에서 설명한 한계—재압축의 영향, 신규 생성 모델에 대한 취약성—를 그대로 가지고 있습니다.
긁? 일반 사용자를 위한 서비스 — 자세히 보기