AI가 쓴 글의 사실 확인: 출처를 받고 원문과 대조하는 순서

요지

AI가 쓴 초안은 문장이 매끄럽다. 그래서 틀린 내용이 섞여 있어도 눈에 잘 띄지 않는다. 틀린 숫자 하나가 보고서나 제안서에 실려 나가면 나머지 내용까지 의심받을 수 있다. 초안 전체를 처음부터 끝까지 의심하며 읽을 수는 없으니 순서가 필요하다. 이 글은 무엇부터 골라 확인할지, 원문과 어떻게 대조할지, 확인하지 못한 것은 어떻게 할지를 정리한다.

그럴듯한 틀린 내용이 나오는 이유

생성형 AI가 내놓는 문장은 어디선가 찾아 옮긴 사실이 아니라 그 자리에서 새로 만들어 낸 말이다. 맞는 글도 나오고 틀린 글도 나온다. 둘이 같은 방식으로 만들어진다는 점이 문제다. 미국 국립표준기술연구소(NIST)가 2024년에 낸 생성형 AI 위험 관리 문서는 틀린 내용을 확신 있게 내놓는 현상을 confabulation이라고 부른다. 흔히 환각이라고 하며, 이 글에서도 환각이라고 쓴다. 이 문서는 환각을 생성형 AI의 설계에서 따라 나오는 결과로 본다. 어쩌다 생기는 고장처럼 다룰 일이 아니라는 뜻으로 읽을 수 있다.

조심할 점이 둘 있다. 하나는 말투다. 틀린 내용도 확신에 찬 말투로 적힌다. 읽는 사람은 말투만 보고 믿기 쉽다. 다른 하나는 근거다. 답에 붙은 논리나 인용도 지어낸 것일 수 있다고 같은 문서는 지적한다. 출처가 붙어 있다는 것만으로는 확인이 끝난 것이 아니다.

그러니 AI가 쓴 글의 사실 확인은 AI를 못 믿어서 하는 일이 아니다. 만들어진 방식이 그렇기 때문에 일의 한 단계로 넣는 것이다.

먼저 확인할 것 다섯 가지

모든 문장을 확인할 수는 없다. 틀리면 바로 드러나고 피해가 큰 것부터 고른다.

숫자. 금액, 비율, 건수, 기간. 단위와 분모까지 본다.
이름. 사람, 기관, 제품, 법과 기준, 문서의 이름. 비슷하지만 다른 이름으로 바뀌어 있을 수 있다.
날짜. 시행일, 발표일, 기한. 연도 하나가 달라도 문장 전체가 틀린다.
인용. 누가 무엇이라고 말했다는 문장. 그 사람이 그 말을 했는지, 그 뜻으로 했는지 본다.
출처 자체. 적힌 보고서, 논문, 조항이 실제로 있는지. 있는 자료라도 그 내용이 거기 실려 있는지.

초안을 받으면 이 다섯 가지에 밑줄을 긋는 것으로 시작한다. 밑줄 친 것이 확인할 목록이다.

대조하는 순서

출처를 받는다. 밑줄 친 주장마다 어디서 나온 것인지 AI에게 묻는다. 자료 이름만이 아니라 쪽이나 절처럼 찾아갈 수 있는 위치까지 받는다. 자료에 없으면 없다고 답하게 한다.
원문을 연다. AI가 옮겨 준 대목을 읽는 것은 원문을 여는 것이 아니다. 파일이든 웹사이트든 원문 그 자체를 직접 연다.
해당 대목을 찾는다. 받은 위치로 간다. 그 위치에 없으면 단어로 찾아본다. 그래도 없으면 「확인 못 함」이다.
대조한다. 숫자는 자릿수와 단위, 분모까지, 이름은 글자 그대로, 날짜는 연월일까지 본다. 원문의 앞뒤 문장을 읽어 조건이 붙어 있지 않은지도 본다.
결과를 적는다. 맞음, 다름, 확인 못 함 가운데 하나로 적는다. 다르면 원문대로 고친다.

확인표 서식

표는 가로로 밀어서 볼 수 있습니다.

칸	적는 내용
주장	초안의 문장 그대로
출처	AI가 댄 자료와 위치
원문에서 찾은 곳	직접 열어 찾은 위치와 원문의 버전이나 날짜. 열었는데 못 찾았으면 「찾지 못함」이라고 적는다
결과	맞음, 다름, 확인 못 함
한 일	그대로 둠, 고침, 뺌, 「확인 못 함」이라고 밝힘

「원문에서 찾은 곳」 칸이 따로 있는 데는 이유가 있다. AI가 댄 위치와 실제 위치가 다를 수 있고, 이 칸이 비어 있으면 원문을 아직 열지 않았다는 것이 표에 드러난다.

예: 보고서 초안에서 세 줄 확인하기

가상의 물류 회사 한 곳을 예로 든다. 이 회사는 창고 분류 작업을 자동화할지 검토하고 있다. 검토를 맡은 관리자가 AI에게 사내 자료와 공급사 제안서를 주고 검토 보고서 초안을 받았다. 초안에서 세 줄에 밑줄을 그었다.

표는 가로로 밀어서 볼 수 있습니다.

주장	출처	원문에서 찾은 곳	결과	한 일
지난해 오배송은 412건이었다	사내 품질 월보 12월호	12월호 요약표	다름	412건은 상반기 수치였다. 연간 수치로 고침
업계 조사에 따르면 자동 분류기를 들인 창고의 60%가 2년 안에 투자비를 회수했다	어느 협회의 조사라고 이름을 댐	찾지 못함	확인 못 함	뺌
공급사가 낸 조건은 2026년 12월 31일까지 유효하다	제안서 1쪽	제안서 1쪽 아래	맞음	그대로 둠

첫 줄은 숫자는 원문에 있었지만 기간이 달랐다. 숫자만 찾고 표의 머리글을 읽지 않았다면 맞다고 적었을 것이다. 둘째 줄은 AI가 조사 이름을 댔지만 준 자료 어디에도 없었고 따로 찾아도 나오지 않았다. 이름이 그럴듯하다는 것은 근거가 아니다. 관리자는 이 문장을 뺐다. 투자비 회수를 말하려면 자기 회사 숫자로 다시 계산해 넣으면 된다. 셋째 줄은 제안서의 날짜와 연월일이 같아 그대로 두었다.

조심할 곳

옮겨 적은 자료만 보고 맞다고 하지 않는다. AI에게 「이 숫자 맞아?」라고 다시 묻는 것은 확인이 아니다. AI가 보여 준 원문 대목도 옮겨 적은 것이다. 원문을 직접 연다.
버전과 날짜를 본다. 기준이나 표준은 버전에 따라 내용이 다를 수 있고, 통계는 해마다 새로 나온다. 대조한 원문이 어느 버전인지, 언제 것인지를 「원문에서 찾은 곳」 칸에 함께 적는다.
요약의 요약을 원문으로 치지 않는다. 원문을 소개한 기사나 블로그는 원문이 아니다. 거기서 본 숫자는 원문까지 거슬러 올라가 확인한다.
확인 못 한 것은 빼거나 그렇게 적는다. 빼도 글의 뜻이 통하면 뺀다. 꼭 있어야 하는 내용이면 「확인 못 함」이라고 본문에 밝힌다. 확인한 것처럼 두는 것만은 하지 않는다.
「맞음」의 범위를 넓히지 않는다. 세 줄을 확인했다면 세 줄이 맞는 것이다. 초안 전체가 맞는 것이 아니다. 무엇을 확인했는지를 함께 남긴다.

확인 목록

숫자, 이름, 날짜, 인용, 출처에 밑줄을 그었는가
주장마다 찾아갈 수 있는 위치까지 출처를 받았는가
원문 그 자체를 직접 열었는가
숫자의 단위와 분모, 기간을 봤는가
앞뒤 문장에 붙은 조건을 읽었는가
원문의 버전과 날짜를 적었는가
결과를 맞음, 다름, 확인 못 함으로 적었는가
확인 못 한 것을 빼거나 그렇게 밝혔는가
확인한 범위를 함께 남겼는가

참고

NIST, 「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」, NIST AI 600-1, 2024년 7월, 주소 https://doi.org/10.6028/NIST.AI.600-1 (2026-10-12 열람). 2.2 Confabulation에서 이 현상(이 글의 환각)의 뜻, 생기는 이유, 확신에 찬 말투와 지어낸 논리와 인용의 위험을 따랐다. 권고 조치 MS-2.5-003은 시스템을 내놓기 전과 운영하는 동안 출처와 인용을 확인하라는 조치인데, 그 생각을 초안 확인에 옮겼다. 원문의 뜻을 풀어 옮겼고 그대로 인용한 문장은 없다. 「말투만 보고 믿기 쉽다」는 것을 넘어선 설명은 이 글의 것이다.
먼저 확인할 것 다섯 가지, 대조하는 순서, 확인표 서식, 조심할 곳, 확인 목록은 이 글에서 새로 정리했다. 예시 회사, 보고서의 문장과 숫자는 모두 가상의 것이다.