AI 답변 오류를 잡는 7단계 검증 체크리스트

AI 답변은 틀렸을 때도 문장이 자연스럽습니다. NIST는 생성형 AI가 자신 있게 잘못된 내용을 제시하는 현상을 위험 요인 중 하나로 다룹니다. 따라서 “다시 확인해줘”라고 같은 모델에 묻는 것만으로 검증을 끝내면 안 됩니다.

“다시 확인해줘”가 검증이 아닌 이유

같은 답변을 같은 AI에게 다시 물으면 문장은 더 단정해질 수 있지만 근거가 생기지는 않는다. 검증 가능한 주장을 한 줄씩 떼고, 원자료·공식 출처로 돌아가며 숫자를 다시 계산한다. 확인하지 못한 부분은 자연스럽게 메우지 않고 확인 필요로 남긴다.

먼저 오류 영향을 분류합니다

영향	예시	검증 수준
낮음	내부 아이디어 제목, 형식 제안	담당자 빠른 검수
중간	외부 이메일, 보고서 설명, 제품 기능 요약	원자료 대조와 동료 검토
높음	가격·계약·개인정보·인사·법·안전 판단	공식 원문과 책임자·전문가 승인

문장이 그럴듯한지보다 틀렸을 때 누가 어떤 피해를 받는지 먼저 봅니다. 높은 위험의 답은 AI를 사용하지 않는 것이 아니라, AI 역할을 주장 추출과 검토 목록 작성으로 제한합니다.

1. 주장과 의견을 분리합니다

날짜, 수치, 규정, 제품 기능처럼 참·거짓을 확인할 수 있는 문장에 표시합니다. “효과적이다” 같은 평가는 기준과 근거가 무엇인지 묻습니다.

2. 원자료가 있는 문장은 원자료로 돌아갑니다

요약이 맞는지 요약문끼리 비교하지 않습니다. 회의록이면 녹취, 보고서면 원표, 정책이면 공식 원문을 확인합니다.

3. 고유명사와 링크를 직접 엽니다

기관명, 사람 이름, 보고서 제목, 논문과 URL은 존재 여부를 확인합니다. 제목이 비슷한 다른 문서를 근거로 붙이는 오류가 흔합니다.

4. 숫자와 단위를 다시 계산합니다

합계, 평균, 증감률, 백분율 포인트와 통화 단위를 별도 계산기로 재현합니다. 분모와 기간이 같은지도 확인합니다.

5. 날짜와 적용 범위를 확인합니다

과거 정책이나 다른 국가의 조건을 현재 한국 기준처럼 설명하지 않았는지 봅니다. 가격과 기능은 확인일을 기록합니다.

6. 반례를 찾습니다

“이 결론이 틀릴 수 있는 조건 세 가지를 제시해”라고 요청한 뒤, 실제 업무 조건에 해당하는지 사람이 판단합니다. 반례 요청은 정답 판정이 아니라 검토 범위를 넓히는 도구입니다.

7. 최종 독자의 위험을 점검합니다

틀린 내용을 사용했을 때 금전, 법적 책임, 개인정보, 평판에 영향이 큰가요? 위험이 크면 해당 분야 담당자나 전문가의 검토를 받습니다.

합성 예제

AI가 “새 요금제는 모든 계정에 즉시 적용된다”고 요약했다고 가정합니다. 실제 공지에서 적용 국가, 기존 고객의 전환일과 예외 조항을 각각 확인하고, 공지에 없는 범위는 확인 필요로 남깁니다.

짧은 공지 하나도 네 문장으로 갈라진다

합성 공지가 다음과 같다고 하자. “9월 15일부터 한국의 신규 개인 계정에 새 요금제를 제공한다. 기존 고객의 전환 일정은 추후 안내한다.” AI가 이를 “9월 15일부터 모든 한국 계정에 적용된다”고 쓰면 날짜는 맞지만 대상과 적용 방식이 틀렸다.

AI 초안의 조각	원문 대조	판정	고친 문장
9월 15일부터	원문에 있음	확인	유지
한국 계정에	원문은 한국의 신규 개인 계정	범위 누락	한국의 신규 개인 계정에
모든 계정에	원문과 충돌	오류	삭제
적용된다	제공 시작인지 자동 전환인지 불명확	확인 필요	제공을 시작한다
기존 고객도 같은 날 전환	일정은 추후 안내	근거 없음	기존 고객 일정은 미정

검증은 문장 전체에 맞음·틀림 도장을 찍는 일이 아니다. 날짜는 맞고 대상은 틀릴 수 있다. 그래서 주장 대장을 만들 때 한 행에 여러 주장을 욱여넣지 않는다.

검증 완료의 기준

모든 문장이 확실해지는 것이 아니라, 불확실한 부분이 표시되고 책임자가 알 수 있는 상태가 검증 완료에 가깝습니다. 중요도가 낮은 표현과 반드시 맞아야 하는 수치를 같은 강도로 검토하지 마세요.

주장 대장으로 검증 흔적을 남깁니다

ID	AI 초안의 주장	주장 유형	확인할 원자료	상태	오류 영향
C-01	새 가격은 모든 고객에게 적용	가격·범위	공식 가격 공지와 약관	확인 필요	높음
C-02	합계가 전월 대비 12% 증가	계산	원표와 계산식	재계산 완료	중간
C-03	고객은 편의성을 선호	해석	조사 원문·반대 응답	가설	중간

주장 유형을 사실, 계산, 인용, 해석, 권고로 나누면 같은 방식으로 검증하는 실수를 줄일 수 있습니다.

교차 확인의 올바른 순서

1. AI 초안에서 검증 가능한 문장을 추출합니다.
2. AI가 제시한 요약 페이지가 아니라 공식 원문을 엽니다.
3. 발행일, 적용 국가·대상·예외를 확인합니다.
4. 숫자는 원표의 분자·분모·단위로 다시 계산합니다.
5. 결론과 반대되는 자료를 최소 하나 찾습니다.
6. 여전히 모르는 부분은 범위를 줄이거나 확인 필요로 남깁니다.

두 AI가 같은 답을 했다는 사실은 독립된 근거가 아닙니다. 같은 웹자료나 유사한 학습 패턴을 참고했을 수 있으므로 원자료 대조가 필요합니다.

자주 묻는 질문

출처 링크가 있으면 사실인가요?

아닙니다. 링크가 존재하는지, 실제 주장과 같은 내용을 말하는지, 적용 날짜와 범위가 맞는지 직접 확인합니다.

숫자는 계산기로 다시 계산하면 충분한가요?

계산 결과뿐 아니라 분자·분모·기간·단위가 같은지 봅니다. 정확한 계산도 잘못된 열과 기준을 쓰면 틀린 결론이 됩니다.

최신 정보는 어떻게 확인하나요?

공식 제품·정책 페이지의 갱신일과 현재 화면을 확인하고 글에 검증일을 남깁니다. 가격·기능·규정은 정기 업데이트 대상으로 관리합니다.

공식 출처

• NIST: Artificial Intelligence Risk Management Framework—Generative AI Profile
• Google Search: Creating helpful, reliable, people-first content