회사 정보를 AI에 넣기 전 확인할 보안 체크리스트

AI 서비스에 입력한 문장은 단순한 메모가 아니라 외부 서비스로 전송되는 데이터일 수 있습니다. “이름만 지우면 안전하다”는 기준으로는 부족합니다. 여러 정보를 조합했을 때 개인이나 회사를 다시 알아볼 수 있는지도 확인해야 합니다.

이름만 지우고 안심하면 놓치는 것

자료를 넣기 전 개인정보, 회사 기밀, 접근정보, 공개 자료, 판단 보류로 나눈다. 이름이 없어도 정확한 날짜·직무·지역·희귀 사건이 겹치면 같은 팀 사람은 누군지 짐작할 수 있다. 필요한 열만 남기고 첫 시험은 합성값으로 진행하는 이유가 여기에 있다.

자료 위험도를 네 단계로 나눕니다

자료 한 건에 여러 단계가 섞이면 가장 높은 위험 기준을 적용합니다. 서비스마다 보관·학습·관리자 통제 조건이 다르므로 유료니까 안전하다고 가정하지 않습니다.

입력 전 5가지 질문

1. 개인을 알아볼 수 있는 정보가 있는가?

이름, 전화번호, 이메일뿐 아니라 사번, 상세 직무, 희귀한 사건, 정확한 날짜의 조합도 식별 가능성을 높입니다. 고객 문의, 면접 기록, 인사 자료는 특히 주의합니다.

2. 공개되지 않은 회사 정보인가?

미공개 매출, 가격 정책, 계약서, 소스코드, 캠페인 성과, 출시 일정과 내부 전략은 회사 기밀일 수 있습니다. 공개 자료인지 확신할 수 없다면 입력하지 않는 쪽을 선택합니다.

3. 계정이나 시스템에 접근할 수 있는 정보인가?

비밀번호, API 키, 인증 토큰, 내부 URL, 데이터베이스 접속정보는 일부만 포함되어도 입력하지 않습니다. 화면 캡처의 주소창과 브라우저 확장 영역도 확인합니다.

4. 서비스의 데이터 사용 설정을 확인했는가?

대화가 모델 개선에 사용되는지, 보관기간과 삭제 방법은 무엇인지, 조직 관리자가 통제할 수 있는지 확인합니다. 회사가 승인한 조직용 계정이 있다면 개인 계정 대신 사용합니다.

5. 더 적은 정보로 같은 목적을 달성할 수 있는가?

원문 전체 대신 구조, 범주, 가상 수치만으로 먼저 테스트합니다. 꼭 필요한 열만 남기고 나머지는 삭제합니다.

안전한 합성 예제로 바꾸는 순서

1. 이름과 직접 식별자를 제거합니다.
2. 날짜, 지역, 직무처럼 결합 가능한 값을 범주로 바꿉니다.
3. 금액과 수치는 비율 또는 가상 값으로 대체합니다.
4. 회사명과 상품명을 일반적인 표현으로 바꿉니다.
5. 바꾼 자료만으로도 원래 목적을 달성할 수 있는지 확인합니다.

입력하면 안 되는 신호

• “이 채팅에만 쓰니까 괜찮겠지”라고 추측한다.
• 회사의 AI 사용 정책을 찾지 않았다.
• 자료 소유자의 동의를 확인하지 않았다.
• 삭제할 수 있는지 모르는데 전체 파일을 업로드한다.
• 결과를 다시 원자료와 연결해 개인을 평가한다.

실패 사례

이름만 지우고 정확한 날짜, 지점, 고액 주문과 희귀한 사건을 남기면 여러 단서를 조합해 당사자를 추정할 수 있습니다. 직접 식별자뿐 아니라 결합 가능한 간접 식별자도 범주화해야 합니다.

한 줄을 지우는 것보다 업무 목적을 줄여본다

가상의 환불 문의를 ‘고객 감정 분석’에 쓰겠다고 하면 이름·연락처뿐 아니라 원문 전체가 필요해 보인다. 목적을 ‘담당 부서 분류가 가능한가’로 줄이면 입력도 달라진다. 주문번호와 이름은 필요 없고, 상품군·문의 유형·처리 단계 같은 합성 범주만으로 먼저 시험할 수 있다.

이 표를 만든 뒤에도 실제 자료가 꼭 필요하다면 회사가 허용한 계정과 처리 조건을 확인한다. AI에게 익명화를 먼저 맡기려고 원문을 붙여 넣는 순간 이미 전송이 일어날 수 있으므로, 입력 전에 사람이 줄여야 한다.

다시 알아볼 수 있는지 확인하는 질문

• 같은 팀 사람이 이 정보만 보고 당사자를 짐작할 수 있는가
• 공개 뉴스·조직도·SNS와 결합하면 한 사람으로 좁혀지는가
• 정확한 날짜를 주차나 월 단위로 바꿔도 목적을 달성하는가
• 상세 직무를 역할 범주로 바꿀 수 있는가
• 실제 금액을 구간 또는 합성 수치로 대체할 수 있는가
• 행을 삭제해도 집단이 너무 작아 개인이 드러나지 않는가

익명화는 식별자를 몇 개 지웠다는 작업이 아니라 사용 목적과 재식별 가능성을 함께 보는 과정입니다.

입력 전 최종 승인 카드

자주 묻는 질문

이름과 이메일을 지우면 개인정보가 아닌가요?

항상 그렇지 않습니다. 날짜, 지역, 상세 직무와 희귀 사건을 결합해 개인을 알아볼 수 있다면 추가 범주화와 삭제가 필요합니다.

공개된 자료는 모두 안전하게 넣어도 되나요?

공개 여부와 사용 권리, 최신성은 별개입니다. 저작권·이용 조건과 자료가 정말 공식 공개본인지 확인합니다.

보안 위험을 AI에게 물어보면 판정해 주나요?

AI는 점검 질문을 만들 수 있지만 조직 정책과 계약을 대신 승인하지 않습니다. 판단이 애매하면 원문을 넣지 말고 열 이름과 합성 예제로 보안 담당자에게 확인합니다.

공식 출처

• 개인정보보호위원회: 생성형 AI 개발·활용을 위한 개인정보 처리 안내서
• Google Cloud: System instructions and sensitive information caution
• NIST: Generative AI Profile