기업의 외부 생성형 AI 도입 과정에서 가장 큰 오해는 입력 데이터가 ‘저장되는가’와 ‘학습되는가’를 같은 문제로 취급하는 데 있다. 두 방식은 보안 위험과 통제 수단이 다르며, AI 학습 데이터가 모델에 반영되면 원본을 삭제한 뒤에도 의도치 않은 노출 가능성을 완전히 배제하기 어렵다.
이를 대응하려면 서비스의 약관만 읽는 데서 멈추지 않고, 계약과 기술적·정책적 설정을 통해 학습 활용 여부와 데이터의 저장·로그·삭제 범위를 함께 검증해야 한다.
저장과 학습, 동일한 위험으로 볼 수 없다
저장된 데이터는 침해나 권한이 없는 제3자 노출에 노출될 수 있지만, 기업용 AI 서비스에서는 계약과 관리 설정으로 접근 범위, 보존 기간, 삭제 정책을 일정 부분 통제할 수 있다. 학습은 다른 차원의 위험을 만든다. 데이터가 학습 과정에 반영된 뒤에는 원본 삭제만으로 영향이 완전히 되돌려지지 않을 수 있으며, 향후 출력이나 내부 표현을 통해 민감정보와 기밀정보가 드러날 가능성도 남아 있다.
따라서 핵심 질문은 ‘데이터가 저장되는가’뿐 아니라 ‘저장된 데이터를 모델 학습에 쓰지 않는다는 것을 계약과 설정으로 확인할 수 있는가’까지 확장된다.
주요 서비스의 데이터 처리 정책은 제각각
개인용 서비스는 기능 이름만으로도 데이터 활용 범위를 오해하기 쉽다. ChatGPT의 ‘모두를 위한 모델 개선’ 기능이 활성화된 상태에서는 연구·업무·개인 데이터의 대화가 모델 개선과 학습에 활용될 수 있다. Claude Free·Pro·Max는 가입·이용 과정에서 데이터 활용 여부를 선택할 수 있지만, 기본적으로 체크된 Opt-Out 방식이므로 별도로 변경하지 않으면 대화와 코딩 세션이 모델 개선에 활용될 수 있다. Gemini는 ‘활동 기록 보관’ 설정으로 관련 활용 여부를 관리한다.
| 서비스 | 관련 설정 또는 방식 | 확인할 데이터 활용 위험 |
|---|---|---|
| ChatGPT | ‘모두를 위한 모델 개선’ | 비활성화하지 않으면 대화가 모델 개선과 학습에 활용될 수 있음 |
| Claude | 기본 체크된 Opt-Out 방식 | 별도로 변경하지 않으면 대화와 코딩 세션이 모델 개선에 활용될 수 있음 |
| Gemini | ‘활동 기록 보관’ | 기록 보관 설정을 통해 데이터 활용 여부를 관리함 |
회사가 직원 개인 계정의 구독료를 지원하는 경우에도 통제권이 자동으로 확보되지는 않는다. 별도 보안 통제 없이 업무 정보를 입력하면 회사의 내부 정보가 제공업체로 전송·저장되고, 서비스 정책에 따라 학습에 활용될 수 있다.
도입 전 계약과 설정을 함께 검증한다
기업은 내부 데이터가 외부 서비스의 학습이나 모델 개선에 사용되지 않도록 해야 하며, 단순히 학습 금지가 확인됐다는 이유로 저장 위험을 놓쳐서는 안 된다. 가장 선호하는 저장 방식은 ZDR(Zero Data Retention)이다. ZDR은 요청 처리에 필요한 범위를 넘어 프롬프트와 이미지 등을 보관하거나 별도로 로깅하지 않고 모델 학습에도 활용하지 않도록 제한하는 정책 또는 계약 조건으로 설명된다.
다만 ZDR은 모든 서비스와 요금제에서 기본 제공되지 않으며, 최상위 Plan인 Enterprise 계약에서도 한정적으로 제공되는 경우가 많다. 실무 점검에서는 학습 금지 여부뿐 아니라 실제 저장 여부, 보존 기간, 로그 관리 범위, 삭제 정책을 함께 확인해야 한다.
RAG 보안은 전체 데이터 흐름을 따라간다
검색증강생성(RAG) 환경에서도 내부 테넌트나 전용 계정만으로 모든 위험이 해소되지는 않는다. 암호화 여부, 저장 리전(Region), 개인정보·민감정보 필터링, 보존·삭제 정책, SLA, 접근권한, 개인정보 국외이동 여부를 함께 검토해야 한다.
내부 문서가 벡터 데이터베이스나 외부 AI 서비스로 전달되는 구조라면 저장 위치, 접근 주체, 삭제 시점을 전체 흐름에서 관리해야 한다. 기업 AI 보안의 출발점은 입력 데이터의 저장 여부를 넘어, AI 학습 데이터가 남는 범위와 목적을 계약과 설정으로 검증하는 데 있다. 보안뉴스의 원문 분석도 이 통제 기준을 조명한다.
참고 원문
이 기사는 다음 원문을 확인해 작성했습니다: 보안뉴스 — [한국정보공학기술사 보안을 論하다–50] AI 학습에 대한 오해와 진실
![[한국정보공학기술사 보안을 論하다–50] AI 학습에 대한 오해와 진실](https://darkpulse.kr/wp-content/uploads/2026/10/article-job_1792-job_17-13.jpg.webp)
답글 남기기