더 똑똑한 AI를 만들기 위해
우리는 얼마나 많은 개인 데이터를 맡길 수 있는가?

생성형 AI 경쟁이 뜨겁게 달아오르는 가운데, 앤트로픽(Anthropic)이 자사 모델 Claude의 소비자 약관과 개인정보 보호정책을 개정했다.

이번 개정으로 Free·Pro·Max 요금제 이용자는 대화 데이터를 모델 훈련에 제공할지 여부를 직접 선택할 수 있게 됐다. 동시에, 동의 시 데이터 보관 기간은 최대 5년으로 늘어난다. 혁신적 AI 발전과 개인정보 보호라는 두 축 사이의 긴장 관계가 다시 주목받는다.

앤트로픽은 2025년 8월 29일자로 새로운 소비자 약관과 개인정보 보호정책을 발표했다.

데이터 활용 동의: 사용자는 본인의 대화 및 코딩 세션 데이터를 Claude 모델 훈련에 제공할지 여부를 선택할 수 있다.
보관 기간 확대: 동의한 경우, 데이터는 기존 30일에서 최대 5년간 보관된다. 단, 개별 대화를 삭제하면 훈련에는 반영되지 않는다.
적용 범위: Free, Pro, Max 개인 요금제에만 적용되며, 기업·기관용 서비스(Claude for Work, Claude Gov, Claude for Education, API 등)는 대상에서 제외된다.
시한: 기존 사용자들은 9월 28일까지 선택해야 하며, 신규 사용자는 가입 과정에서 결정한다.

대규모 언어모델(LLM)은 방대한 양의 데이터로 학습한다. 그러나 이미 공개된 인터넷 텍스트만으로는 최신 코드, 새로운 표현 방식, 실제 대화 맥락을 반영하기 어렵다. 이번 개정은 실사용 데이터라는 ‘현장 피드백’을 확보하려는 의도가 크다. 예를 들어, 사용자가 Claude와 코드를 디버깅하는 대화는 이후 모델이 유사 문제를 해결하는 데 중요한 학습 신호가 된다.

Anthropic은 Claude Free·Pro·Max라는 소비자 요금제를 운영하고 있으며, OpenAI(챗GPT), Google(제미나이), Meta(LLaMA 기반 서비스)와 치열하게 경쟁하고 있다. 실사용 데이터 확보는 모델 품질을 높여 구독자 유지율을 끌어올리는 핵심 동력이다. 더 나은 모델이 곧 더 많은 사용자를 의미하며, 이는 구독 기반 매출 증대와 직결된다.

데이터를 5년간 보관한다는 점은 사용자 프라이버시에 민감한 반응을 불러일으킬 수 있다. 특히 유럽연합(EU)의 GDPR, 한국의 개인정보보호법, 미국 캘리포니아주의 CCPA 등 각국 규제 환경과 충돌할 가능성이 있다. 앤트로픽은 데이터를 제3자에 판매하지 않으며 필터링·익명화 절차를 거친다고 강조하지만, “AI 기업이 개인 대화를 장기간 보관한다”는 사실만으로도 사용자 불안은 피하기 어렵다.

앤트로픽의 약관 개정은 혁신과 프라이버시 사이의 줄타기를 적나라하게 보여준다. 실사용 데이터를 확보하면 Claude 모델의 정밀성과 안전성을 높일 수 있다. 동시에 스팸, 사기, 남용과 같은 악용 행위를 탐지하는 시스템도 개선된다. 이러한 데이터 활용은 OpenAI와 Google 같은 경쟁자들과 맞서 Claude가 차별화된 경쟁력을 확보할 수 있는 기회로 평가된다.

그러나 반대편에는 뚜렷한 위협이 존재한다. 개인정보 보호에 대한 논란과 각국의 규제 리스크가 불가피하다. 더구나 “내 대화가 학습에 쓰인다”는 사실이 알려질 경우 사용자 불신이 확산될 수 있다. 9월 28일 이후 미선택 시 서비스를 계속 이용할 수 없다는 구조는 사용자에게 선택을 강요하는 듯한 인상을 줄 수도 있다.

글로벌 사례를 보면, OpenAI는 이미 소비자에게 데이터 활용 여부를 선택할 권한을 제공하며, 학습 제외를 요청한 기록은 보관하지 않는다. Google은 제미나이 사용자 데이터를 일부 학습에 활용하지만, 기업용 서비스는 철저히 분리한다. Meta는 공개 데이터와 연구 협력에 주로 의존하며, 개인 데이터 활용에는 신중하다. 이와 비교할 때 앤트로픽의 결정은 데이터 보관 기간을 5년으로 늘린 점에서 가장 공격적인 행보로 평가된다.

앞으로 5~10년간 Claude와 같은 초거대 언어모델 경쟁의 핵심은 데이터 품질과 보안성이 될 것으로 전망된다. 기업 입장에서 데이터 활용 동의를 확보하지 못하면 학습 품질에서 뒤처질 수밖에 없다. 반대로 동의를 확보하면 모델 성능은 강화되지만, 개인정보 규제와 충돌할 위험도 커진다. 사용자 관점에서는 직접 동의 여부를 선택할 수 있다는 점이 투명성과 신뢰성 강화로 비치지만, 5년이라는 긴 보관 기간은 여전히 부담이 된다. 정책 당국의 시선 역시 날카롭다. 각국 규제 기관은 AI 기업의 데이터 보관·활용 방침을 집중 점검할 가능성이 높다.

앤트로픽은 이번 개정을 통해 “사용자가 직접 선택한다”는 명분을 확보했다. 하지만 동시에 데이터 독점 기업이라는 비판과 프라이버시 논란이라는 이중의 도전에 직면했다.

결국 Claude의 소비자 약관 개정은 혁신적 AI 발전과 개인정보 보호라는 양날의 검을 드러낸다. 모델 성능 강화를 위한 데이터 활용이 필요하다는 점은 분명하지만, 사용자 신뢰를 잃는 순간 경쟁력도 흔들릴 수 있다.

앤트로픽이 넘어야 할 질문은 단순하다.
“더 똑똑한 AI를 만들기 위해, 우리는 얼마나 많은 개인 데이터를 기업에 맡길 수 있는가?”