AI 시대 기업 데이터 보호: SaaS와 차이점

핵심 요약

• AI 모델은 학습을 위해 데이터가 필수 이며, 사용자와의 모든 상호작용이 "트라젝토리"라는 데이터로 기록됨
• SaaS와 달리 AI 시대에는 고객 데이터가 벤더의 지적 재산의 일부가 될 수 있음
• 기업 리더들의 우려 가 증가 중: 나델라, 카프 등 주요 인물들이 데이터 손실 위험을 경고
• 데이터 무보존(No Data Retention)이 새로운 표준 이 될 것으로 예상되며, 향후 20년은 SaaS 시대와 동일한 데이터 보호 보장이 요구될 것

SaaS와 AI 시대의 데이터 처리 차이

지난 20년 동안 SaaS는 기업들에게 새로운 신뢰 모델을 제시했습니다. 고객 데이터는 벤더의 클라우드에 저장되지만, 해당 데이터는 고객만 접근할 수 있는 데이터베이스에 보관되었습니다.

하지만 AI 시대는 다릅니다. 사용자가 AI와 상호작용할 때마다 생성되는 데이터("트라젝토리")는 모델 개선을 위해 다시 학습에 입력될 수 있습니다. 즉, 고객의 데이터가 벤더의 지적 재산의 일부가 될 수 있다는 뜻입니다.

기업 리더들의 데이터 우려 확산

마이크로소프트의 사티아 나델라는 지난 주말 다음과 같이 지적했습니다:

"본질적으로 지능에 대해 두 번 비용을 지불하는 셈입니다. 한 번은 돈으로, 그리고 또 한 번은 훨씬 더 가치 있는 것으로 지불하죠. 바로 그 지능을 유용하게 만들기 위해 공개해야 하는 독점적인 지식입니다."

팔란티어의 알렉스 카프도 같은 주에 CNBC의 스쿼크 박스에서 유사한 경고를 했습니다:

"[프론티어 랩들이] 내 사업의 가중치와 알파를 훔치고 있습니다."

두 리더의 일치된 경고는 기업 소프트웨어 전반에 걸쳐 데이터 손실에 대한 광범위한 우려 가 확산되고 있음을 보여줍니다.

실제 발생한 데이터 유출 사례

7월 13일, 보안 연구원이 xAI의 Grok Build 바이너리를 역분석한 결과, AI 호출이 전혀 없는 세션에서도 개발자의 코드베이스가 xAI 클라우드에 업로드 되었음을 발견했습니다. xAI는 이후 해당 기능을 비활성화했습니다.

이는 사용자가 명시적으로 AI를 호출하지 않았어도 데이터가 수집될 수 있음을 시사합니다.

하네스(Harness)와 데이터 흐름

하네스는 Claude Cowork나 Cursor 같은, 사용자가 AI와 함께 작업하는 소프트웨어입니다. 성공하는 하네스는 AI 활용을 지능적으로 접근하여 사용자 생산성을 극대화합니다.

하지만 문제는 명확합니다: 영업 비밀, 고객 지원 티켓, 브랜드 아이덴티티, 직원 급여 정보 등 모든 민감한 데이터가 이 하네스를 통해 흐릅니다.

데이터 무보존이 새로운 표준이 될 것

CIO와 CEO들은 점점 더 데이터 무보존(No Data Retention) 을 요구할 것입니다. 데이터는 익명화되는 것이 아니라 완전히 삭제되어야 합니다. 현재의 익명화 기술은 이를 보장하기에 충분히 강력하지 않습니다.

이는 SaaS 시대의 보장이 AI 시대에도 동일하게 요구된다 는 의미입니다: 공급업체는 기업 데이터에 접근할 수 없으며 자체 목적으로 사용하지 않아야 합니다.

결론

지난 20년은 공급업체가 고객 데이터를 신뢰할 수 있다는 가정이 지배적이었습니다. 하지만 AI 시대에는 그 신뢰가 흔들리고 있습니다. 앞으로 20년은 동일한 데이터 보호 보장을 요구하는 시대 가 될 것입니다. 기업들은 자신의 민감한 정보가 AI 모델 학습에 활용되지 않도록 하는 AI 도구를 선택해야 합니다.

---

Original source: The Harness Is the New Battleground

powered by osmu.app