🔎 #792. 내 코드를 xAI 서버로 통째로 보낸 AI(Grok Build)

안녕하세요?
매일 사람이 쓰는 뉴스레터 Daily Prompt입니다.

오늘은 사용자의 코드를 AI가 xAI 서버로 통째로 보낸 사건을 정리합니다.

내 코드를 xAI 서버로 통째로 보낸 AI

Grok Build는 xAI가 제공하는 터미널형 AI 코딩 에이전트입니다. 개발자가 프로젝트 폴더에서 실행하면 코드를 읽고 수정하거나 명령을 실행할 수 있습니다. 그런데 독립 연구자 cereblab이 Grok Build CLI 0.2.93의 네트워크 트래픽을 분석한 결과, 모델이 작업에 사용한 파일과 별개로 Git 저장소 전체가 별도의 저장 경로로 전송된 정황이 확인됐습니다.

• 클라우드 AI 코딩 도구는 작업에 필요한 코드를 분석하기 위해 일부 파일을 회사 서버로 전송합니다. Grok Build 사건에서 문제가 된 것은 필요한 파일만 보낸 것이 아니라, 프로젝트의 전체 코드와 과거 수정 기록까지 별도의 저장소에 전송했다는 점입니다.
• 여기에는 AI가 직접 열어보지 않은 파일도 포함됐습니다. 현재는 삭제한 API 키나 비밀번호라도 과거 수정 기록에 남아 있다면 함께 전송됐을 가능성이 있습니다. 연구자는 이 과정을 다른 사람이 확인할 수 있도록 재현 자료를 GitHub에 공개했습니다.
• 사용자가 Grok의 ‘모델 개선’ 설정을 꺼도 전송은 계속됐습니다. 이 설정은 데이터를 AI 학습에 사용할지 선택하는 기능일 뿐, 파일이 서버로 전송되거나 저장되는 과정 자체를 막는 기능은 아니었기 때문입니다.
• 사건이 알려진 뒤 xAI는 서버 설정을 변경해 저장소 전체를 전송하는 동작을 중단했습니다. xAI는 이전에 동기화된 데이터를 삭제할 수 있다고 안내했고, 일론 머스크도 기존에 업로드된 사용자 데이터를 모두 삭제하겠다고 약속했습니다.
• 다만 이번 조사만으로 모든 Grok Build 사용자가 영향을 받았다거나, 전송된 코드가 AI 학습에 사용됐다고 단정할 수는 없습니다. xAI가 영향을 받은 사용자와 기간, 데이터 삭제 완료 여부를 구체적으로 공개하지 않았기 때문에 전송 중단은 확인됐지만 기존 데이터가 실제로 모두 삭제됐는지는 아직 확인되지 않았습니다.

마무리

1. 온라인에 올린 적 없는 손글씨 일기만이 끝까지 온전히 내 것으로 남는 시대가 오는 것 같습니다. 온라인에 글을 게시하거나 AI와 대화하며 참고자료를 건네는 순간, 그 데이터의 복제본은 AI 기업의 서버로 이동합니다. 약관과 설정을 통해 학습 활용 여부를 선택할 수는 있지만, 실제로 어디에 얼마나 오래 보관되고 어떤 과정에 사용되는지 사용자가 직접 확인하기는 어렵습니다. 법적 소유권은 여전히 나에게 남더라도, 데이터에 대한 실질적인 통제권은 기업에게 있는 셈입니다. 이번 사건은 그동안 막연히 우려해 온 일이 실제 제품 안에서 일어날 수 있음을 보여줬습니다.
2. ‘모델 개선’ 설정을 껐는데도 저장소 전체가 계속 전송됐다는 점은 심각합니다. AI가 작업에 필요한 파일을 일시적으로 서버에 보내는 것과, 프로젝트 전체를 별도 저장소에 복사해 보관하는 것은 전혀 다른 문제입니다. 후자의 경우에는 사용자에게 그 사실을 명확히 알리고 별도의 동의를 받았어야 합니다. 설정을 껐다는 사용자의 의사가 사실상 무시됐다는 점에서 단순한 기능 오류로 보기 어렵습니다.
3. 그래서 로컬 LLM의 중요도는 높아질 가능성이 큽니다. 개인의 일기, 미공개 원고, 고객 자료처럼 외부 서버에 복제되는 것 자체가 위험한 정보는 내 컴퓨터 안에서 처리하는 편이 데이터 주권을 지키기 쉽습니다.
4. 다만 로컬 LLM을 사용하는 일이 아직 누구에게나 쉬운 것은 아닙니다. 성능이 좋은 모델을 실행하려면 메모리가 큰 컴퓨터가 필요하고, 설치와 업데이트, 보안 관리도 사용자가 직접 해야 합니다. 가벼운 모델은 일반 컴퓨터에서도 사용할 수 있지만 클라우드 AI보다 성능이 부족할 수 있습니다. 시간이 지나면 이런 장벽도 낮아지겠지만, 지금은 자신의 데이터를 지키기 위해 비용과 지식, 불편을 감수해야 합니다. AI는 점점 편리해지는데, 내 데이터를 내가 통제하는 일은 오히려 더 어려워지고 있다는 생각이 듭니다.

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

Inward

0:00

/0

1×

프롬프트 (by @jae_hong__an) :