Claude 에이전트가 엉뚱한 DB에서 문서 25,000개를 날렸습니다... 실화입니다

프로덕션 배포 준비 중에 있었던 일인데요, 공유하면 도움이 될 것 같아서 적어봅니다.

데이터베이스 정리를 하려고 했습니다. 목업 데이터가 잔뜩 쌓여 있어서 필요한 것만 남기고 싶었거든요. 프로젝트 세팅은 꼼꼼하게 해뒀습니다. .env.local에 자격 증명도 있고, /docs에 문서화도 되어 있고, CLAUDE.md에 전체 구조도 기록해놨습니다.

그런데 Claude가 명령어를 만들고 있을 때 마침 전화가 왔습니다. 잠깐 한눈 판 사이에 화면에 bash 명령어가 떠 있길래, 제대로 읽지도 않고 Enter를 눌러버렸습니다.

문제는 Claude가 프로젝트에서 쓰던 패턴을 따르지 않고, GOOGLE_APPLICATION_CREDENTIALS를 Downloads 폴더에 있던 전혀 다른 프로젝트의 JSON 파일로 지정한 원라이너를 만들었다는 겁니다. 1년 넘게 건드린 적도 없는 파일이었는데, 그걸 잡아서 써버린 거죠.

ESC를 눌러 중단했을 때는 이미 건드릴 생각도 없었던 프로젝트에서 문서 25,000개가 삭제된 뒤였습니다. 다행히 전부 목업 데이터였지만, 그 순간의 공포감은 정말 실제였습니다.

이 경험에서 배운 것들을 정리해봤습니다:

• AI 에이전트는 현재 프로젝트뿐 아니라 전체 파일 시스템에 접근할 수 있습니다. 아무 폴더에서든 자격 증명을 가져다 쓸 수 있다는 뜻이에요.
• 파괴적인 작업 전에는 반드시 어떤 자격 증명이 쓰이는지, 대상 프로젝트가 맞는지 확인해야 합니다.
• 서비스 계정 파일을 Downloads 같은 일반 폴더에 방치하면 안 됩니다.
• Enter 전에 명령어 전체를 꼼꼼히 읽어야 합니다. 특히 경로가 현재 프로젝트 밖을 가리키고 있다면요.

AI가 속도와 효율을 높여주는 만큼, 실수도 그만큼 증폭시킵니다. 보안 체크리스트를 두 배로 늘려야 할 때입니다.