클로드 코드는 모델이 작업하는 도중에 사용자가 보낸 메시지를 '작업하는 동안 사용자가 새 메시지를 보냈어요'로 시작하는 설명 문구로 감싸서 모델에게 넘겨요. 이 문구가 너무 길어 짧게 줄여 달라는 요청이 8월 6일 공식 저장소에 올라와 아직 열려 있어요. 다만 앤트로픽이 공식 문서에 적어 둔 클로드 코드의 프롬프트 인젝션 방어 목록은 권한 승인·요청 전체 분석·입력 정제·웹 가져오기용 별도 컨텍스트 창이고, 사용자 입력을 감싸는 방어 문구는 거기에 없어요.
용어 풀이
- 프롬프트 인젝션
- 외부 텍스트에 숨긴 지시로 AI의 원래 지시를 덮어쓰려는 공격
- 턴
- 대화에서 사용자나 모델이 한 번 발언하는 단위
운영자 인사이트
내 프롬프트에 모르는 문구가 덧붙는 걸 봤다면 방어 장치부터 의심하지 말고, 그게 턴 중간 메시지를 감싸는 설명 문구인지 먼저 확인해 보세요. 세션 기록 파일의 원본을 열어 도구가 실제로 돌려준 값과 모델이 지어낸 문장을 갈라 보는 게 가장 확실해요.
여러 관점으로 보기
- 실제로 있는 입력 감싸기 턴 중간에 보낸 메시지마다 '작업하는 동안 사용자가 새 메시지를 보냈어요'로 시작하는 같은 설명 문구가 붙어서, 여덟 단어를 여덟 번에 나눠 보내면 그 문구도 여덟 배로 붙어요. GitHub
- 공식 방어 목록에는 없음 앤트로픽이 적어 둔 클로드 코드의 프롬프트 인젝션 방어는 권한 승인·요청 전체 분석·입력 정제·명령 인젝션 탐지·웹 가져오기용 별도 컨텍스트 창이고, 입력을 감싸는 방어 문구는 없어요. Anthropic
- 모델이 인젝션을 지어낸 사례 도구는 연결 실패만 돌려줬는데 모델이 시스템 프롬프트를 내놓으라는 인젝션 블록을 봤다고 적었고, 세션 기록 원본을 바이트 단위로 뜯어 보니 도구 결과는 깨끗했어요. GitHub