주요 업데이트
기업 카드 지출을 집계하는 램프(Ramp)의 8월 인덱스를 보면, 직전 한 달 동안 앤트로픽에서 제일 비싼 페이블 5는 기업이 앤트로픽에 쓴 토큰의 6%, 돈의 11.4%만 차지했어요. 오픈AI 최상위 모델인 GPT-5.6 솔이 자사 토큰의 25%·지출의 23%를 가져간 것과 대비되는데, 페이블 5는 100만 토큰당 약 10달러로 솔의 두 배예요. 램프는 이 표본이 평소보다 기술 회사 쪽으로 치우쳐 있어 실제 페이블 도입률은 더 낮을 수 있다고 스스로 단서를 달면서, 이 지점에선 성능이 더 좋아도 그 값을 치를 만하지는 않다고 정리했어요.
용어 풀이 - 토큰
- 모델이 글을 잘게 쪼개 처리하는 최소 단위. 사용료는 보통 100만 토큰당 얼마로 매긴다
운영자 인사이트
최상위 모델을 기본값으로 두는 설계는 이제 비용 근거를 대기 어려워졌어요. 7월 말 나온 오푸스 5는 100만 토큰당 5/25달러로 페이블 5(10/50달러)의 절반인데 독립 평가 기관 아티피셜 애널리시스의 종합 점수는 오히려 1점 높으니, 모델 이름을 코드에 고정하지 말고 작업 난이도별로 갈라 보내는 경로부터 만들어 두세요.
여러 관점으로 보기 - 집계 원본 앤트로픽 도입률은 미국 기업의 43.5%로 한 달 새 1.1%포인트 올라 오픈AI(39.7%)를 앞서는데, 페이블 5는 앤트로픽 토큰의 6%·지출의 11.4%에 그쳤어요. Ramp
- 값이 절반인 자사 대안 7월 말 나온 오푸스 5는 100만 토큰당 5/25달러로 페이블 5(10/50달러)의 절반이고, 작업당 비용도 2.03달러 대 2.75달러로 더 싼데 종합 점수는 61점으로 1점 앞서요. The Register
원본 보기 (hn:anthropic)
Level1Techs 포럼에 올라온 측정 기록이 해커뉴스 417점·댓글 171개를 받았어요. 같은 그래픽카드 한 장에 큐원3.6-27B의 BF16 가중치를 그대로 올려 두고 어텐션 계산을 맡는 구현체만 Triton·FlashAttention2·FlashInfer로 바꿨더니 처음 수천 토큰까지는 세 쪽이 다음 토큰을 똑같이 골랐다가 저자 측정 그래프에서는 88,000 토큰 부근에서 15~20%가 갈렸고, 양자화 형식으로 비교하면 INT8이 약 5%인 데 비해 NVFP4는 약 50%까지 벌어지면서 도구 호출을 제대로 닫지 못했어요. 정작 저자는 'BF16은 수치 충실도 기준선일 뿐 정답표가 아니고, 양자화 모델이 BF16과 갈라지면서 오히려 더 나은 답을 낼 수도 있다'고 못 박아 뒀고, 해커뉴스 댓글에서 거듭 지목된 원인은 구현체가 아니라 GGUF 변환에서 챗 템플릿이 빠져 기본값으로 되돌아가는 것과 모델 카드가 권장하는 온도 같은 샘플링 설정을 안 맞추는 쪽이었어요.
용어 풀이 - BF16
- 가중치를 16비트로 그대로 두는 형식. 양자화하지 않은 기준선으로 쓴다.
- INT8
- 가중치를 8비트 정수로 줄인 양자화 형식. 4비트보다 정밀도 손실이 적다.
- NVFP4
- 엔비디아 계열의 4비트 부동소수점 양자화 형식. 용량은 크게 줄지만 손실이 크다.
- KV 캐시
- 이미 처리한 토큰의 중간 계산값을 담아 두는 메모리. 이것만 따로 낮은 정밀도로 줄일 수도 있다.
- GGUF
- llama.cpp 계열에서 쓰는 모델 파일 형식. 변환 과정에서 설정 정보가 빠질 수 있다.
운영자 인사이트
로컬 모델로 긴 컨텍스트 에이전트 작업을 돌린다면 모델을 갈아타기 전에 지금 쓰는 어텐션 구현체·양자화 형식·KV 캐시 정밀도부터 적어 두세요. 저자 측정에서 차이는 짧은 프롬프트엔 안 보이다가 컨텍스트가 길어질수록 벌어졌고, 도구 호출을 닫지 못한 건 4비트 계열이었어요. 다만 '다르다'가 '나쁘다'는 아니라고 저자가 직접 적었으니, 먼저 손댈 곳은 챗 템플릿과 샘플링 설정을 모델 카드대로 맞추는 일이에요.
여러 관점으로 보기 - 해커뉴스 토론 — 원인은 추론 구현체가 아니라 설정이라는 반론 GGUF로 바꾸는 과정에서 챗 템플릿 정보가 빠지면 실행기가 조용히 기본 형식으로 되돌아가고, 모델 카드가 권장하는 샘플링 설정도 대부분의 도구 기본값과 다르다는 지적이 여러 갈래로 올라왔어요. Hacker News
- 확인 — 흔한 실패 원인으로 지목된 기본 컨텍스트 값 Ollama 공식 문서는 기본 컨텍스트 창을 4,096 토큰이라고 적어 두고 있어서, 이 글이 다루는 88,000 토큰짜리 작업은 설정을 바꾸지 않으면 애초에 들어가지도 않아요. Ollama 공식 문서
원본 보기 (hn:top-stories)
8월 20일 OpenRouter 에 올라온 Ox Alpha 는 '코딩과 오래 이어지는 에이전트 작업, 실제 서비스 부하'용 추론 모델이라며 컨텍스트 104만 토큰을 입력·출력 모두 0달러에 열어 뒀고, 만든 곳은 '이번 미리보기 동안 익명으로 남기로 한 제3자 제공자'라고만 적혀 있어요. 같은 모델이 터미널 코딩 에이전트 OpenCode 에도 무료로 올라와 있는데, OpenRouter 는 '프롬프트와 응답은 제공자가 보관하며 학습에는 쓰지 않는다'고 적고 OpenCode 는 '제공자가 아무것도 보관하지 않는 정책을 따른다'고 적어 두 안내문이 서로 반대예요. 정체는 Z.ai 의 GLM 계열이라는 추측이 가장 많고 마이크로소프트의 미공개 MAI 라는 설도 돌지만, 확인된 건 없어요.
용어 풀이 - GLM
- 중국 Z.ai 가 만드는 오픈 웨이트 모델 계열의 이름
- MAI
- 마이크로소프트가 자체 개발 중인 AI 모델 계열의 이름
- CSS
- 웹 페이지의 색·간격·배치를 지정하는 스타일 언어
운영자 인사이트
판단 기준은 정체 추측이 아니라 안내문이에요 — 같은 모델을 두고 OpenRouter 는 '제공자가 보관한다', OpenCode 는 '보관하지 않는다'라고 반대로 적어 뒀으니 사내 코드를 붙일 근거로는 둘 다 부족해요. 성능이 궁금하면 공개 저장소나 버려도 되는 코드로만 재 보세요.
여러 관점으로 보기 - 1차 자료 — OpenRouter 안내 8월 20일 등록됐고 입력·출력 모두 0달러예요. '프롬프트와 응답은 제공자가 보관하며 학습에는 쓰지 않는다'고 적혀 있고, 만든 곳은 '미리보기 동안 익명으로 남기로 한 제3자'라고만 밝혀요. OpenRouter
- 1차 자료 — OpenCode 문서 (반대 진술) 같은 모델을 'Ox Alpha Free'로 한시 무료 제공하면서 '제공자가 아무것도 보관하지 않는 정책을 따르고 학습에도 쓰지 않는다'고 적어 뒀어요. 모델 이름조차 x-preview-f-free 로만 표기돼요. OpenCode
- 실사용 반응 — 해커뉴스 250점·196댓글이 붙었는데 정체는 아무도 못 짚었어요. 생각을 풀어 쓰는 말투가 GLM 같다는 추측이 가장 많고, '비전이 붙은 느린 GLM-5.3 같다'는 후기와 'CSS 를 시켰더니 미리 넣어 둔 코드를 다 지우고 색을 하드코딩했다'는 혹평이 함께 올라와 있어요. Hacker News
원본 보기 (rss:techcrunch-ai)
클로드 코드는 모델이 작업하는 도중에 사용자가 보낸 메시지를 '작업하는 동안 사용자가 새 메시지를 보냈어요'로 시작하는 설명 문구로 감싸서 모델에게 넘겨요. 이 문구가 너무 길어 짧게 줄여 달라는 요청이 8월 6일 공식 저장소에 올라와 아직 열려 있어요. 다만 앤트로픽이 공식 문서에 적어 둔 클로드 코드의 프롬프트 인젝션 방어 목록은 권한 승인·요청 전체 분석·입력 정제·웹 가져오기용 별도 컨텍스트 창이고, 사용자 입력을 감싸는 방어 문구는 거기에 없어요.
용어 풀이 - 프롬프트 인젝션
- 외부 텍스트에 숨긴 지시로 AI의 원래 지시를 덮어쓰려는 공격
- 턴
- 대화에서 사용자나 모델이 한 번 발언하는 단위
운영자 인사이트
내 프롬프트에 모르는 문구가 덧붙는 걸 봤다면 방어 장치부터 의심하지 말고, 그게 턴 중간 메시지를 감싸는 설명 문구인지 먼저 확인해 보세요. 세션 기록 파일의 원본을 열어 도구가 실제로 돌려준 값과 모델이 지어낸 문장을 갈라 보는 게 가장 확실해요.
여러 관점으로 보기 - 실제로 있는 입력 감싸기 턴 중간에 보낸 메시지마다 '작업하는 동안 사용자가 새 메시지를 보냈어요'로 시작하는 같은 설명 문구가 붙어서, 여덟 단어를 여덟 번에 나눠 보내면 그 문구도 여덟 배로 붙어요. GitHub
- 공식 방어 목록에는 없음 앤트로픽이 적어 둔 클로드 코드의 프롬프트 인젝션 방어는 권한 승인·요청 전체 분석·입력 정제·명령 인젝션 탐지·웹 가져오기용 별도 컨텍스트 창이고, 입력을 감싸는 방어 문구는 없어요. Anthropic
- 모델이 인젝션을 지어낸 사례 도구는 연결 실패만 돌려줬는데 모델이 시스템 프롬프트를 내놓으라는 인젝션 블록을 봤다고 적었고, 세션 기록 원본을 바이트 단위로 뜯어 보니 도구 결과는 깨끗했어요. GitHub
원본 보기 (reddit:claudeai)
MCP 서버를 클로드 코드에 붙이면 디버그용으로 만들어 둔 것까지 그 서버의 명령과 자원이 전부 목록에 뜨는데, 오픈소스 MCP 서버 gcontext 는 프로젝트 최상위 폴더에 controls.yaml 을 두고 항목마다 on 과 off 를 적어 노출 범위를 줄여요. 다만 공식 문서를 열어 보면 off 는 감추기일 뿐 막기가 아니어서, 자원은 'off 여도 목록에서 빠질 뿐 read_file 로는 여전히 읽힌다'고 그대로 적혀 있어요. 공개 소개 글은 이 파일이 8월 23일 0.14.0 에서 새로 생겼다고 했는데, 릴리스 노트를 보면 나흘 앞선 0.12.2 에서 commands.yaml 을 갈아치우며 들어왔고 0.14.0 이 손본 건 대시보드 화면이에요.
용어 풀이 - MCP
- Model Context Protocol. 에이전트가 외부 도구·자료에 붙는 방식을 정한 규약
- read_file
- gcontext 서버가 내주는 파일 읽기 도구. 경로만 알면 목록에 없는 파일도 읽는다
운영자 인사이트
MCP 서버를 여러 개 붙일수록 쓰지도 않는 도구 설명이 컨텍스트를 먼저 깎아 먹으니 안 쓰는 명령을 꺼 두는 건 실익이 있어요. 다만 이건 컨텍스트를 아끼는 장치지 접근을 막는 장치가 아니라서, 민감한 파일은 off 로 감추지 말고 폴더 밖으로 빼거나 권한으로 막아야 해요.
여러 관점으로 보기 - controls.yaml 명세 off 는 클라이언트 목록에서 감추는 것이고, 자원은 off 여도 read_file 로 읽힌다고 공식 문서에 적혀 있어요. GitHub
- 실제 도입 시점 controls.yaml 은 0.12.2 에서 commands.yaml 을 대체하며 들어왔고 0.13.1 에서 완전한 on/off 등록부가 됐어요. 8월 23일 0.14.0 이 바꾼 건 대시보드 Controls 탭이에요. GitHub
- 도구가 무엇인가 gcontext 는 평범한 파일과 폴더를 에이전트의 상태로 삼아 MCP 로 내주는 내 컴퓨터용 서버라고 소개해요. gcontext
원본 보기 (reddit:claudeai)
Presto·Trino를 만든 마틴 트라베르소가 Henka라는 MCP 서버를 아파치 2.0으로 공개했어요. 이름 바꾸기·추출·인라인·시그니처 변경을 문자열 치환이 아니라 자바는 Eclipse JDT, 러스트는 rust-analyzer, 타입스크립트는 typescript-language-server에게 계산시켜서 파일이 여러 개로 갈라져 있어도 같은 이름 메서드가 여럿이어도 어긋나지 않게 하고, 편집은 기본이 미리보기라 어느 파일이 어떻게 바뀌는지 차이만 돌려주고 파일은 건드리지 않아요. 정작 이 저장소에 올라온 단 하나의 외부 기여인 8월 21일 PR에는 '계속 일깨워 주지 않으면 클로드 코드가 Henka를 부르기보다 LSP 도구를 훨씬 잘 쓰는 것 같다'고 적혀 있고, 그래서 같은 기능을 언어 서버인 척 물리는 프록시를 따로 만들고 있어요.
용어 풀이 - MCP
- Model Context Protocol. AI 도구가 외부 프로그램의 기능을 불러 쓰도록 정한 연결 규격
- LSP
- Language Server Protocol. 편집기와 언어 분석기가 이름 바꾸기·참조 찾기 같은 요청을 주고받는 표준 규격
- PR
- pull request. 남의 저장소에 코드 변경을 제안하는 요청
운영자 인사이트
MCP 서버를 붙였는데도 에이전트가 grep으로 되돌아간다면 서버 성능이 아니라 '언제 불러야 하는지'가 빠진 걸 수 있어요. 기여자 한 명의 관찰이긴 하지만, 새 도구를 만들기 전에 에이전트가 이미 습관처럼 쓰는 통로(LSP·내장 명령)에 얹을 수 있는지부터 확인해 볼 값어치는 있어요.
여러 관점으로 보기 - 만든 쪽 주장 이름 바꾸기·추출·인라인·참조 찾기를 언어의 실제 컴파일러 시야로 계산해서 파일과 오버로드를 넘어가도 유지된대요. GitHub
- 실제로 붙여 본 쪽 클로드 코드가 MCP 도구를 잘 안 부른다며 Henka를 언어 서버로 위장시키는 프록시를 따로 만들어 제안했어요. GitHub
원본 보기 (hn:mcp-server)
조지메이슨대 경제학자 타일러 코웬이 8월 23일 블로그에 '클로드 헌법을 다시 쓰는 일에 조언하는 이틀짜리 자리에 참여했다'고 적었어요. 그런데 글에 담긴 건 앤트로픽이 무엇을 어떻게 고치는지가 아니라 본인이 강조했다는 제안 다섯 가지로, 헌법을 판례법처럼 쌓아 갈 것, 서로 다른 프롬프트를 받은 여러 AI가 클로드의 헌법 준수 여부를 평가하게 할 것, 그 위에 독립 사법부 같은 사람 심판단을 둘 것 등이에요. 앤트로픽은 1월 22일 새 헌법을 내면서 '살아 있는 문서'라며 법·철학·신학 등 외부 전문가 의견을 앞으로도 받겠다고 이미 적어 뒀고, 이번 자리에 대한 앤트로픽 쪽 공지는 확인되지 않아요.
용어 풀이 - 클로드 헌법
- 앤트로픽이 클로드의 가치·행동 방향을 적어 학습에 직접 쓰는 문서
- 판례법
- 개별 판결이 쌓여 다음 판단의 기준이 되는 법 체계
운영자 인사이트
클로드가 무엇을 왜 거절하는지 따질 때 근거로 삼을 원본은 지금도 1월 22일 자 헌법 문서예요. 다시 쓰는 중이라는 말은 참석자 한 사람의 글에만 있고 앤트로픽 공지는 없으니, 지금 프롬프트나 안전 정책을 뜯어고칠 근거로 쓰지 말고 개정이 공지되면 돌릴 회귀 테스트 목록만 미리 챙겨 두세요.
여러 관점으로 보기 - 앤트로픽 공식 문서 1월 22일 새 헌법을 내면서 '살아 있는 문서'라고 적었고, 법·철학·신학 등 외부 전문가 의견을 앞으로도 받겠다고 밝혀 뒀어요. Anthropic
- 코웬이 근거로 건 글 코웬이 링크한 8월 7일 자 글은 AI 회사가 자기 헌법을 해석할 내부 법원을 두자고 제안하는데, 그런 절차가 아직 없다는 게 그 제안의 전제예요. Lawfare
원본 보기 (hn:anthropic)