세레브라스 공식 문서가 Qwen 3.8 27B 를 초당 약 1500토큰, 백만 토큰당 입력 0.99달러·출력 1.49달러로 올려 뒀고 도구 호출·병렬 도구 호출·구조화 출력도 다 지원해요. 정작 해커뉴스에서 커밋 리뷰를 실제로 돌려 본 이용자는 p50 890토큰/초에 첫 토큰까지 0.64초를 쟀고, 5.1분 세션에 1.60달러가 나가 같은 작업의 오픈라우터 평균가(0.29달러·14.4분)보다 2.8배 빠른 대신 5.6배 비쌌어요. 그 세션의 프롬프트 캐시 적중률이 91.4% 였는데도 그런데, 세레브라스 문서가 캐시에서 나온 입력 토큰도 일반 입력 요금 그대로 받는다고 적어 뒀거든요.
용어 풀이
- p50
- 측정값을 줄 세웠을 때 딱 가운데 값. 절반은 이보다 빠르고 절반은 느리다는 뜻.
- 프롬프트 캐시
- 매번 똑같이 다시 보내는 앞부분을 저장해 두고 계산을 건너뛰는 것. 보통은 그만큼 요금을 깎아 준다.
- SWE-bench Pro
- 실제 깃허브 저장소의 이슈를 모델이 코드로 고쳐 내게 하는 채점표. 기존 SWE-bench보다 어렵게 짠 판.
- 429
- 요청이 한도를 넘었으니 잠시 뒤 다시 오라는 뜻의 HTTP 응답 코드.
운영자 인사이트
에이전트 루프는 턴마다 대화 전체를 다시 올려서 캐시 할인으로 버티는 구조라, 할인이 0이면 빨라진 만큼 요금도 같이 빨라져요. 컨텍스트가 짧고 왕복이 잦은 단발 작업에 먼저 붙여 보고, 모델은 262K 를 받는데 세레브라스는 유료도 128K·무료는 64K 에서 자르니 저장소를 통째로 무는 용도로는 잡지 마세요.
여러 관점으로 보기
- 공식 문서가 못 박은 값 초당 약 1500토큰이라고만 적혀 있고 어떤 조건에서 잰 값인지는 문서 어디에도 없어요. 컨텍스트는 무료 64K·유료 128K 고, 분당 캐시 안 된 토큰은 무료 3만·개발자 15만에서 끊겨요. Cerebras
- 실제로 돌려 본 사람의 계산서 커밋 리뷰 한 세션에 5.1분·1.60달러가 나갔고 p50 은 890토큰/초로 공식 수치의 60% 수준이었어요. 도중에 429 한도 오류도 몇 번 받았대요. Hacker News
- 에이전트로 물릴 때 먼저 걸리는 것 분당 토큰 한도에 90초 만에 걸려 1.10달러를 태웠다는 보고가 있고, 캐시된 토큰도 그 한도에 똑같이 잡혀요. 도구 호출이 딥시크 계열보다 더 자주 실패해 재시도로 속도 이득이 깎인다는 후기도 있어요. Hacker News
- 그래서 어느 수준의 모델인가 27B 짜리인데 SWE-bench Pro 61.7 로 오푸스 4.6 Max(53.4)를 8.3점 앞서요. 정작 터미널 작업을 재는 Terminal Bench 2.1 은 73.0 대 78.2 로 5.2점 뒤져요. 아파치 2.0 이에요. Hugging Face
- 그 성적표를 그대로 믿기 전에 공개된 코딩 점수는 전부 알리바바가 자기 모델 카드에 올린 값이고 제삼자 재현이 아직 없어요. 쓰기 전에 직접 재 보라는 지적이 붙어 있어요. Yotta Labs