지푸(Z.ai)가 9월 17일 올린 글의 원제는 「재귀적 자기개선을 향해」이고, 중국산 AI 가속기 10만 대 넘는 클러스터에 GLM-5.3-Flash 추론 서비스를 처음부터 올리는 일의 상당 부분을 GLM-5.3 이 구동하는 인프라 에이전트가 했다는 내용이에요. 엔지니어는 목표와 시스템 경계를 정하고 아키텍처·동시성·운영 위험이 걸린 변경만 검토했고, 에이전트는 정확성 검증·실행 추적·마이크로벤치마크를 묶은 촘촘한 피드백 고리 안에서 가설을 세우고 코드를 고쳐 KDA 디코드 커널을 1.71배 빠르게 하고 파이썬 GIL 병목으로 생긴 KV 전송 동시성 손실을 1% 아래로 줄였다고 적었어요. 다만 가격·지연·API 호환 같은 사용자 쪽 변화는 하나도 발표되지 않았고 칩 제조사도 밝히지 않았으며, HN 토론은 성과 검증보다 요금제 인상(연 360달러 Max 플랜이 월 80달러대로)과 Flash 가 긴 작업 중 계획을 잊는다는 사용 경험에 몰렸어요.
용어 풀이
- KDA
- GLM-5.3 계열이 쓰는 어텐션 변형(Kimi Delta Attention)으로, 긴 문맥에서 KV 캐시를 줄이는 구조
- GIL
- 파이썬 인터프리터의 전역 잠금(Global Interpreter Lock)으로, 한 번에 한 스레드만 파이썬 코드를 돌리게 해 동시성을 막는 장치
- KV 전송
- 프리필(입력 처리) 노드가 만든 키·값 캐시를 디코드(생성) 노드로 옮기는 단계
- 마이크로벤치마크
- 커널 하나처럼 작은 단위의 속도만 따로 재는 성능 시험
운영자 인사이트
GLM 을 코딩 에이전트에 물려 쓰는 분께 오늘 바뀌는 건 없어요. 이 글의 쓸모는 방법 쪽인데, 성능 최적화를 에이전트에 맡길 수 있었던 조건이 모델이 아니라 로컬에서 싸고 빠르게 도는 정확성 테스트·트레이스·마이크로벤치마크였다는 점이에요. 우리 서비스에 그런 피드백 장치가 없다면 에이전트는 종단 지표 하나 보고 추측할 수밖에 없으니, 에이전트 도입보다 계측부터 갖추는 게 순서예요.
여러 관점으로 보기
- 글의 수치·역할 분담 정리 가속기 10만 대 이상, 처리량 3배, KDA 디코드 커널 1.71배, KV 전송 동시성 손실 20%에서 1% 아래로, 6일간 62조 토큰 처리 같은 수치를 옮기면서 사용자 쪽 가격·지연·API 변화는 없다고 정리했어요. Unite.AI
- 에이전트 작동 방식 13일간 3.22배 상승 가운데 가장 큰 폭은 레이어 분할과 컨텍스트 병렬로 이틀 만에 1.41배에서 2.49배로 뛴 구간이었고, 에이전트는 정확성 검증·타임라인 프로파일링·커널 마이크로벤치마크 세 가지 피드백을 썼다고 풀었어요. explainx.ai
- 검증 불가 지적 엔비디아와 토큰당 비용이 비슷하다는 주장은 공개된 자료로는 확인할 수 없고 전력·활용률·정규화 비교가 없으며, 서빙과 학습은 다르다고 짚었어요. Implicator
- HN 토론 (362점·260댓글) 요금제가 초기 보조금 가격에서 크게 올랐다는 불만, Flash 가 작업 중 맥락을 잃는다는 경험, 코딩 작업에서 캐시 적중률 90~97% 라는 확인, 칩은 화웨이 어센드일 것이라는 추정과 증류 논란이 섞였어요. Hacker News