텐센트가 8월 28일 전체 7,700억 파라미터 중 490억만 켜지는 MoE 모델 Hy4 preview를 아파치 2.0으로 공개했어요 — 상업적 사용에 걸린 제한이 없고 BF16 가중치와 FP8로 줄인 판이 허깅페이스에 올라왔으며, 함수 호출과 100만 토큰 맥락을 지원해요. 코딩 성적으로는 SWE-bench Pro 65.7, SWE-bench Multilingual 82.9, Deep SWE 64.3을 내걸었는데 전부 텐센트가 자기 저장소에 이미지 파일로 올린 표에서 나온 자사 측정값이고, 같은 표에서 클로드 계열은 SWE-bench Pro 79~80점대로 13점 넘게 위예요. 해커뉴스에서 380점·댓글 238개가 붙었지만 막대 높이가 숫자와 안 맞는다는 지적과 오픈라우터 토큰 사용량을 텐센트가 스스로 사서 부풀리는 것 같다는 의심이 주로 나왔고, Hy4를 실제 코딩에 돌려 본 검증 결과는 올라오지 않았어요.
용어 풀이
- MoE
- 전체 파라미터 중 일부 전문가만 골라 켜서 계산량을 줄이는 구조. Mixture of Experts.
- SWE-bench Pro
- 실제 깃허브 이슈를 코드 수정으로 해결하게 시키는 코딩 평가. 기존 SWE-bench를 더 어렵게 만든 판.
- Deep SWE
- 여러 단계에 걸친 소프트웨어 개발 과제를 에이전트가 끝까지 수행하는지 재는 평가.
- BF16
- 가중치를 16비트로 저장하는 방식. 학습·추론에 널리 쓰이는 기본 정밀도.
- FP8
- 가중치를 8비트로 줄여 저장하는 방식. 정확도를 조금 내주고 메모리를 절반으로 줄인다.
운영자 인사이트
입력 100만 토큰에 0.834달러라 프런티어 모델의 몇 분의 일이고 아파치 2.0이라 사내 반입 심사는 수월하지만, 가중치가 1.5TB대여서 자체 호스팅은 사실상 GPU 8장부터고 오픈라우터에 붙은 공급자는 텐센트 클라우드 한 곳뿐이라 코드가 어디로 가는지부터 따져야 해요 — 코딩 점수는 아직 남이 돌려 본 값이 하나도 없으니 표 말고 사내 저장소로 재 보세요.
여러 관점으로 보기
- 공식 발표 텐센트는 사내 전문가 163명이 엔지니어링 과제 203개를 블라인드로 채점해 Hy4가 4점 만점에 2.99로 GLM-5.3(2.92)·Kimi K3(2.94)를 앞섰다고 밝혔어요. Tencent
- 가중치·라이선스 모델 카드에 아파치 2.0이라고 적혀 있고 라우팅 전문가 256개 중 8개만 켜지는 구조에 BF16·FP8 가중치가 함께 올라와 있어요. Hugging Face
- 커뮤니티 반응 차트의 막대 높이가 숫자와 안 맞는다는 지적이 나왔고, 이틀 만에 조 단위 토큰이 찍힌 오픈라우터 기록을 두고 '텐센트가 자기 토큰을 사는 것 같다'는 댓글이 붙었어요. Hacker News
- 직접 돌려 본 기록 사이먼 윌리슨은 허깅페이스 기준 1.56TB라는 크기와 high·no_think 두 가지 추론 모드를 확인했지만 코딩 성능에 대한 평가는 남기지 않았어요. Simon Willison
- 벤치마크 출처 집계 사이트는 Hy4의 모든 벤치마크 행을 '텐센트 자사 부록'으로 표시하고 제3자가 검증한 값은 하나도 없다고 적어 뒀어요. BenchLM