데이터베이스 회사 네온이 8월 5일 자사 블로그에 올린 글로, 깃랩 공개 핸드북에서 LLM이 문답을 지어내고 LLM이 채점하는 검색 과제에서 공개 4B 모델을 후처리 학습시켜 GPT-5.6 솔 수준 정확도를 100배 싼 값에 냈다고 적었어요. 본문엔 정확도 표 없이 그림 한 장뿐이고 모델 이름도 '4B 공개 모델'로만 적혔는데, 함께 공개한 예제 코드에는 Qwen3.5-4B로 박혀 있고 채점은 gpt-5.4-mini가 해요. 공동 저자 한 명은 해커뉴스에서 그 학습 플랫폼 캐스트폼 창업자라고 밝혔고, 댓글 114개에서 가장 많이 나온 '25배·50배 싼 루나·딥시크 플래시와는 왜 안 견줬냐'는 지적엔 루나는 그림에 있지만 딥시크 플래시는 안 쟀다고 답했어요.
용어 풀이
- LLM
- 대규모 언어 모델. 글을 읽고 쓰는 AI 모델
- 4B
- 매개변수 40억 개 규모. 최상위 모델의 수백분의 1 크기
- RAG
- 질문에 맞는 문서를 먼저 찾아와 그 내용을 근거로 답하게 하는 방식
- GPU
- AI 모델 학습·추론에 쓰는 연산 칩
운영자 인사이트
코드베이스 검색·RAG를 작은 모델에 넘기자는 얘기라 솔깃하지만, 근거는 자기 문서로 문제를 내고 LLM이 채점한 점수예요. 사내 코드로 따라 하려면 사람이 만든 평가셋부터 따로 두고, 학습비 200달러 아래라는 숫자보다 4B 모델을 상시 띄워 둘 GPU 값을 먼저 재보세요.
여러 관점으로 보기
- 반론 — 견준 상대 고르기 '25배·50배 싼 루나·딥시크 플래시는 왜 같은 과제로 안 재봤냐'는 지적에 창업자가 루나는 그림에 있고 딥시크 플래시는 안 쟀다고 답했어요. Hacker News
- 창업자가 직접 건 학습 실행 기록 댓글에 근거로 걸린 실행 페이지 제목엔 파인튜닝 모델 1.1942, gpt-5.6-luna 1.2503으로 적혀 있어요. Castform
- 따라 할 수 있는 코드 아파치 2.0 예제로 열려 있지만 기본값이 문답 20개(학습 16·평가 4)뿐이고, 학습은 캐스트폼 크레딧으로 돌려요. GitHub