앤트로픽이 9월 18일 아모데이의 「최전선 속도를 조절해야 한다」 글에서 약속한 내장 평가자(embedded evaluator)의 첫 파트너로 액센츄어를 발표했어요. 내장 평가는 외부 평가자가 직원에 준하는 접근 권한으로 회사 안에 들어와 모델이 훈련되는 과정을 지켜보고 배포 결정을 따라가며 직원과 직접 대화하는 방식이고, 액센츄어 쪽은 3월 16일 인수를 마친 영국 AI 회사 패컬티(Faculty)가 모델 평가·레드팀·정렬 평가·안전장치 시험을 맡으며 두 회사가 5년간 각각 최소 10억 달러를 이 분야 역량에 쓰겠다고 했어요. 다만 발표문 스스로 평가자가 무엇에 접근하고 어떻게 보고할지에 대한 기준도, 평가 비용을 누가 댈지에 대한 정해진 체계도 아직 없다고 적었고 평가 결과를 공개하겠다는 약속은 없으며, 액센츄어는 지난해 12월부터 직원 3만 명을 클로드로 교육하고 개발자 수만 명에게 클로드 코드를 배포한 앤트로픽의 판매·배포 파트너이기도 한데 양쪽 발표문 어디에도 그 관계는 언급되지 않았어요.
용어 풀이
- 내장 평가자(embedded evaluator)
- AI 회사 안에 직원에 준하는 접근 권한으로 들어가 모델 개발 과정을 지켜보고 평가하는 외부 평가 조직
- 레드팀
- 공격자 입장에서 모델의 약점과 오용 가능성을 일부러 찾아보는 시험
- 정렬 평가
- 모델이 의도한 목표와 가치대로 행동하는지 확인하는 평가
- METR
- AI 모델의 위험 능력을 외부에서 평가하는 비영리 연구 조직
운영자 인사이트
9월 16일에 제기된 「내장 평가자가 정말 독립적일까」 논쟁의 첫 실물이 클로드를 파는 회사로 나왔으니, 앤트로픽이 내세운 「AI 붐 이전부터 있던 상장사라 더 독립적」이라는 논리보다 앞으로 나올 세 가지를 보고 판단하면 돼요. 접근·보고 기준이 문서로 공개되는지, 모델 출시 때 평가 보고서가 대중에 나오는지, 그리고 몇 주 안에 발표한다는 다른 평가자에 METR 같은 비영리 기관이 자체 자금으로 들어오는지가 그 기준이에요.
여러 관점으로 보기
- 비판적 시선 (왜 컨설팅 회사인가) 테크크런치는 이 선택이 많은 AI 관찰자를 놀라게 했고 액센츄어는 딥러닝 연구의 최전선으로 알려진 회사가 아니라면서, 앤트로픽이 기업·정부에 AI 를 배포해 온 실무 경험과 AI 붐 이전부터 있던 대형 상장사라 기능적으로 더 독립적이라는 점을 이유로 들었다고 전했어요. 비판론자들은 아모데이의 구상을 업계 자율 감시로 본다고 적었어요. TechCrunch
- 액센츄어 쪽 발표 줄리 스위트 회장은 안전에는 깊은 기술 전문성과 AI 가 현실에서 어떻게 쓰이는지에 대한 이해가 함께 필요하다고 했고, 패컬티 창업자이자 액센츄어 CTO 인 마크 워너는 패컬티가 「사고가 아니라 설계로 안전한 AI」를 믿고 세워졌다고 말했어요. 팀 규모·시작 시점·접근 권한·결과 공개는 이 발표문에도 없어요. Accenture Newsroom
- 이해충돌 배경 (기존 판매 파트너십) 2025년 12월 9일 두 회사는 액센츄어 앤트로픽 비즈니스 그룹을 만들어 액센츄어 직원 약 3만 명을 클로드로 교육하고 개발자 수만 명에게 클로드 코드를 배포하며 액센츄어 안에 클로드 전문 조직을 공동 투자하기로 했어요. 이번 평가 파트너십 발표문은 이 관계를 언급하지 않아요. Anthropic