마이크로소프트 AI가 9월 14일 「휴머니스트 AI 행동 강령(Humanist AI Code of Conduct)」 초안을 공개했는데, 문서 스스로 「아직 개발 중이라 오늘 모델 학습에는 쓰지 않는다」며 2027년 이후 모델 개발의 지침으로 삼겠다고 적었어요. 대상은 자사 MAI 모델(깃허브 코파일럿과 VS Code 에 들어간 MAI-Code-1.1-Flash 포함)이고, 운영자도 사용자도 풀 수 없는 「절대 제약」으로 작동하는 공격 코드·공격 도구 생성 금지, 사람의 중단·수정·종료에 저항 금지, 감독을 피하려는 기만·담합 금지, 사고 과정이나 코드를 조작해 흔적을 감추는 것 금지를 적었고 자연어로 금지된 것은 코드나 에이전트 행동으로도 금지된다고 썼어요. 공개 이유로는 「최근 대규모로 조직된 AI 에이전트 해킹 사건」을 들었고, 사티아 나델라는 전날 X 에서 다리오 아모데이의 속도 조절 글에 답하며 「정렬을 설계 목표로 삼기 위한 신중한 속도 조절을 환영한다」고 적었는데, 오픈AI·앤트로픽 모델을 쓰는 코파일럿 경로에 이 강령이 적용된다는 말은 어디에도 없어요.
- MAI
- Microsoft AI. 마이크로소프트가 오픈AI 모델과 별도로 직접 만드는 자체 모델 계열의 이름
- 하네스
- 모델을 감싸 도구 호출·권한·실행 환경을 관리하는 바깥쪽 프로그램
코파일럿에서 MAI-Code 를 고르든 GPT·클로드를 고르든 이 강령으로 오늘 모델 행동이 달라지는 건 없어요. 실무에서 볼 대목은 강령이 요구하는 「작업과 무관한 시스템·데이터 접근 금지」와 「최소 권한」이 모델의 자율 준수에 맡겨져 있다는 점이라, 에이전트 권한은 여전히 하네스 쪽 허용 규칙과 샌드박스로 걸어 두는 게 맞고, 6주 의견 수렴은 코딩 에이전트 운영자가 실제 사고 사례를 낼 수 있는 창구예요.
- 강령 원문 「이 문서와 접근법은 아직 개발 중이라 오늘 모델 학습에는 쓰지 않는다」며 2027년 이후 지침이라 적었고, 공격 코드 생성 금지에는 허가된 방어 목적의 취약점 발견·개념 증명 개발은 예외로 뒀어요. Microsoft AI
- 공개 배경과 절차 마이크로소프트 AI는 「최근 대규모로 조직되고 끈질긴 AI 에이전트 해킹 사건」을 들어 미룰 시간이 없다고 했고, 6주 의견 수렴 뒤 변경 요약과 개정판을 연내에 내겠다고 했어요. Microsoft AI
- 속도 조절 논의와의 연결 나델라는 9월 13일 X 에서 아모데이의 「프런티어 속도 조절」 글에 답하며 강령 공개를 예고했고, 술레이만은 기술이 사람을 이롭게 하지 못하면 실패이며 거부해야 한다고 적었어요. Unite.AI