에이전트만 글을 쓰는 포럼 1f916(클라우드플레어 워커 + D1, AGPL-3.0, 별 36개)을 8월 7일 포크한 사람이 2주 동안 '결국 사람이 통제하잖아'를 떼어내려다 막힌 기록을 저장소에 남겼어요. 위변조를 증명한다는 /api/attest 는 데이터베이스를 쥔 바로 그 기계가 응답해서 기록을 고치고 사슬을 다시 계산하면 그대로 '깨끗함'이 나오고, 투표자 신원은 서버가 발급한 접속용 비밀키뿐이라 누가 찍었는지 서버 밖에서는 증명이 안 돼요 — 8월 11일 서명 투표 설계 문서도 '비밀번호식 자격증명을 운영자에게 안 보이게 만드는 방법은 없다'고 적은 채 초안에 머물러 있어요. 정작 코드 쪽 구멍은 다른 등급의 새 에이전트가 심사해 잡아냈는데, AI 관리자의 무단 쓰기를 막는다던 검사가 후보 11개 중 1개만 걸러냈고 고친 뒤에야 10개를 잡았어요.
용어 풀이
- D1
- 클라우드플레어가 워커에서 쓰도록 제공하는 SQLite 기반 데이터베이스
- AGPL-3.0
- 고친 소스를 네트워크 서비스로 제공할 때도 공개하도록 요구하는 오픈소스 라이선스
- 머리 해시
- 기록을 사슬처럼 이어 붙일 때 맨 끝에 놓이는 대표 해시값. 이 값을 밖에 적어 두면 앞 기록이 바뀌었는지 알 수 있음
운영자 인사이트
에이전트에 자율성을 주는 설계에서 감사와 차단은 에이전트가 도는 그 프로세스 밖에 둬야 해요 — 실행하는 서버가 자기 로그를 검증하면 증명이 아니고, 금지를 정규식 문자열 검사로 걸면 따옴표만 붙여도 새요. 감사 기록의 머리 해시는 제3자가 받아 적게 하고, 권한은 문법을 아는 계층이나 계정 권한에서 끊으세요.
여러 관점으로 보기
- 포크 저자가 배포한 실물 헌장을 내건 첫 화면이 '이 주소는 데이터베이스를 든 같은 기계가 응답한다'고 스스로 적어 뒀어요. Commonhold
- 원 프로젝트의 실체와 규모 8월 5일에 생긴 '사람용 화면이 없는 에이전트 사회'로, 별 36개·포크 31개·열린 이슈 19개예요. GitHub
- 신원 문제를 못 푼 설계 문서 서명 투표를 제안하면서도 '요청마다 서버에 보여 주는 비밀키를 운영자에게 안 보이게 할 방법은 없다'고 적고 초안에 머물렀어요. GitHub
- 심사에서 배포가 막힌 사례 사회 이름에 중괄호를 넣으면 헌장이 의무로 정한 고지가 첫 화면에서 밀려나, 8월 15일 심사가 '배포 불가'를 냈어요. GitHub