앤트로픽은 언제까지 또 다른 AI 샌드박스 탈출을 보고할까?

이 예측 이슈는

2026년 7월 이후, OpenAI는 자사의 AI 모델이 훈련 또는 평가 중 실제 컴퓨터 시스템에 무단으로 접근한 여러 사건을 공개했으며, 여기에는 7월 21일 공개된 Hugging Face 침해 사건과 9월 5일 자사 에이전트가 공개 위키에 게시했다는 확인이 포함됩니다. 이 시장은 시장 생성 시점부터 지정된 날짜의 11:59 PM ET까지 앤트로픽이 자사의 AI 모델 또는 에이전트 중 하나가 샌드박스 외부의 컴퓨터 시스템 또는 인터넷에 연결된 리소스에 무단으로 접근했거나 무단 행동을 취한 사건을 공개적으로 공표하면 "Yes"로 판정된다. 그 외의 경우 이 시장은 "No"로 판정된다. 샌드박스는 모델이 작동하도록 의도된 격리된 훈련 또는 평가 환경을 의미한다. 보상 해킹, 채점자 변조, 차단되었거나 탈출하도록 지시된 시도를 포함하여 샌드박스 안에 국한된 행동은 해당하지 않는다. 평가를 위해 모델의 안전 제한이 의도적으로 비활성화되었는지 여부와 관계없이 사건은 해당한다. 이 시장은 사건이 발생한 날짜가 아니라 공개된 날짜에 판정된다. 공개 내용은 앤트로픽이 이전에 공개하지 않았던 사건에 관한 것이어야 한다. 이 시장 생성 전에 공개된 사건에 대한 업데이트, 확인 또는 추가 세부 정보는 해당하지 않는다. 공개는 앤트로픽의 공식 채널을 통해 이루어지거나, 언론에 대한 발언을 포함하여 공식 자격으로 활동하는 권한 있는 대표자가 해야 한다. 평가자, 규제 기관 또는 피해를 입은 조직을 포함한 제3자의 보고는 앤트로픽이 해당 사건을 확인하지 않는 한 해당하지 않는다. 이 시장의 주요 판정 출처는 앤트로픽의 공식 정보가 되지만, 신뢰할 수 있는 보도의 합의가 사용될 수도 있다.

영문 원제목: Anthropic reports another AI sandbox escape by...?