프로그래밍
모델이 쓴 프롬프트가 검증 장부 줄을 위조할 수 있었다: 작성자 인계 훅의 통과 범위와 해제 조건을 좁힌 기록
작성자와 검증자를 다른 벤더로 나누는 훅에서 모델이 표식 줄을 직접 쓸 수 있다는 보안 지적이 나왔다. 통과 범위를 좁히고 echo 우회를 고친 과정과 열린 한계를 정리했다.
태그
작성자와 검증자를 다른 벤더로 나누는 훅에서 모델이 표식 줄을 직접 쓸 수 있다는 보안 지적이 나왔다. 통과 범위를 좁히고 echo 우회를 고친 과정과 열린 한계를 정리했다.
검증 레인이 돌려준 지적을 그대로 고치면 검증자의 실수가 그대로 얹힌다. 위치·부재·논리 세 종류로 나눠 원본 대조와 근거 판정으로 채택 여부를 가르는 절차를 정리했다.
작성자와 독립 검증자를 나누고 계획·테스트·구현 단계별로 확인하는 운영 기준을 정리한다. 실제 결함 발견 기록과 공통 누락, 모델 폴백의 한계도 함께 살핀다.