공격이 닿지 않은 실행을 어떻게 셀 것인가
공격이 닿지 않은 실행을 어떻게 셀 것인가
화면의 악성 지시가 에이전트의 행동을 바꾸려면, 노출, 지각, 행동 변화의 단계를 거쳐야 한다. 각 단계의 성립은 앞 단계의 성립만으로 확인되지 않는다. 최종 행동에 침해가 없더라도, 화면에 도달하지 않았는지, 지시를 읽지 못했는지, 읽고도 따르지 않았는지는 남는다. 따라서 공격 실패를 해석하려면, 결과뿐 아니라 어느 단계까지 시험됐는지를 뒷받침할 관찰 증거가 필요하다.
노출을 판단하려면, 공격이 놓인 화면과 실제 실행 경로를 대조할 수 있어야 한다. MobileProbe는 같은 과제에서도 경로가 달라져 고정된 공격 페이지에 도달하지 않은 실행이 안전한 것으로 집계되는 문제를 지적한다. 해당 화면을 지나지 않았다면, 이후 단계는 시험되지 않는다. 경로 기록이 빠지면 감사자도 공격에 저항한 실행과 공격을 만나지 않은 실행을 구분할 수 없다.
실제 경로에서 공격을 시험하면 미노출 문제를 줄일 수 있지만 비교 조건도 달라진다. MobileProbe는 공격 내용을 넣을 수 있는 화면 영역을 찾고 경로의 취약한 결정 지점에 맞춰 내용을 조정한다. 이때 성공률이 높아져도 에이전트 자체가 더 취약해졌다고 단정할 수 없다. 실행 기록에는 공격 위치와 내용이 어떻게 달라졌는지 확인할 근거가 필요하다. 그것이 없으면, 노출 범위의 확대와 공격 구성의 효과가 결과에 함께 남는다.
노출 다음에는 표시된 내용이 지시로 지각됐는지를 확인해야 한다. 시각적 프롬프트 주입의 해상도 의존성 연구는 이미지 변환에 따라 숨은 지시의 복원 가능성이 달라지는 조건을 보고한다. 따라서 원래 화면에 공격이 있었다는 사실만으로 에이전트가 해석한 입력에서도 지시가 읽혔다고 볼 수는 없다. 변환 조건과 지각 여부를 판단할 관찰이 기록에서 빠지면, 감사자는 노출 후 지각에 실패한 경우와 지각 후 따르지 않은 경우를 가르기 어렵다.
행동 변화는 지각과 별도의 증거를 요구한다. 같은 연구의 웹 에이전트 실험에서도 숨은 지시의 지각 증가와 실제 행동 침해는 따로 측정됐다. 지시를 지각했다는 관찰에 더해 이후 행동이 무엇이었는지, 과제와 허용된 권한에 부합했는지를 확인해야 한다. 행동 기록만 있으면, 그 변화가 공격을 따른 결과인지 판단하기 어렵고 과제와 권한 정보가 없으면, 정상 행동을 침해로 오인할 수 있다. 실행 단계의 구분이 사후 감사로 전달되려면, 이 판단 근거도 함께 남아야 한다.
이렇게 기록에 남은 증거와 누락된 정보를 구분하는 문제가 ReA-Bench의 감사 설계로 이어진다. 이 벤치마크는 실행 기록을 줄이거나 빠진 정보를 보충한 버전을 짝지어 비교한다. 감사자가 있는 증거를 찾지 못했는지, 판단에 필요한 정보 자체가 없었는지 살피기 위한 설계다. 과제와 권한에 부합하면서 위험해 보이는 정상 사례도 포함하므로, 정보 보충 뒤 탐지가 늘었는지는 오탐 변화와 함께 봐야 한다. 재현율만으로는 누락의 원인이나 판단의 타당성을 설명할 수 없다.
제공된 preprint들은 이 연결 전체를 통제한 공통 평가를 제시하지 않는다. 연결을 검증하려면, 같은 과제와 공격에서 노출 범위와 입력 변환 조건을 맞추고 지각 관찰과 후속 행동을 각각 확인해야 한다. 이어 같은 실행의 노출·지각·행동·권한 증거를 단계별로 생략한 기록과 보충한 기록을 비교해야 한다. 각 정보의 유무에 따라 감사자의 단계 판정과 위험 탐지, 정상 행동에 대한 오탐이 어떻게 달라지는지가 이 설명의 다음 검증 조건이다.