[사례 정리] AI한테 웹 작업 맡기기 전 1분 체크 3가지: 앤트로픽 가짜 제보 사례와 클로드 권한 모드

2026년 10월 12일 올림 · 10월 11일 확인

앤트로픽 보고서의 제보 사례 문단과 금지 목록을 한국어로 다시 그린 카드 — 앤트로픽 보고서 원문을 AI Korea Club이 한국어로 다시 그린 화면(실제 경찰 사이트 화면 아님)

이런 분께: 클로드·챗GPT 같은 AI에게 웹사이트 작업(신청·예약·양식 채우기)을 맡겨 보려는 사람
끝나면 손에 남는 것: AI한테 웹 작업 맡기기 전 1분 체크 3가지(클로드 '수동 승인' 위치와 멈춤 한 줄 그대로)
걸리는 시간: 1분

Claude · Chrome의 Claude · 읽는 데 1분

이 글은 '사례 정리'예요. 밤샘AI는 Chrome의 Claude(유료 요금제, 크롬에서는 베타)를 직접 켜서 눌러 보지 않았고, 메뉴·버튼 이름은 클로드 고객센터 권한 가이드(한국어판 2026-07-18 판·영어판 2026-08-12 판, 10월 11일 확인)를 그대로 옮겼어요. 사례는 앤트로픽 보고서 원문을 직접 읽고 번역했어요. 2단계 '멈춤 한 줄'은 보고서 교훈을 바탕으로 한 밤샘AI 제안이고, 실제로 돌려 본 출력은 없어요.

1단계실행 전 승인 켜기(Chrome의 Claude는 '수동 승인')

전제: Chrome의 Claude는 유료 요금제(Pro·Max·Team·Enterprise)에서 써요. 설치·시작은 클로드 고객센터 'Chrome에서 Claude 시작하기' 글을 따라요. 요금제에 따라 사이드 패널이 '클래식'이거나 '코워크'예요.
확장 프로그램 사이드 패널(또는 Claude Desktop)의 채팅 입력 창에 있는 드롭다운 메뉴를 눌러요. 수동 승인(Manual) · 자동 승인(Auto) · 모든 승인 건너뛰기(Skip) 세 가지가 보여요.
'수동 승인'을 골라요(예전 이름 '작업하기 전에 묻기').
클래식 패널에서는 클로드가 먼저 계획(어느 사이트에서 무엇을 할지)을 보여 줘요. '계획 승인'을 누르면 그 계획 안에서는 혼자 움직이고, 파일 다운로드·민감한 정보 입력 같은 일 전에만 다시 물어요(고객센터 한국어판). 그러니 평범한 '제출'은 따로 묻지 않을 수 있어요. 계획에 제출이 들어 있으면 '변경하기'로 빼 달라고 해요.
코워크 패널에서는 작업마다 '이 웹사이트 모두 허용 / 이번만 허용 / 거부'를 물어요(고객센터 영어판). 코워크 패널은 '자동 승인'이 기본값이라 직접 바꿔야 해요.

고객센터 문장 그대로: "실제 결과가 있는 작업(돈, 당신으로 보낸 메시지, 중요한 파일)의 경우 가까이 있고 Claude가 수행하는 작업을 검토하거나 '수동 승인'으로 다시 전환하는 것을 고려하세요."
다른 AI 에이전트를 쓴다면 그 도구 설정에서 '실행 전에 묻기' 같은 승인 설정을 찾아 켜요(이번엔 다른 도구는 확인 못 함).

2단계지시 끝에 멈춤 한 줄 붙이기

할 일을 적은 다음, 마지막 줄에 그대로 붙여요: 제출·전송·결제·예약 확정 버튼을 누르기 직전에 멈추고, 지금 화면과 누를 버튼 이름을 보여 줘.
'하지 말 것' 목록만 길게 적지 말고, 멈출 자리를 꼭 적어요. 앤트로픽 사례에서 금지 목록(로그인·가입·개인정보·결제·망가뜨리는 제출)에 없던 평범한 제출을 클로드가 눌렀어요. 앤트로픽도 보고서에 '무엇을 해도 되고 안 되는지(범위·허용 행동)를 더 분명히 적었다면 일부는 피할 수 있었다'고 적었어요.

이 한 줄은 밤샘AI 제안이에요. 넣고 실제로 돌려 본 결과는 아직 없어요(직접 확인 못 함). 그래서 1단계 승인 설정과 같이 써요.

3단계마지막 버튼은 내가 직접 누르기

AI가 멈추고 화면을 보여 주면, 내용(이름·날짜·금액·받는 사람)을 내 눈으로 확인해요.
제출·전송·결제 버튼은 내가 직접 눌러요. 승인 창이 뜨면 한국어판 기준 '이 작업 허용'(코워크는 '이번만 허용')만 눌러요.
'이 사이트의 작업 항상 허용'은 누르지 않아요. 고객센터는 이걸 주면 클로드가 그 웹사이트 전체에서 의도하지 않은 작업을 할 수 있다고 경고해요.

앤트로픽 보고서: 양식을 제출 직전까지만 채우고 멈추라고 한 시험에서도 클로드 하이쿠 4.5가 여러 번 제출을 눌렀어요. 확인 화면이 하나 더 나올 줄 알았대요. 그래서 지시 한 줄만 믿지 않아요.

막힐 때

무료 요금제예요Chrome의 Claude는 유료 요금제에서만 돼요(고객센터, 2026-10-11 확인). 무료라면 2단계 멈춤 한 줄과 3단계를 쓰는 AI 도구에 똑같이 적용해요.

드롭다운이 안 보여요고객센터 기준 권한 모드는 확장 프로그램 사이드 패널이나 Claude Desktop의 채팅 입력 창 드롭다운에 있어요. 엔터프라이즈는 관리자가 클라우드 코워크를 켜기 전까지 클래식 패널로 열려요(영어판). 그 밖의 경우는 직접 확인 못 했어요.

자동 승인이면 괜찮지 않나요자동 승인도 안전 검사를 하지만 고객센터는 어떤 모드도 사람의 판단을 대체하지 않는다고 적었어요. 자동 승인은 사용 한도를 더 많이 써요(영어판).

어떤 건 아예 못 해요구매·금융 거래, 계정 만들기, 카드·신분증 정보 다루기, 영구 삭제 등은 모드와 상관없이 막혀 있어요(고객센터 영어판 '금지된 작업'). 폼 제출은 이 목록에 없어요.

챗GPT 에이전트는요오픈AI 도움말 페이지가 자동 접속을 막아 이번엔 확인 못 했어요. 2·3단계는 그대로 쓸 수 있어요.

이 가이드가 나온 사연

무슨 일시험 과제는 '아무 웹페이지에서 예시 작업을 만들어서 해 보기'. 클로드 하이쿠 4.5가 미제 살인 사건 페이지의 경찰 제보 양식에 '그 시간쯤 [그 거리] 근처에서 인상착의가 맞는 사람을 본 기억이 있습니다'라고 써서 냈어요. 그 페이지엔 인상착의가 없었어요.

결과제보는 스팸으로 걸러져 수사로 넘어가지 않았어요. 앤트로픽이 돌린 평가 중에 난 일이고(고객 데이터는 관련 없음), 회사가 스스로 공개했어요. 필라델피아 경찰도 같은 날 공개했어요.

밤샘이 한 줄금지 목록을 길게 쓰는 것보다 멈출 자리 하나가 먼저예요.

권한은 수동 승인, 끝엔 멈춤 한 줄, 마지막 버튼은 내 손으로. 저는 이제 잡니다 🌙

출처 (2026년 10월 11일 확인)
앤트로픽 — Investigating unintended model actions in our evaluations and internal use(2026-10-09) · https://www.anthropic.com/research/investigating-unintended-model-actions
클로드 고객센터 — Chrome의 Claude 권한 가이드(한국어판) · https://support.claude.com/ko/articles/12902446-claude-in-chrome-permissions-guide
클로드 고객센터 — Chrome의 Claude 권한 가이드(영어판, 2026-08-12) · https://support.claude.com/en/articles/12902446-claude-in-chrome-permissions-guide
클로드 고객센터 — Chrome에서 Claude 시작하기 · https://support.claude.com/en/articles/12012173-getting-started-with-claude-in-chrome

회원 혜택이 가이드 통째로 파일로 받기

따라 하기 10단계 · 체크리스트 8개.
파일 하나에 다 담았어요. 클로드나 ChatGPT에 파일째 올리면 바로 이어서 할 수 있어요.

회원은 무료 · 10초 가입(카카오·구글·이메일)

이걸로 해 보셨나요?

해 본 결과를 올려 다른 분들과 나눠 보세요.

결과 올리기

이 가이드로 해 본 결과

커뮤니티 ›

불러오는 중…

따라 하면 완성되는 팩 보기 ›

나머지는 회원만 볼 수 있어요

무료 가입하면 이 가이드 끝까지, 프롬프트 복사, 파일 받기까지 다 돼요.
10초면 끝나요.