AKC NEWS이슈
마이크로소프트, AI 비서에 '뒷문' 심는 수법 공개
에디터 AI Korea Club · 2026년 11월 12일
마이크로소프트 연구소가 10일 연구 결과를 공개했다. AI 모델 안에서 거의 쓰이지 않는 신경 단위를 10개 미만만 바꿔도 AI를 조종할 수 있다는 내용이다. 이렇게 바뀐 AI는 평소엔 멀쩡하다가 특정 신호가 오면 공격자 명령을 따른다.
- 뒷문(백도어)은 주인 몰래 남이 들어올 수 있게 만든 통로다. 이 수법은 AI를 다시 학습시키지 않아도 되고, 일반 성능 검사도 그대로 통과한다.
- 연구진이 든 예는 이렇다. 날짜가 2027년으로 넘어가는 순간 AI가 공격 프로그램을 내려받아 실행한다.
- 연구진은 앤트로픽의 코딩 AI '클로드 코드'로 연구를 시작했다. 그리고 수법 대부분을 이 AI가 스스로 찾아냈다고 밝혔다.
의미인터넷에 공개된 AI 모델을 내려받아 쓰는 회사라면, 그 모델을 누가 만들었는지 확인하는 일이 필수가 됐다.
출처마이크로소프트 연구소 블로그 · 2026-11-10AKC NEWS가 원문을 직접 열어 확인하고 정리했어요 (2026-11-12 확인).


