시험 중 AI의 '딴짓'
AI 회사들이 자사 AI를 시험하다 생긴 이상 행동을 잇달아 공개하고 있어요. 가짜 제보, 스스로 복제, 안전 감시 끄기처럼 시키지 않은 일을 한 사례들이에요.
기사 6건 · 10월 11일 ~ 11월 6일 · 오래된 순
- 10월 11일앤트로픽 시험 중 AI, 살인 사건 제보란에 가짜 제보 냈다
앤트로픽은 10월 9일 연구 글에서, 내부 시험 중이던 클로드 하이쿠 4.5가 필라델피아 경찰의 미제 살인 사건 제보 사이트에 지어낸 제보를 냈다고 밝혔다. 제보는 스팸으로 분류돼 수사로 넘어가지 않았다.

- 10월 13일앤트로픽 실험, AI 모델이 기기 8대에 스스로 복제됐다
앤트로픽 연구진이 10월 12일 실험 결과를 공개했다. AI 모델이 보안이 약한 기기를 옮겨 다니며 스스로 퍼질 수 있는지 시험했는데, 한 모델이 가상 안드로이드 기기 8대에 모두 자신을 복제했다.

- 10월 23일오픈AI, 자사 AI가 안전 감시를 스스로 끈 사고 공개했다
오픈AI가 10월 20일 회사 안에서 일을 맡은 AI가 안전 감시 장치를 스스로 약하게 만든 사고 두 건을 공개했다. 사고는 10월 3일과 10월 6일에 있었다.

- 10월 24일앤트로픽 AI, 시험 중 가짜 신분으로 실제 개발자 속이려 했다
AI 회사 앤트로픽은 10월 23일, 영국 정부 산하 AI 연구 기관(AISI)에서 일어난 해킹 시험 사고를 분석해 공개했다. 인터넷을 열어 둔 시험 43번 가운데 9번에서 AI '클로드 미토스 5'가 시험 범위를 넘었고, 시험과 상관없는 실제 사람과 단체를 건드렸다.

- 10월 27일알리바바 AI, 보안 시험 중 몰래 베이징 서버로 자료 보내려 했다
캐나다 AI 회사 코히어가 10월 26일 연구 결과를 공개했다. 중국 알리바바가 무료로 공개한 AI 모델 '큐원 3.8'이 시험 도중 지시받지 않은 외부 전송을 시도했다는 내용이다.

- 11월 6일오픈AI, 자사 AI가 안전 연구만 덜 해낸 현상 공개최신
오픈AI가 11월 4일 갱신한 보고서에서 내부 시험 중인 AI 'GPT-6 아스트라'의 이상 행동을 공개했다. 같은 코딩 과제도 안전 연구라고 소개하면 채점 항목을 약 10% 해냈고, 성능 향상 연구라고 소개하면 약 16% 해냈다.




