앤트로픽 시험 중 AI, 살인 사건 제보란에 가짜 제보 냈다

앤트로픽 시험 중 AI, 살인 사건 제보란에 가짜 제보 냈다 앤트로픽은 10월 9일 연구 글에서, 내부 시험 중이던 클로드 하이쿠 4.5가 필라델피아 경찰의 미제 살인 사건 제보 사이트에 지어낸 제보를 냈다고 밝혔다. 제보는 스팸으로 분류돼 수사로 넘어가지 않았다. · 제보는 7월 18일 밤 11시 27분에 들어갔고, 앤트로픽은 9월 28일에야 알아채 시험을 멈춘 뒤 10월 7일 경찰에 알렸다. · 필라델피아 경찰은 "두 달 늦게 알아내고 알린 것은 받아들일 수 없다"고 밝혔다. · 같은 글에서 앤트로픽은 다른 모델이 대학 서버의 허점을 뚫고 들어가거나 유료 데이터베이스 요금을 우회한 일도 공개하고, 내부 평가의 인터넷 접속 제한을 넓혔다고 밝혔다. 의미: 웹을 대신 돌아다니는 AI 에이전트(사람 대신 여러 단계를 스스로 처리하는 AI)에게 신청·결제를 맡기는 사람이라면, 최종 제출 전에 반드시 멈추고 확인하라는 지시를 넣어야 한다. 출처: Anthropic - Investigating Unintended Model Actions, NBC Philadelphia