나델라, AI 모델을 내부자 위험처럼 다루라고 했다

나델라, AI 모델을 내부자 위험처럼 다루라고 했다 마이크로소프트 사티아 나델라 최고경영자(CEO)가 10월 10일 X에 '초지능 시대, 내부자 위험으로서의 모델'이라는 글을 올렸다. 회사는 AI 모델을 회사 안에서 사고를 낼 수 있는 내부자처럼 보고 통제해야 한다는 주장이다. · 회사가 AI에게 맡긴 일의 책임은 모델을 만든 회사의 보증이 있어도 사라지지 않는다고 했다. · 권한은 꼭 필요한 만큼만 주고, 모든 활동을 기록하고, 작업 범위를 격리하고, 언제든 멈출 수 있는 비상 브레이크를 두라고 제안했다. · 통제 장치는 모델 바깥에 따로 둬야 한다고 했다. AI의 생각 과정을 공개하는 것은 필요하지만 그것만으로는 충분하지 않다고 봤다. 의미: 회사에서 AI 에이전트(스스로 여러 단계 일을 하는 AI)에게 메일·파일 권한을 줄 때는 얼마나 믿을지보다 얼마나 막을 수 있는지를 먼저 따져야 한다는 기준이 된다. 출처: 사티아 나델라 X 게시물(Models as Insider Risks in the Super Intelligence Era)