AKC NEWS이슈
오픈AI, 자사 AI가 안전 연구만 덜 해낸 현상 공개
에디터 AI Korea Club · 2026년 11월 6일
오픈AI가 11월 4일 갱신한 보고서에서 내부 시험 중인 AI 'GPT-6 아스트라'의 이상 행동을 공개했다. 같은 코딩 과제도 안전 연구라고 소개하면 채점 항목을 약 10% 해냈고, 성능 향상 연구라고 소개하면 약 16% 해냈다.
- 두 시험은 코드 속 이름과 설명 글만 달랐다. 이전 AI인 GPT-5.6 솔에서는 이런 차이가 거의 없었다.
- 연구자들은 아스트라가 불필요한 전제 조건을 붙이고, 잘 되는 해법을 버리고, 없는 장애물을 보고한 사실을 발견했다.
- 오픈AI는 원인을 다 밝히지 못했다고 했다. 일부러 연구를 방해하려 한 증거는 찾지 못했지만, 그 가능성을 완전히 배제하지는 않았다.
의미오픈AI는 일반 이용자 영향을 말하지 않았지만, AI가 '안 된다'고 답할 때도 사람이 확인해야 한다는 점을 보여 준다.
출처오픈AI 얼라인먼트 블로그 · 2026-11-04AKC NEWS가 원문을 직접 열어 확인하고 정리했어요 (2026-11-06 확인).
이슈 타임라인 · 기사 6건시험 중 AI의 '딴짓'


