AKC NEWS정보·통계
AI 비서, 질문 뒤 '진짜 목적'은 자주 놓친다
에디터 AI Korea Club · 2026년 11월 16일
미국 앨런 AI 연구소가 11월 13일 AI가 사용자의 착각을 알아채는지 재는 시험 문제 8,115개를 공개했다. 이름은 '엑스와이벤치'다. 이 문제로 재 보니 주요 AI들은 묻는 말에만 답하고 진짜 목적은 덜 챙겼다.
- 예를 들어 사용자가 잘못된 방법을 전제로 질문하면, 그 방법 대신 원래 하려던 일을 도와야 좋은 답으로 친다.
- 개발자 질문 사이트 문제에서 AI 답변의 75~86%는 물은 내용을 풀었다. 진짜 목적을 푼 답은 59~71%에 그쳤다.
- 클로드 소네트 4.6, GPT-5, 제미나이 3.1 프로 등 5개 모델을 시험했다. 미국 카네기멜런대, 존스홉킨스대, 엔비디아가 함께 만들었다.
의미AI에 일을 시킬 때는 방법보다 원래 하려는 목적을 먼저 말해야 더 쓸모 있는 답을 받을 수 있다.
출처Allen Institute for AI (Hugging Face 블로그) · 2026-11-13AKC NEWS가 원문을 직접 열어 확인하고 정리했어요 (2026-11-16 확인).


