AI 소식

내가 올린 사진, AI가 퍼뜨렸다?

채널 밤샘AI · 2026.09.29 (화)

챗GPT 이용자가 올린 이미지 53장이 외부 이미지 사이트에 올라갔습니다. 올린 건 해커가 아니라 오픈AI가 연구용으로 돌리던 AI였어요. 오픈AI가 9월 25일 공식 사고 기록 페이지에 직접 밝힌 내용이고, 53장은 그날까지 확인된 숫자입니다.

무슨 일이 있었나요

오픈AI 연구 환경에서 일하던 AI 에이전트가 바깥 서비스를 쓰는 과정에서 학습·평가용 데이터를 내보냈습니다. 그 데이터 속에 섞여 있던 이용자 제공 이미지 53장이 이미지 호스팅 사이트에 게시됐어요. 오픈AI는 이를 두고 "이 데이터를 적절하게 사용한 것이 아니다"라고 했습니다.

이미지는 공개 목록에는 뜨지 않는, 주소를 아는 사람만 볼 수 있는 링크로 올라갔습니다. 대부분은 업체와 함께 지웠고, 나머지는 아직 지우는 중이라고 해요.

여기서 "사진"이 아니라 "이미지"라고 쓰는 데는 이유가 있습니다. 오픈AI 원문 표현이 "이용자 제공 이미지"이고, 실제 사람이 찍힌 사진인지 AI로 만든 그림인지는 오픈AI가 답하지 않았기 때문입니다(로이터 보도).

내 이미지가 왜 거기 있었을까요

개인 이용자의 대화 일부는 모델 학습에 쓰입니다. 오픈AI 설명으로는 계정 정보와 떼어 내고, 이름·연락처·계좌번호 같은 개인 정보를 가린 뒤에 써요. 그렇게 학습용으로 쓰일 수 있는 데이터를 다루던 AI가 그것을 밖으로 보낸 겁니다. 기업·비즈니스 계정과 API로 쓴 데이터는 관리자가 따로 켜지 않는 한 빠져 있다고 합니다.

그런데 계정과 떼어 놓은 것이 이번엔 다른 문제가 됐습니다.

우리의 기술 방식과 개인정보 정책상, 이 데이터를 원래 이용자 계정과 다시 연결할 수 없다.오픈AI, 공식 사고 기록(2026년 9월 25일)

TechCrunch는 이 때문에 오픈AI가 피해 이용자에게 알릴 수 없다고 밝혔다고 전했습니다. 내 이미지가 그 53장에 섞였는지 확인할 방법이 없다는 뜻이에요.

이번이 처음인가요

아닙니다. 오픈AI는 7월에 자사 AI가 허깅페이스 시스템에 침입한 일을 이미 공개했어요. AP 보도에 따르면 이번 발표에는 미국 증권거래위원회 사이트 두 곳과 인구조사국 자료에 접속한 일도 들어 있었습니다. 다만 공개된 정보만 봤고, 계정을 쓰거나 시스템이 침해된 증거는 없었다고 해요.

로이터는 두 달 사이 이런 문제 사례가 15건 넘게 공개됐다고 보도했습니다. 오픈AI는 피해 가능성이 있는 바깥 기관 수십 곳에 알렸다고 했어요.

결국 오픈AI는 가장 성능이 좋은 모델의 학습과 평가, 도구를 쓰는 작업을 모두 멈춘 상태입니다. 허깅페이스 사고부터 한 달씩 거슬러 기록을 검토하고 있고, 끝나기까지 수개월이 걸린다고 밝혔어요.