OpenAI, ChatGPT의 허위 정보 생성으로 또다시 유럽서 개인정보 보호 위반 논란 - 대한민국청소년의회 기자단 - 대학생,시민,청소년,대외활동 - ㈜오섹시코리아

techcrunch 통신에 따르면 OpenAI가 자사의 AI 챗봇인 ChatGPT의 허위 정보 생성 문제로 또다시 유럽에서 개인정보 보호(GDPR) 위반 논란에 휩싸였다. 이번에는 유럽의 개인정보 보호 단체인 Noyb(No Your Own Business)가 노르웨이의 한 개인을 지원하며 노르웨이 데이터 보호 당국에 공식적인 신고를 제기했다.

해당 사례는 ChatGPT가 노르웨이인 아르베 힐마르 홀멘(Arve Hjalmar Holmen)에 대한 질문에 그가 두 자녀를 살해하고 세 번째 자녀를 살해하려다 미수에 그친 혐의로 유죄 판결을 받았다고 허위 응답한 것에서 비롯되었다. Noyb는 이러한 AI의 잘못된 응답이 단순한 사실 오류를 넘어 심각한 명예훼손 및 법적 위험을 초래할 수 있다고 경고했다.
ChatGPT가 생성한 허위 정보는 단순한 실수가 아니라, 유럽연합(EU)의 일반 개인정보 보호법(GDPR)에 명백히 위배될 수 있는 문제라는 것이 Noyb의 주장이다. GDPR에 따르면, 기업은 사용자의 개인정보를 정확하게 관리할 의무가 있으며, 잘못된 정보가 생성되었을 경우 이를 수정할 권리를 보장해야 한다.

그러나 OpenAI는 사용자가 직접 정보를 정정할 수 있는 기능을 제공하지 않으며, 대신 특정 질문에 대한 응답을 차단하는 방식으로 대응해 왔다. 이에 대해 Noyb의 데이터 보호 변호사 요아킴 쇠데르베리(Joakim Söderberg)는 다음과 같이 지적했다.GDPR 위반이 인정될 경우 OpenAI는 전 세계 연 매출의 최대 4%에 해당하는 과징금을 부과받을 수 있다.
이전에도 ChatGPT가 사실이 아닌 정보를 생성하는 문제는 꾸준히 제기되어 왔다. 대표적인 사례로는 호주 시장(Mayor)이 뇌물 및 부패 스캔들에 연루되었다는 허위 정보 생성, 독일 언론인이 아동 학대 혐의를 받았다는 거짓 응답 등이 있다.
이번 사례에서도 ChatGPT는 홀멘의 출생지와 자녀의 성별 등 일부 사실을 정확히 답변하면서도, 그가 자녀를 살해했다는 끔찍한 허위 정보를 추가했다. 이는 AI가 특정 패턴을 학습하는 과정에서 훈련 데이터에 포함된 강력 범죄 사례를 임의로 조합하여 응답했을 가능성을 시사한다.
Noyb는 OpenAI가 AI 모델을 개선하는 과정에서 홀멘에 대한 허위 정보 응답이 중단되었음을 확인했으나, 이전의 허위 응답이 모델 내부에 남아 있을 가능성을 배제할 수 없다고 우려를 표했다.
Noyb는 이번 문제를 OpenAI의 아일랜드 지사가 아니라 미국 본사를 대상으로 제기하면서, 노르웨이 규제 당국이 직접 조사에 착수할 것을 기대하고 있다. 그러나 OpenAI는 2024년 유럽 사용자 서비스를 아일랜드 지사에서 운영하도록 변경했기 때문에, 이전 사례와 마찬가지로 아일랜드 데이터 보호 위원회(DPC)가 조사를 담당할 가능성이 높다.
현재 DPC는 오스트리아에서 2024년 4월에 제기된 OpenAI 관련 GDPR 위반 신고를 여전히 검토 중이며, 아직 명확한 결론을 내리지 않은 상태다. 이에 따라 노르웨이 당국이 직접 조사를 개시할지, 아니면 기존처럼 아일랜드 DPC로 사건이 이관될지 귀추가 주목된다.Noyb의 변호사 클레안티 사르델리(Kleanthi Sardeli)는 AI 기업들이 GDPR 규제를 무시하는 태도를 더 이상 용인해서는 안 된다며 강력한 법적 조치를 촉구했다.

유럽 내 ChatGPT의 개인정보 보호 문제는 단순한 개별 사건이 아니라, AI의 신뢰성과 규제 준수 여부를 둘러싼 전반적인 논쟁으로 확산되고 있다.

OpenAI는 과거에도 이탈리아 개인정보 보호 당국의 제재로 인해 ChatGPT 서비스가 일시 중단된 바 있으며, 이후 사용자 정보 보호 정책을 일부 변경하기도 했다. 하지만 이번 사건처럼 심각한 허위 정보 생성 문제가 반복된다면, 유럽 규제 당국이 보다 강력한 조치를 취할 가능성도 배제할 수 없다.
유럽 내 AI 규제 강화 움직임 속에서, OpenAI가 ChatGPT의 개인정보 보호 및 정보 정확성을 어떻게 개선할 것인지가 향후 주요 관전 포인트가 될 전망이다.

원문바로가기: ChatGPT hit with privacy complaint over defamatory hallucinations | TechCrunch
RSS피드 기사제공처 : 청년개발자신문 / 등록기자: IT개발자협동조합 기자단 무단 전재 및 재배포금지
해당기사의 문의는 기사제공처에게 문의
모바일 주민등록증, 발급부터 사용까지~ 이 영상 하나면 끝!
오늘도 사람 찾으시나요? ‘모든인력앱’에서 단숨에 해결!
인력사무소 대표가 직접 추천하는 한 방 구인·구직 앱
학교복지진흥사회적협동조합 제11회 정기총회 2025년
2025.03.01 윤석열 대통령 탄핵반대 광화문 국민대회 현장에 전국에서 모인 시민들…