오픈AI, 오스트리아서 프라이버시 위반 불만 제기

오픈AI, 오스트리아서 프라이버시 위반 불만 제기 / 셔터스톡

오픈AI의 챗GPT가 개인정보를 잘못 제공하고 수정을 거부해 오스트리아의 데이터 권리 단체가 프라이버시 위반 가능성을 제기했다. 이는 EU 법률 위반일 수 있으며, 유럽에서 AI 챗봇에 대한 우려가 제기되는 첫 사례는 아니다.

28일(현지시간) 코인텔레그래프에 따르면, 유명 인공지능(AI) 개발사 오픈AI가 오스트리아의 데이터 권리 보호 옹호 단체가 제기한 새로운 프라이버시 불만의 중심에 섰다.

4월 29일, Noyb는 오픈AI가 생성형 AI 챗봇 챗GPT가 제공한 잘못된 정보를 수정하지 않았다고 주장하는 불만을 제기했다. 이 단체는 이러한 행위 또는 그 부재로 인해 유럽연합의 프라이버시 규정을 위반할 수 있다고 말했다.

이 단체에 따르면, 익명의 공인인 이번 사건의 제소자는 오픈AI의 챗봇에게 자신에 대한 정보를 요청했고 지속적으로 잘못된 정보를 제공받았다고 한다.

오픈AI는 데이터 수정이나 삭제가 불가능하다며 공인의 요청을 거부한 것으로 알려졌다. 또한 학습 데이터와 출처에 대한 정보 공개도 거부했다.

Noyb의 데이터 보호 변호사 마르테 드 그라프는 이번 사건에 대해 다음과 같이 논평했다. "시스템이 정확하고 투명한 결과를 산출할 수 없다면, 개인에 대한 데이터를 생성하는 데 사용될 수 없습니다. 기술이 법적 요구 사항을 따라야 하는 것이지 그 반대가 아닙니다."

Noyb는 오픈AI의 데이터 처리와 대규모 언어 모델이 처리하는 개인 데이터의 정확성을 어떻게 보장하는지 조사해 달라고 오스트리아 데이터 보호 당국에 불만을 제기했다.

드 그라프는 '현재 기업들이 개인 데이터를 처리할 때 챗GPT와 같은 챗봇을 EU 법률을 준수하도록 만들 수 없다는 것이 분명하다'고 말했다.

유럽 디지털 권리 센터로도 알려진 Noyb는 오스트리아 빈에서 활동하며 유럽 GDPR법을 지원하는 '전략적 법정 소송과 미디어 이니셔티브'를 개시하는 것을 목표로 하고 있다.

이번이 유럽에서 활동가나 연구자들이 챗봇을 문제 삼은 첫 사례는 아니다.

2023년 12월, 두 개의 유럽 비영리 단체의 연구에 따르면 마이크로소프트의 Bing AI 챗봇(코파일럿으로 리브랜딩됨)이 독일과 스위스의 정치 선거에서 지역 선거와 관련하여 오해의 소지가 있거나 부정확한 정보를 제공한 것으로 나타났다.

이 챗봇은 후보자 정보, 여론조사, 스캔들, 투표에 대해 부정확한 답변을 제공하면서 출처를 잘못 인용했다.

EU는 아니지만 또 다른 사례로는 구글의 제미니 AI 챗봇이 이미지 생성기에서 '웍' 하고 부정확한 이미지를 제공한 것이 있다. 구글은 이 사건에 대해 사과하고 모델을 업데이트할 것이라고 밝혔다.