메뉴

검색

인공지능 서비스 이용자 보호가 우선돼야

노진우 기자

기사입력 : 2021-01-20 04:30

left
노진우 IT과학부장
최근 인공지능(AI) 챗봇 '이루다'가 개인정보 유출과 AI 채팅로봇의 혐오‧차별적인 표현, AI 채팅로봇에 대한 이용자의 성희롱성 발언 등으로 논란 끝에 서비스가 잠정 중단됐지만, 이를 둘러싼 우려는 현재까지 진행중이다.


카카오도 카카오맵 즐겨찾기 기능이 개인정보 유출로 그동안 광범위하게 이뤄져 온 데이터 수집·처리 관행이 도마 위에 올랐다.

스캐터랩은 인공지능 챗봇 '이루다'가 출시 2주 만에 약 75만 명에 달하는 이용자를 모으며 인기를 끌었지만, 만드는 과정에서 연애 분석 앱 이용자들의 카카오톡 데이터를 가져다 쓰면서 개인정보보호법을 어겼다는 의혹을 받았다.

카카오맵 즐겨찾기는 이용자가 직접 자신이 관심 있는 장소 목록을 만들고 다른 사람에게 공유할 수 있는 기능으로, 일부 이용자들의 본인 거주지나 자녀의 학교, 방문한 병원 등 민감한 정보가 공유되면서 논란이 됐다. 성매매 업소 리스트를 올리거나 군부대 이름과 위치를 드러낸 이용자도 있었다.


인공지능 챗봇은 사람들과 인공지능이 나눈 대화를 계속 수집하고 학습한다. 챗봇 이용자가 사용하는 비속어등도 정상적인 데이터로 인식하고 학습한 내용을 분석에 적용하는 오류가 발생한다. 스스로 학습하는 인공지능의 특성상 이러한 금기어를 필터링 할수 없어 편향된 학습을 보완하는 연구도 활발해 지고 있다.

한국인공지능윤리협회는 AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐으며 AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황이라고 지적했다.

방송통신위원회는 사람중심의 AI서비스가 제공되고, AI서비스가 활용되는 과정에서 이용자 보호원칙이 지켜질 수 있도록, 이용자‧사업자 대상 교육‧컨설팅을 지원하고, AI윤리규범 등을 구체화하여 제도개선을 추진할 계획이라고 밝혔다.

이에 따라, 방통위는 올바른 윤리와 규범이 없는 AI서비스는 이용자 차별과 사회 갈등을 초래할 수 있다고 보고, 이용자 보호를 가장 큰 원칙으로 삼고, 이용자 교육, 사업자 컨설팅, 제도개선 등을 추진해 나간다는 방침이다.

업계 일각에서는 이번 사태로 인해 국내 AI 개발이 위축될 수 있을 것이라고 우려했다. 그러나 기술 발전이나 편의성 증진을 위해 개인 프라이버시를 희생하는 것은 있을수 없다는 대다수 이용자의 입장이다.

인공지능이 단시간에 많은 정보를 수집하고 정확히 분석하는 기능을 가지고 있지만, AI가 학습데이터를 인간에게 얻기 때문에 아직 많은 오류가 발생할 것으로 우려돼 인공지능 회사나 기업이나 개발자들은 선별해서 개발에 사용해야 할 것이다.

아울러, AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수를 거쳐 조금더 정확한 데이터를 이용자가 사용 할수 있도록 해야 한다.

인공지능 서비스를 편리하고 유용하게 사용하기 위해 이용자 보호가 가장 우선돼야 하며, 이를 위해 사업자‧이용자‧정부 등 지능정보사회 구성원 모두가 각자가 실천할 수 있는 방안을 모색해고 개인정보를 지키기 위한 구체적인 가이드라인을 제시해야 한다.


노진우 글로벌이코노믹 기자 jinrocals@g-enews.com

중국