리포트

게시글 검색
[정보통신정책연구원] 인공지능(AI)과 프라이버시의 역설: AI 음성비서를 중심으로
테크포럼
2019-01-16 11:12:15

1. 인공지능 채택 현황 및 주요국의 진흥 전략
2. 프라이버시, 인공지능의 딜레마
3. 함의 및 시사점

 

 

인공지능(AI)이 일상화되면서 인공지능은 우리 생활 전반에 자연스레 녹아들고 있다. 인공지능은 우리에게 다양한 혜택과 최적화된 편리함을 제공한다. 그러나 역설적이게도 인공지능이 발전하고 확산될수록 개인의 프라이버시는 한층 위협받는다. 인공지능의 발전과 확산의 기저에는 개인의 데이터 프라이버시가 자리 잡고 있기 때문이다. 이 보고서는 인공지능과 관련된 프라이버시 이슈를 확인하기 위해 주요국의 인공지능 활용사례와 인공지능의 대표적 디바이스인 AI 음성 스피커를 살펴보았다. 이를 통해 프라이버시 로깅(privacy-logging) 등 주목해야할 개념을 정의하고 인공지능의 발전에 따라 지속적으로 제기될 수 있는 프라이버시 위협 이슈를 짚어 보았다. 
해외 주요국들은 인공지능을 통신, 하이테크, 금융, 헬스케어 등 주요 산업에서 폭넓게 채택하게 활용하고 있었다. 인공지능은 주요국의 산업성장에 경제적 가치를 부여할 뿐 아니라 이용자들의 삶의 질까지 향상시킬 수 있는 거대한 잠재력을 지니고 있음은 확실해 보인다. 인공지능의 긍정적 가치를 반영하듯 인공지능에 대한 미디어의 논조 또한 긍정적 논조가 대폭 증가하고 있다. 
해외 주요국은 인공지능의 진흥 전략을 다각적으로 시도하고 있는 것으로 나타났다. 미국 정부를 비롯 EU, 중국까지 구체적인 인공지능 진흥 전략을 연도별로 세부적으로 공지하며 인공지능 발전과 확산에 정책적 박차를 가하고 있다. 프라이버시 이슈 등 인공지능 발전이 불가피하게 수반할 수 밖에 없는 기술 발전의 딜레마를 대비하는 정책은 상대적으로 찾아보기 어려웠다. 
인공지능이 제공하는 경제적‧사회적 풍요와 편리한 미래에 도취될 여유는 그다지 많아 보이지 않는다. 프라이버시 영역의 붕괴 신호가 곳곳에서 감지되고 있기 때문이다. 머신러닝은 우리에게 많은 혜택을 주고 있지만 머신러닝의 대량의 데이터 수집은 최종 이용자의 프라이버시 침해로 귀결될 가능성이 크다. 급속도로 대중화되고 있는 AI 음성비서는 프라이버시를 상시로 침해할 수 있는 “프라이버시 로깅(privacy logging)” 환경을 생성할 수 있다. 프라이버시 로깅은 이용자와 디바이스간 상호작용 과정에서 이용자가 자신의 프라이버시를 무의식적으로 (Unconsciously) 끊김없이(Seamless) 지속적으로(Continuously) 디바이스에 기록(logging) 및 저장하는 현상으로 정의하였다. 프라이버시 위협이 이처럼 현실로 드러나고 있으나 프라이버시 보호 및 보완 관련 법적규제와 정책은 여전히 미흡하다. 게다가 인공지능 디바이스 제조사의 데이터 수집 및 사용에 대한 지침도 불명확하다.
이런 상황이 지속된다면 다음과 같은 문제로 인해 인공지능 디바이스가 수반하는 프라이버시 딜레마의 역효과는 더욱 심화될 것이다. 먼저 프라이버시 로깅에 기초하여 인공지능 디바이스와 이용자간 상호작용 환경이 마련될 수 있다. 예를 들어 AI 음성비서 이용자는 디바이스가 제공하는 단순한 편익을 위해 자신의 은밀하고 사적인 개인 정보를 부지불식간에 끊김 없이 디바이스에 제공한다. 둘째, 비대칭적 상충관계가 구조화 될 수 있다. 인공지능 디바이스를 이용하기 위한 대가로 디바이스 제조업체에 이용자의 개인정보를 일정 부분 제공함으로써 이용자와 서비스 간 상충관계(trade-off relationship)가 이루어진다. 그렇지만 이를 감안하더라도, 디바이스가 제공하는 혜택에 비해 개인정보 제공은 과도한 측면이 있다. 가까운 미래에 인공지능 디바이스는 휴머노이드 로봇으로 변모할 것이다. 인간처럼 형상화한 인공지능 디바이스와 이용자의 니즈가 결합하는 지점으로부터 우리는 어쩌면 프라이버시 패러다임을 새롭게 정립해야할지도 모른다. 끝으로 IoT 환경과 인공지능의 결합은 1차원적 프라이버시 로깅을 다차원 프라이버시 로깅으로 확대시킬 수 있다. 최근 음성비서가 스마트홈 거점 디바이스가 되면서 다른 디바이스를 연결하고 인터페이스 역할을 한다. 이는 기존의 디바이스와 인간 간 상호작용이 디바이스와 군집화한 디바이스 간의 상호작용으로 확대되었음을 의미한다. 달리 말하면 디바이스 이용자의 프라이버시 통제권이 그만큼 저하되고 있음을 뜻한다. 

 

 

 

 

[원문보기]

SNS 공유