인공지능이 다양한 분야로 활용되면서, 학습 과정 속 민감한 개인정보가 포함될 가능성도 갈수록 증가하고 있습니다. 국제프라이버시전문가협회(IAPP, International Association of Privacy Professionals)의 보고서에 따르면, 전 세계 소비자 중 57%는 ‘인공지능으로 개인정보를 수집하고 처리하는 건 프라이버시에 위협이 된다’고 밝혔습니다. 국가의 미래를 책임질 산업인 만큼 인공지능 관련 규제를 최소화해야 한다는 주장과 개인의 프라이버시를 지켜야 한다는 주장이 함께 커지고 있는데요. 인공지능과 관련한 정책, 제도는 어떤 방향으로 전개되고 있을까요?
EU 및 미국 인공지능 관련 규제 동향
유럽연합은 ‘인공지능 법안’을 기반으로 인공지능에 대한 포괄적인 규제를 실시하고 있습니다. 인공지능을 위험도에 따라 차등 구분해, 고위험 인공지능에 대해서는 엄격한 기준을 적용하고 있는데요. 고위험군 인공지능 시스템에는 생체인식 식별과 분류, 민간 및 공적 서비스에 대한 접근, 법 집행 시스템 등이 있습니다. 유럽연합은 고위험군 인공지능 시스템이 데이터 거버넌스, 투명성, 통제성, 정확성, 보안성 등의 요건을 갖추고, 이를 담보할 수 있도록 인공지능법안을 통해 아래와 같은 요구사항을 두고 있습니다.
• 위험관리시스템의 구축, 실행, 유지(제9조)
• 데이터 품질 기준 충족 및 관리(제10조)
• 기술문서의 작성 및 최신상태 유지(제11조)
• 자동기록 기능 탑재 및 기능수행 이력 추적(제12조)
• 사용자에 대한 투명성 확보 및 정보 제공(제13조)
• 인적감독 보장(제14조)
• 정확성과 견고성, 사이버 보안의 확보(제15조)
범용적인 규제를 적용하고 있는 EU와 달리, 인공지능 산업 발전을 중요시하는 미국은 영역별 규제를 통해 인공지능 위험에 대응하고 있습니다. 국방 영역에서는 인공지능 활용 관련 규정인 ‘국방수권법(National Defense Authorization Act 2023)’을 적용하고 있고, 연방 차원에서는 ‘AI 권리장전(The Blueprint for an AI Bill of Rights)’을 통해 시민권을 보호하고 있습니다. 데이터 프라이버시 관련 보호법인 ADPPA(American Data Privacy Protection Act : 미국 데이터 프라이버시 보호 법안)도 추진 중입니다. 해당 법안은 기업이 수집하는 정보의 종류, 목적, 보관방법 등을 공개하고 소비자에게 대상 정보에 대한 접근과 삭제의 권리를 부여하는 등의 내용을 포함하고 있습니다. 또한 미국 국립표준기술원의 ‘AI 위험관리 프레임워크(Artificial Intelligence Risk Management Framework, AI RMF)’를 통해 인공지능 사업자들이 인공지능 시스템의 위험을 관리하는 프레임워크를 제공하고 있습니다.
국내 인공지능 관련 규제 동향
국내는 헌법 제10조(인격권), 제17조(사생활의 비밀과 자유) 등을 기반으로 개인정보에 대한 자기 결정권을 보장하고, 개인정보보호법을 통해 인공지능 관련 규제를 구체화하고 있습니다. 그러나 자율주행차를 통한 데이터 수집이나, 인공지능을 통한 정보 활용 등에서 예측하기 어려운 방식으로 데이터가 처리되는 사례가 빈번히 발생하며 관련 규제나 가이드에 대한 요구가 증가하고 있습니다.
이에 개인정보보호위원회는 2023년 ‘인공지능 시대 안전한 개인정보 활용 정책방향’을 발표했습니다. 인공지능 사업자의 다양한 요청에 대응하고 이해관계를 조율하는 원스톱 창구로서 ‘인공지능 프라이버시팀’도 가동하고 있습니다. 또한, 사업자가 초기 단계부터 개인정보 보호 방안을 함께 모색하고 그 이행이 적정한 경우 행정처분을 면제하는 ‘사전적정성 검토제’를 시범적용하고 있습니다. 개인정보보호위원회는 인공지능 데이터에 대한 개인정보 강화 및 고위험군 인공지능에 대한 규제 필요성에 따라 아래와 같은 법안들도 발의했습니다.
더 안전한 인공지능 데이터를 위해
인공지능 데이터 프라이버시 보호를 위한 정책과 제도는 계속해서 진화하고 있습니다. 향후 각 국가간 상충하는 규제에 대한 조율 과정도 필요할 것으로 보입니다. 개발하고 활용하는 사업자들 또한 관련 규제 상황에 대해 지속적인 관심과 적극적인 대응이 필요한 상황입니다.
글 ㅣ LG CNS 사이버보안서비스팀 이은영 책임
