인공지능(AI) 기술이 우리 사회를 급속도로 변화시키고 있다는 것은 더 이상 부정할 수 없는 현실입니다. BHSN은 이러한 변화의 최전선에서 AI와 법률을 결합한 혁신적인 서비스를 제공하고 있습니다.
그러나 급격한 AI의 발전은 개인정보 침해에 대한 우려와 함께 이를 보호해야 한다는 중요한 과제를 함께 가져다주었습니다. 때문에 우리는 더 늦기 전에 AI 산업의 성장과 개인정보 이용 및 보호가 어떻게 함께 병행될 수 있을지에 대해 심도 깊은 논의를 진행해야 합니다.
따라서 이번 글에서는 떼려야 뗄 수 없는 AI와 데이터의 관계와 이로 인해 발생하는 기존 개인정보보호 원칙과의 충돌에 대해 살펴보겠습니다. 또한 AI 학습에 필수적인 데이터 이용과 관련된 최근 이슈를 검토하고, 둘 사이의 균형 있는 접근 방안을 제시하고자 합니다.
2022년 말 ChatGPT의 등장 이후 구글, 메타와 같은 빅테크 기업들도 경쟁적으로 생성형 AI 기술을 선보이기 시작하면서 AI는 이제 우리의 일상과 업무 환경을 급격히 변화시키고 있습니다. 헬스케어 분야에서는 질병의 식별과 검사에 AI를 활용하고 있으며, 제품 제조 공정에서도 AI를 통한 생산 고도화와 자동화를 구현하고 있습니다.
BHSN도 이러한 흐름에 발맞추어 법률과 AI 기술을 결합한 앨리비(allibee)서비스를 선보였습니다. 앨리비에 탑재된 리걸AI는 기업의 계약 관리 및 법무 관리 업무 효율화를 지원하고 있습니다. 또한 글로벌 법령과 정책 변화를 AI가 신속하게 탐지한 뒤 번역 및 요약, 분석하여 해외 진출 기업에 필요한 정보를 제공하기도 합니다.
이전에는 사람이 직접 여러 사이트를 방문해 찾아야 했던 일들이 AI를 통해 훨씬 쉬워졌습니다. 우리가 인터넷 없는 세상을 상상하기 어려운 것처럼 앞으로는 AI 없는 세상을 상상할 수 없을 정도로 다양한 분야로 확장되어 폭넓게 사용될 것이라 생각합니다.
AI의 진정한 힘은 데이터에서 나옵니다. "데이터는 새로운 원유"라는 표현이 있을 정도로 데이터는 AI 기술의 핵심 자원입니다. AI를 '똑똑하게' 만들기 위해서는 방대한 양의 데이터가 필수적이기 때문입니다.
대표적으로 OpenAI의 GPT-3.5는 1750억 개의 파라미터(매개변수)를 갖고 있는 것으로 알려져 있으며, 학습한 단어의 양만 약 3000억 개에 해당한다고 합니다. 이처럼 방대한 데이터를 학습했다 보니 이 안에는 개인정보도 포함될 수밖에 없으며, AI 기술이 발전함에 따라 개인정보 침해의 가능성도 커지게 됩니다.
결국 AI 혁신을 위한 데이터 활용을 보장함과 동시에, 개인정보를 보호하는 균형 있는 입법과 정책 형성이 필요한 시점인 것입니다.
앞서 살펴보았듯이 AI는 대량의 정보를 수집하고 분석하여 결과를 도출하는 기술인데, 이는 종종 기존의 개인정보보호 원칙과 충돌합니다.
대표적으로 개인정보보호의 주요 원칙은 개인정보 수집을 최소화해야 하며, 만약 불가피하게 수집해야 할 경우라면 특정 목적에 따라 필요한 범위 내에서만 수집해야 한다는 것입니다.
그러나 이는 효과적인 학습과 정확한 예측을 위해 가능한 많은 데이터를 필요로 하는 AI의 특성과 상충하는 원칙입니다.
이러한 AI와 개인정보보호 원칙 간 충돌의 대표적인 사례로 ‘클리어뷰 AI’의 안면인식 기술을 들 수 있습니다.
‘클리어뷰 AI’는 타임지의 ‘2021년 가장 영향력 있는 100개 기업’으로도 선정된 바 있는 미국의 안면인식 기술 전문 스타트업입니다. 이들은 SNS로 100억 장 이상의 공개된 사진을 수집해 데이터베이스를 구축하고 안면인식 AI를 개발했습니다.
미국 경찰은 ‘클리어뷰 AI’기술을 활용해 범죄 용의자를 신속하게 식별하고 체포하기도 했으며, 우크라이나 정부는 검문소에서 러시아군 관련 인물을 빠르게 색출하는 데 사용하고 있습니다.
그러나 이탈리아, 영국, 프랑스 등의 개인정보보호 기구는 개인정보보호법률 위반에 해당한다고 판단해 이들에게 과징금 부과 및 데이터 삭제 명령을 내렸습니다.
이와 같은 클리어뷰의 사례는 AI 기술이 사회에 유익한 기여를 할 수 있는 반면, 개인정보보호에 대한 원칙을 침해할 수도 있음을 보여주었습니다.
이러한 변화에 대응하기 위해, 개인정보보호 관련 법과 정책 역시 지속적으로 변화하고 있습니다. 이는 AI 기술의 발전과 개인의 권리 보호를 함께 병행하는 방향으로 이뤄지고 있습니다.
우선 2020년엔 데이터 3법 개정을 통해 가명 정보 활용 제도가 도입되었습니다. 이는 AI 등의 연구를 위해 필요한 데이터를 확보하는 일이 개인정보보호법상의 사전동의 규제로 인해 어렵다는 문제점을 해소하기 위한 조치였습니다.
이후 2023년 3월 개정된 개인정보보호법은 자동화된 시스템에 의한 결정이 개인의 권리에 중대한 영향을 미칠 경우, 이같은 결정을 거부하거나 설명을 요구할 수 있는 권리를 정보주체에게 부여했습니다. 덕분에 책임 있는 AI 기술의 사용을 강조함과 동시에 정보 주체 역시 자기 결정권을 보호할 수 있게 되었습니다.
또한 2023년 8월, 개인정보보호위원회는 AI 시대의 안전한 개인정보 활용을 위한 새로운 정책 방향을 제시했습니다. 해당 정책에 따르면 개인정보보호위원회는 AI 개발 및 서비스 단계에서 필요한 개인정보 처리 기준을 구체화하여 민관 협력을 통한 분야별 가이드라인을 마련하고 국제적인 공조를 강화해 불확실성을 해소할 계획입니다.
이처럼 법률과 정책이 AI 기술의 발전을 수용함과 동시에 개인정보보호 강화를 위한 일에도 힘써왔다는 점을 확인할 수 있습니다.
AI 도입이 선택이 아닌 필수가 된 상황에서 개인정보 침해를 줄이는 동시에 산업을 진흥시키는 방향으로 나아가기 위해서는 다양한 이해관계자의 입장과 해외 사례를 고려한 심도 있는 논의가 필요합니다. 이에 따라 데이터 활용과 관련한 여러 쟁점이 대두되고 있습니다.
AI 학습을 위한 데이터 수집을 위해 일반적으로는 공개된 데이터를 활용합니다. 그런데 현재 한국 개인정보보호법은 공개된 데이터의 활용에 대해 별도로 규정하지 않고 있습니다. 다만, 최근 특정 기업과 관련된 사건에서 대법원은 공개된 개인정보의 활용에 관한 기준을 제시한 바 있습니다.
해당 판례에 따르면, 공개된 개인정보는 정보주체의 동의가 객관적으로 인정되는 범위 내에서는 별도 동의 없이 처리가 가능합니다.
이와 같은 이유로, AI 기술 발전을 위해 공개된 개인정보를 AI 학습 목적으로 활용할 수 있도록 하는 예외 조항을 마련해야 한다는 의견이 제기되고 있습니다.
우리나라 통신사 가입자들이 제기한 개인정보 가명 처리 중단 소송에서, 작년 말 서울고등법원은 가입자들의 손을 들어 개인정보를 가명 처리해서는 안 된다고 판단한 바 있습니다.
개인정보보호법은 정보 주체의 동의 없이 가명 정보를 통계, 과학, 연구 등의 목적으로 활용할 수 있도록 허용하고 있으나, 동시에 정보 주체가 자신의 개인정보 처리를 중단하도록 할 수 있는 권리도 부여하고 있기 때문입니다.
이에 대해서는 법에 따라 고객의 결정권을 존중해야 한다는 견해와, 가명 처리는 그 누구에게 불이익을 주기 위한 것이 아니며, 처리 정지권이 남용될 경우 국내 기업들이 글로벌 AI 경쟁에서 뒤처질 수 있다는 견해가 대립하고 있습니다.
이처럼 현행 개인정보보호법과 법원 판결에 따른 정보주체의 권리 존중과, AI 산업 발전 사이의 균형을 어떻게 맞출 것인지에 대한 논의가 필요합니다.
5월 30일 개인정보보호위원회는 민간 연구자나 기업 등이 AI 학습을 위해 합성 데이터를 안전하게 생성 및 활용할 수 있게 하기 위해 합성데이터 생성 참조모델을 공개했습니다.
합성데이터는 실제 데이터의 특성만 참조해 실제 개인과는 직접적인 관련이 없는 완전히 새로운 데이터셋을 생성해 내는 기술입니다. 이러한 합성데이터는 개인정보 침해 우려 없이 AI 학습에 활용할 수 있다는 장점이 있지만, 그 효용성에 대해서는 의견이 분분한 상황입니다.
안면인식 기술에 대한 국제적 접근 방식은 다양합니다:
1. EU: 2024년 3월 통과된 인공지능 법은 공공장소에서의 실시간 원격 생체 인식과 안면 이미지 스크래핑을 금지하고 있습니다.
2. 중국: 공공부문에 대규모 투자를 통해 안면인식 기술을 적극 도입하고 있으며, 이 분야에서 세계적으로 가장 빠른 성장세를 보이고 있습니다.
3. 미국: 2019년 이후 주 단위로 안면인식 금지 법안이 제안되었으나, 공공 안전과 보안에 대한 기술의 유용성이 인정되면서 일부 철회되거나 조건부 허용 등 유연한 규제 방식으로 전환되고 있습니다.
한편 한국의 개인정보보호법상 안면인식 정보는 민감정보로 분류됩니다. 따라서 안면인식 기술의 적법한 사용을 위해서는 법률 규정을 따르거나 정보 주체의 동의가 필요합니다. 예를 들어, 출입국 관리법에 근거한 공항에서의 안면인식 정보 처리는 적법한 것으로 간주합니다.
하지만 AI 기술 발전과 공익을 위한 안면인식 기술 활용 사이의 균형점을 찾는 것이 중요합니다. 특히 공익적 목적의 AI 학습을 위해 정보 주체의 별도 동의 없이 안면 이미지를 처리할 수 있도록 허용할지에 대해 사회적 논의가 필요한 시점입니다.
정부는 2023년 7월 '서비스 산업의 디지털화 전략'을 통해 AI 발전을 위한 법적 기반 마련 계획을 발표했습니다. 이 전략에는 저작권법 개정을 통해 AI 학습용 데이터 활용 시 저작권 침해 면책 요건 및 근거를 마련하는 내용이 포함되어 있습니다.
때문에 일각에서는 AI 산업 진흥을 위해 개인정보 이용에 대해서도 저작권법의 면책 규정과 유사한 입법 조치가 필요하다는 의견을 제시하고 있습니다.
BHSN은 자체 리걸AI를 개발하고 이를 통해 리걸 분야를 혁신하고 사회에 긍정적인 변화를 가져오고자 합니다. 그러나 이 모든 진보가 개인의 권리와 개인정보보호를 존중하는 토대 위에서 이루어져야 한다는 주장에도 공감합니다.
때문에 법과 정책이 이러한 기술적 노력을 지원하고, 적절한 가이드라인을 제공하여 개인정보보호 법규를 준수하면서도 AI 기술 혁신이 저해되지 않을 수 있도록 해야 합니다.
BHSN은 앞으로도 AI 기술의 혁신과 개인정보보호의 조화를 위해 노력할 것입니다. 이는 법률 분야의 혁신을 이루고자 하는 회사로서 당연하게 가져야 하는 태도이기도 합니다. 저희의 이러한 노력은 앨리비(allibee) 제품에도 반영되어 있습니다.
앨리비는 최첨단 AI 기술을 활용하면서도 사용자의 개인정보를 철저히 보호하기 위한 비식별화 등의 보안에도 만전을 기울이고 있습니다. 리걸AI가 법률 분야의 문제를 해결하고, 업무를 혁신하는 방법이 궁금하시다면 아래 버튼을 클릭해 앨리비가 어떻게 개인정보를 보호하면서도 AI 서비스를 제공하는지 확인해 보세요.
*해당 글은 2024년 6월 5일 ‘PIS FAIR 2024’에서 발표한 내용을 바탕으로 작성된 글입니다.
참고 기사: [PIS FAIR 2024] BHSN 박선동 변호사 “AI와 개인정보보호의 갈등, 균형점 찾아야”
.svg)
.png)
.png)
.png)
