지난 7월 18일 개발원 유튜브 채널을 통해 개최된 이번 세미나는 독일 프리드리히 나우만재단과 공동 진행됐다. 세미나는 지자체와 유관기관의 디지털 역량을 높이고자 마련된 것으로, 참가자들은 발표와 토론 및 질의응답을 통해 AI 시대 정보보호 정책 방향과 보안 기술 사례 공유했다.

발표 1 _ AI시대의 정보보호 거버넌스

오민정 교수(한국교원대학교, 독어교육과)의 사회로 진행된 이번 세미나에서는 먼저 김태성 교수(충북대학교 경영정보학과)가 ‘AI 시대의 정보보호 거버넌스’라는 주제로 발표했다.

김 교수는 “‘개인정보 보호법 시행령’은 AI 시스템의 유해한 영향으로부터 건강·안전·민주주의·법치주의·환경 보호를 포함한 높은 수준의 보호를 보장하면서 혁신을 지원하는 데 목적을 둔다.”면서 “다양한 응용 분야에서 사용할 수 있는 AI 시스템은 사용자에게 미치는 위험에 따라 분석되고 분류되기 때문에 위험 수준에 따라 규제의 정도가 달라질 수 있다.”고 밝혔다.

또한 “전통적 AI는 기존의 패턴을 식별하는 방법에 집중했던 반면 생성형 AI는 새로운 패턴을 생성하는 기능을 구현하거나 시도한다.”는 분석을 내놓으며 “전통적 AI가 패턴 시각화·발견·분류·예측 기능에 머물렀다면 생성형 AI는 맥락과 의도를 파악하고 정보를 통합해 콘텐츠를 생성할 수 있게 됐다.”고 설명했다.

이에 “정보기술의 발전으로 보안분야는 점차 융합화·통합화 되어 가는 추세다.”고 강조하며 “보안 목표의 효과적 달성, 기업자원의 효율적 배분, 기업 목표와 연계된 보안업무 수행을 위해 기업은 보안 관련, 통합적 의사결정 및 실행을 담당할 인력을 배치할 필요가 있다.”고 주장했다.

발표 2 _ AI 시대의 프라이버시 및 정보보호 대응 방안

다음 발표자로 나선 크립토랩의 신성철 이사는 ‘AI 시대의 프라이버시 및 정보보호 대응 방안’이라는 주제 발표를 통해 ‘AI 시대에서 프라이버시와 정보보호의 중요성’을 강조했다. 특히 잘못된 데이터나 허구의 내용을 생성하는 현상(Hallucination), 딥페이크 기술의 양면성, 그리고 안면인식 기술의 개인정보 보호 문제 등을 언급한 신 이사는 개인정보를 필요한 범위에서만 처리하고 유출 사고 예방에도 도움이 되는 기술(PETs, Privacy Enhancing Technologies)을 소개했다.

신 이사에 따르면 이는 데이터를 암호화한 상태에서 복호화하지 않고 연산할 수 있는 4세대 암호화 기술이며, 동형암호는 비밀키(복호화 키)를 전송하지 않아 데이터 유출을 원천적으로 차단해 준다. 그는 “최근 AI 기술이 폭넓게 활용됨에 따라 AI를 안전하게 활용하고 관리하기 위한 정책과 기술에 대한 수요도 커지고 있다.”며, “이번 세미나를 통해 ‘AI 기술을 통한 혁신’과 ‘효과적인 규율체계’라는 두 마리 토끼를 모두 잡을 수 있는 효과적인 방안이 모색되길 기대한다.”고 말했다.