I. 개요

2024년 시리즈로 인공지능기술(Artificial Intelligence: AI)과 혁신에 관한 글을 연재하고 있습니다. 봄·여름 호에 걸쳐서 AI로 어떠한 종류의 혁신을 할 수 있는지, 그리고 어떤 서비스 혁신을 할 수 있는지를 다양한 사례들과 함께 알아보았습니다. 세 번째 주제는 이러한 AI 기반 혁신 활동을 하는데 어떤 요인들이 영향을 주는지 살펴보겠습니다. 이를 통해서 공공기관 조직이나 관리자들이 어떤 요인들에 관심을 기울여야 하는지 알아보겠습니다.

AI는 인간의 지능 활동을 모방하거나, 뛰어넘을 수 있는 초지능적 기술적 역량을 가진 기계입니다. 최근 AI는 빠른 기술 발전을 보여줄 뿐만 아니라, 다양한 혁신에 적용되고 있습니다. 공공조직뿐만 아니라, 세계적인 제조·서비스 기업을 포함한 기업들이 AI 기술 개발 및 활용에 참여하고 있습니다.²⁾ 기계학습 기반 AI로 인해 다양한 산업들에서 의사결정과 기획 및 집행 등의 관리 영역에 많은 변화가 나타났습니다.³⁾ 2022년에 출시된 대규모 언어 기반 생성형 AI(예, ChatGPT)는 새로운 AI 역량을 보여줌에 따라서, AI 기반 혁신 활동이 더욱 가속화될 것입니다. 혁신 활동을 통해, 현재 생성형 AI는 제품 기획·개발·제조·상업화까지 혁신의 모든 단계뿐만 아니라, 다양한 관리기능에 활용되기 시작했습니다.⁴⁾

예를 들어서 생성형 AI 활용은 의료 진단 보고서를 작성하는데 소요 되는 시간을 40%까지 줄일 수 있으면, 사업자들은 데이터 과학자들과 협업을 통해서 영업직원의 보조직원으로 생성형 AI를 활용하여 생산성을 높이고 있습니다.

AI 기반 혁신 활동을 관리하기 위하여 조직들은 내부 혁신 시스템을 혁신하고 있습니다.⁵⁾ 예를 들어, 2024년 3월 미국 Biden 행정부는 미국의 모든 연방 기관(Federal Agency)들이 AI 활동을 감독하고 AI 관련 위험을 최소화 하기 위한 최고 AI 담당관(Chief AI Officer: CAIO)의 임명을 의무화했습니다.⁶⁾ 또한 2023년 설문조사에 의하면, 글로벌 IT 기업 의사결정자 965명 중 약 31%가 AI 관련 책임 담당자들을 고용했거나 고용할 계획이라고 밝혔습니다. 이번 가을 호에서는 AI 기반 혁신 활동에 영향을 주는 다양한 요인들과 사례 혹은 이슈들을 살펴보겠습니다. 2) Kim & Seo (2023).
3) Manly, et al. (2024).
4) ibid.
5) ibid.
6) Wade et al. (2024).

II. 4가지 핵심 요인: 조직 비전, 경영진의 마인드, 조직 문화, 투자 비용

지역 공공기관의 AI 기반 혁신 활동에 영향을 주는 핵심 요인들을 (1) 조직 비전, (2) 경영진의 마인드, (3) 조직 문화, (4) 투자(예산)비용 네 가지로 제시합니다.

4가지 핵심 요인별 세부 요인들은 필자가 제4차 산업혁명 관련 기술과 혁신에 대해서 전문가들을 대상으로 수행한 델파이 조사에서 도출된 요인들에 문헌 검토를 기반으로 새롭게 분류 정리한 것입니다(참조 <표 1>).

<표 1> 4가지 핵심 요인별 세부 요인

출처 : 저자

(지역) 공공기관의 경우, AI 혁신 활동 관련 기존 법과 규칙 등의 영향이 민간기업에 비하여 상대적으로 높습니다. 하지만, 이 부분은 본 글에서 다루지 않습니다. 여기선 앞에 제시된 4가지 핵심 요인별 세부 요인들에 대해서 살펴보겠습니다. 하지만 조직마다 다양한 특성이 존재하기 때문에 여기 제시된 요인 외에 다른 요인들이 AI 기반 혁신 활동에 더 크게 작용할 수 있습니다. 다만 여기 제시된 요인들은 보편적으로 생각해 볼 수 있는 요인들로 생각하면 좋을 것 같습니다.

(1) 조직 비전
첫 번째는 조직 비전입니다. AI는 현재보다 미래에 기술 중요도가 더욱 높아질 것으로 예상됩니다. 전문가들을 대상으로 한 델파이 설문조사에서, 4차 산업혁명 관련 다양한 기술 중, 2018년에 가장 중요한 핵심 기술로 전문가들은 AI를 선택했습니다. 그리고 10년 이후 즉 2029년 이후 주요 기술에 관한 질문에서 가장 중요한 기술로 전문가들은 AI를 다시 뽑으면서 중요도를 더욱 높게 평가했습니다.⁷⁾ 이는 AI에 대한 조직의 장기적 대응 혹은 선도를 위한 비전과 계획이 필요하다는 것을 의미합니다. 따라서, 조직의 장기적 측면에서 AI 관련 대응과 비전·전략 수립 여부는 AI 혁신 활동에 많은 영향을 줄 것으로 예상됩니다. 하지만, AI의 영향이 장기간에 걸쳐서 지속해서 나타날 수 있음에도 불구하고, 지역 공공기관 경영인(예: 도지사, 시장, 구청장, 지역 공기업장 등)의 경우, 임기 중 실적에 더욱 중점을 둘 가능성이 높습니다. 따라서, 단기성과에 대한 경영자의 관심은 임기 중에 특정 분야에 치우친 정책과 자원배분으로 AI 기반 혁신 활동을 어렵게 하는 요인이 될 수 있습니다. 또한, AI에 대한 장기적 관점에서의 접근보다 근시안적 보여주기식 접근은 향후 AI 기반 혁신 활동을 어렵게 할 수 있습니다. 즉, AI는 장기적 준비가 필요하지만 이와 대비되는 경영진의 단기성과 우선은 향후 조직의 AI관련 혁신 동력 약화로 이어지게 됩니다.

최근 연구들은 은행, 핀테크 기업의 안면인식을 통한 고객 파악, 마케팅기업의 소비자에 대한 새로운 통찰을 얻기 위한 비지도 학습 배포, 소매기업들의 AI 기반 프로그램, 공공기업들의 AI 적용 시도들에 대한 관찰 결과, AI에 대해서 투자를 잘 해온 조직조차 AI 역량이 다른 부서로부터 외면을 받거나, 마구잡이식으로 이루어지고 있으며, 장기적인 관점에서 AI 비전이 부재하다는 것을 밝히고 있습니다.⁸⁾

전문가들은 조직의 현실에 맞게 AI를 받아들이기 위해서는 현재 상황을 정확하게 진단하고 미래를 예측할 수 있는 조직 역량의 중요성을 강조하였습니다. 조직의 장기적 비전과 전략은 미래 예측 역량에 기반해야 합니다. 미래를 예측하는 활동은 미래예측(Foresight)을 의미합니다. 특히 AI처럼 빠르게 발전하는 새로운 기술의 경우, 변화 방향을 예상하고 조직 및 환경의 상황적 맥락에 맞게 탄력적으로 대응할 수 있는 예측 능력이 필요합니다. 이는 조직의 AI 기반 혁신 활동 방향과 내용 결정에 상당한 영향을 줄 것으로 예상됩니다. 하지만 지역 공공기관들의 미래 예측 능력이 상대적으로 부족하다고, 판단되면 외부 협력(한국지능정보사회진흥원, 한국과학기술기획평가원 등)을 고려해야 합니다. 7) 김종석 & 강진원 (2018).
8) Joshi & Wade (2020).

(2) 경영진의 마인드
두 번째 경영진(예: 도지사, 시장, 구청장, 지역 공기업장 등)의 AI에 관한 마인드는 따로 강조할 필요가 없이 중요합니다. 이를 바탕으로 한 경영자의 의지는 조직 혁신 활동의 중요한 요인이며, 미래 예측 능력과 맞물려 다양하게 나타날 수 있습니다.

특히, 초지능 특성을 가진 AI의 변화에 효과적으로 대응하거나 선도하려는 경영진 의지의 중요성을 전문가들은 제시하였습니다. 이에 반하여, AI 등장과 변화는 새로운 혁신 환경으로의 발전을 의미하며 이는 기술 중심적 사고에서 고객 중심적 사고로의 전환이 필요하고 이와 관련된 경영진의 고객 중심으로의 사고 전환은 혁신 활동의 성공 가능성을 높일 것이라는 의견이 제시되었습니다. 고객 중심적 사고에 대한 강조가 기존에 없었던 것은 아니지만, AI의 특성과 성능이 다른 기술들과 확연하게 차별화되는 고객 중심의 제품 및 서비스와 새로운 비즈니스가 가능해졌기 때문에 새롭게 강조되었습니다. 경영자의 의지와 고객에 관한 생각을 중심으로 AI 기반 혁신 활동을 이끈 경영자의 예로 DBS 은행의 사례가 있습니다⁹⁾.

싱가포르개발은행(The Development Bank of Singapore Limited)은 싱가포르 마리나베이의 마리나베이 금융 센터에 본사를 둔 싱가포르의 다국적 은행업 및 금융 서비스를 제공하는 기업입니다. 이 은행이 2003년 7월 글로벌 은행으로의 역할을 반영하기 위해 은행 명칭을 DBS 은행으로 변경하였습니다. 금융산업은 전통적으로 보수적인 것으로 많이 알려져 있습니다. 따라서, 새로운 실험적 시도에 대한 위험을 꺼리는 분위기가 존재합니다. 그러한 금융(은행)산업에서 DBS 은행 경영자 Piyush Gupta는 고객 중심의 서비스를 강조할 뿐만 아니라, AI에 가장 적극적인 도입자로 알려져 있습니다. 조직 문화에서도 나오겠지만, Piyush Gupta는 AI와 관련된 다양한 실험을 독려하였고, 실패를 실패로 받아들이지 않고, 학습의 기회로 활용하였습니다. 외부 기관과 손잡고, AI 도입을 위한 다양한 혁신적 실험을 수행하였습니다.

또한, 이러한 다양한 실험을 성과에 반영하였습니다. 보수적인 금융산업의 성격상 이러한 실험은 굉장한 도전이 필요한 영역입니다. 또한 조직을 AI로 변화시키기 위해 데이터 분야에 1,000여 명의 새로운 직원을 뽑고, 18,000여 명의 기존 직원들에게 새로운 AI 역량을 학습할 기회를 주었습니다. AI를 도입하고 활용하는 과정에서 직원 감소가 일어나지 않도록 세밀하게 준비하였습니다. 이를 바탕으로 AI 기술을 DBS은행 고객을 위해 적극적으로 활용하였습니다. 이런 경영진의 마인드 관련 DBS 은행 사례는 조직이 AI 기반 혁신 활동과 성과를 얻기 위해 무엇이 필요한지를 잘 제시하고 있습니다. 9) Davenport & Bean (2021).

(3) 조직 문화
세 번째 핵심 요인은 조직 문화입니다. AI로 인하여, 경영자 및 관리자와 지식 생산자 역할 및 직종에 변화가 예상됩니다. 또한, AI는 다른 정보기술 혹은 정보시스템보다 AI(로봇시스템)와 관리자 간의 새로운 협력과 상호작용 문화가 요구됩니다.

먼저 다양한 아이디어가 교류되고 흡수되며, 집단지성이 활성화되고, 창의적 아이디어가 혁신으로 연결될 수 있는 유연하고 혁신적인 조직 문화는 AI 기반 혁신 활동을 촉진할 중요한 요건으로 전문가들은 보고 있습니다. 또한, 다양한 AI 기반 혁신프로젝트 실패에 대한 책임을 과중하게 묻기보다 자유로운 실험적 혁신을 격려하는 분위기 형성이 필요할 것으로 제시되었습니다. AI 기반 혁신 활동은 불확실성과 위험도가 높기에 실험적 혹은 파일럿 형태의 혁신 시도에 책임을 묻기보다는 관련 지식·경험을 축적해 가는 방안으로 활용해야 합니다(예: DBS 은행 사례). 하지만, 조직 자원과 여건이 혁신의 도전과 시도를 어렵게 할 수 있습니다. AI 기반 혁신 활동의 영향이 조직의 인력 고용 및 활동 등에 부정적으로 영향을 미칠 경우, 기존 인력이 혁신에 대한 불안감을 가지게 되고, 이러한 불안감은 혁신에 부정적인 영향을 주게 됩니다. 조직의 AI 기반 혁신 활동은 이에 대한 세심한 관심을 요구합니다. 특히 현재 Chat-GPT4와 같이 대규모 언어모델 기반의 생성형 AI 프로그램은 다양한 기획 업무의 지능화라는 변화를 불러왔습니다. 따라서, 아이디어 및 지식의 창출 및 평가에 있어서 과거와는 달리 AI를 이용한 새로운 아이디어 생성 및 평가에 기계와의 협업이 혁신적 조직 문화와 역량이 될 것으로 예상됩니다.¹⁰⁾ 예를 미국 보스톤에 기반을 둔 디자인 회사인 Loft는 Chat-GPT4를 활용하여 제품 개념에 대한 고객의 선호도를 찾아냅니다. 디자이너들은 AI 프로그램을 이용하여 자신들의 디자인 그림을 업로드하고 디자인을 새롭게 조정하는 창조적인 활동에 AI를 활용하고 있습니다. 이와 같이 공공기관에서도 기획 등의 업무에 Chat-GPT와 같은 생성형 AI의 활용과 기계와의 상호작용이 증가할 것으로 예상됩니다. 이에 반하여, 알고리즘 등에 의한 의사결정과 Chat-GPT와 같은 AI 로봇과 상호작용에 대해서 관리자와 민원인은 거부감을 형성할 수 있습니다. 10) Marion et al (2024).

특히, 공공기관이 조직 중심, 계층 중심제, 위험 최소화, 기획 기반 통제에 중점을 둔 문화를 가진 조직 유형일수록 AI 활용에 대한 거부감이 높게 나타날 수 있습니다. 이와 관련 전문가들은 기존 조직의 인력들이 AI 혁신 활동의 산출물인 서비스 혹은 AI와 협업 수행 활동이 쉽지 않을 수 있다고 제시하였습니다. 이와 같이 AI와 혁신이 가져올 변화에 대한 관리자와 민원인의 거부감은 AI 기반 혁신 활동의 주요 영향 요인으로 꼽힙니다. 지능화라는 맥락에서 AI는 기존 비즈니스모델, 비즈니스 프로세스 및 (서비스) 생산과정 등에 큰 변화를 불러오고 있습니다. 이 과정에서 새로운 변화에 대한 저항은 자연스러운 현상일 수 있습니다. 문제는 “이러한 요인들을 AI 기반 혁신 활동 중에 어떻게 해결하는가” 하는 것입니다. 세계에서 두 번째로 큰 와인(Wine) 판매업자로 알려진 Pernod Ricard는 기업의 영업사원들이 방문해야 할 매장을 추천해 주는 AI기반 서비스를 제공하기 시작했습니다.¹¹⁾ 전통적으로 영업사원들은 자신들의 경험에 기반하여, 방문해야 할 매장을 선정해 왔는데, 새로운 AI 서비스의 도입은 영업사원들의 저항에 직면할 것으로 예상되었습니다. Pernod Ricard는 이러한 반대를 예상하고, AI 기반 서비스 개발 과정에서, 직원들이 받아들일 수 있는 AI 기술 전문가를 고용하고, 파일럿(Pilot) 사용자들로부터 광범위한 피드백을 받아 반영했습니다. 개발팀은 혁신의 이유를 영업사원들에게 지속적이고, 분명하고 투명하게 의사소통하였습니다. 또한 비즈니스 전문가들과 인터뷰를 통해서 새로운 인사이트 등을 시스템에 반영하였습니다.

이러한 결과, 영업사원들은 Pernod Ricard 최고정보관리자 및 개발팀에게 영업 업무 수행이 이전의 방식으로 돌아갈 수 없고, 우리는 현재 AI 시스템을 신뢰하고 있다는 것을 밝히고 있습니다. 이러한 사례는 AI 기반 혁신 활동에 대한 내부 직원들의 저항 및 불편함과 관련하여 공공기관이 무엇을 어떻게 해야 하는지에 대한 예를 보여줍니다. 글로벌 설문조사에서 2,197명의 관리자 중 79%가 ‘AI가 효율성과 의사결정을 개선할 뿐만 아니라, 팀 수준의 문화를 바꾸고 향상한다’라는 의견을 제시하였습니다.¹²⁾ 이에 반하여, AI 혁신을 불신 혹은 거부하는 이유가 ‘이해 부족’과 ‘교육 부족’에 기인한다고 제시했습니다.¹³⁾ 11) Ransbotham et al. (2021).
12) Ransbotham et al. (2021).
13) ibid.

(4) 투자 비용
마지막으로 투자 비용 요인입니다. 많은 지역의 공공기관은 세금을 바탕으로 한 예산을 사용하기 때문에 더욱 민감한 부분입니다. 전문가들은 AI 관련 단기효과를 위한 투자는 조직의 투자에 대한 피로감을 높이고, 재투자의 의지를 고갈시키기 때문에 장기적이고 계획된 투자전략을 통해서, 조직의 AI 비전과 혁신 방향성에 부합되고, 자원을 효과적으로 활용하는 방향으로 혁신 활동을 이끌어야 한다고 제안했습니다. 이와 더불어서 AI 기반 혁신 활동은 혁신과정에서 기존 사업 영역에서 수행하던 혁신에 비하여 상대적으로 더 많은 시행착오를 겪을 가능성이 높습니다. 이러한 시행착오 비용이 클 경우 지역 공공조직은 AI 기반 혁신 활동에 적극적으로 나서지 못할 가능성이 높습니다. 따라서 서비스 실험 및 테스트 과정과 비용을 충분히 확보하여 수행할 필요가 있습니다. 현재 거대 언어모델에 기반한 ChatGPT 서비스를 공공조직의 요구사항에 맞게 발전시키어 활용할 경우, 충분한 실험과 테스트 없는 활용과 서비스 제공은 오히려 직원 불만 및 민원 증가로 연결될 수 있습니다. 이는 AI 서비스에 대한 시행착오 비용 증가로 나타납니다. 특히 AI 사용이 윤리적 문제와 직결될 경우, 시행착오 비용이 증가하게 됩니다.

AI 혁신 활동에 수반되는 (추가적) 비용 문제는 사전 합의가 필요합니다. AI 프로젝트는 현재 프로젝트 비용에서 생각하는 비용 외에 추가적인 비용이 발생할 가능성이 높습니다. 특히, 공공 부분에서는 이 부분이 민감할 수 있습니다. 현재 공공기관에서는 정보시스템 혹은 정보화 프로젝트와 같이 AI 혁신프로젝트 개발·운영예산을 편성합니다. 이와 관련 향후 AI 기반 공공서비스 실패비용을 고려해야 합니다.¹⁴⁾ 예를 들어 공학적으로 98% 정확도를 가진 기계학습 기반 알고리즘의 경우 확률상으로 2%의 오류가 존재한다는 것입니다. 이렇게 이야기하면 감이 오지 않습니다.

예를 들어서, 비즈니스 측면에서 신용카드회사가 하루 거래 중 잘못된 카드 사용(부정 사용)을 골라내는 알고리즘을 적용한다는 가정하에, 하루에 1천 건의 부정 사용 의심 거래에 알고리즘을 적용하면 약 20건의 오류가 발생한다는 것입니다. 이때, 20건의 오류에 대한 서비스(알고리즘) 실패비용을 신용카드회사는 고려해야 합니다. 고객의 정당한 서비스 이용을 제한했기 때문이고, 카드 정지 등이 발생했을 때, 이에 대한 복구 비용 등이 들어갑니다. 이러한 부분이 가장 극명하게 나타나는 것이 자율 주행 자동차의 보험적용입니다. 공공기관의 서비스는 민간기업보다 더욱 민감하고 개인경제 활동에 직결될 수 있습니다.

따라서, 이러한 예상치 못한 AI 서비스 실패에 대한 비용의 문제를 고려해야 합니다. 이는 민원인의 AI에 대한 인식 혹은 비영리 시민조직 등의 관련 감시가 높아질수록 문제가 불거질 확률이 높습니다. 하지만, 이와 관련하여 해결책으로 98% 정확도를 가진 알고리즘의 기술 역량을 99% 이상으로 올리고자 한다면, 막대한 AI 학습비용이 요구될 수 있습니다. 따라서 이런 경우, AI 서비스 실패에 대한 운영 비용과 추가 학습에 대한 투자 비용을 파악해야 합니다. 이를 바탕으로 실패에 대한 운영 비용이 낮을 경우, 추가 학습을 통한 투자 비용을 부담하기보다는 실패에 대한 운영 비용을 부담하는 것이 나을 수 있습니다. 하지만 이 부분도 공공서비스의 특성을 고려해야 합니다. 이러한 사항은 기존 (지역) 정보화 프로젝트에서는 많이 고려되지 않았던 부분이기 때문에 지역 공공기관은 한국지역정보개발원 및 개발업체 등과 협력을 하는 것이 필요합니다. 14) Siegel (2024).

III. 마무리

AI 기반 혁신 활동에 다양한 조직적 요인들이 영향을 미칠 수 있습니다. 이번 가을 호에서는 간략하게 (1) 조직 비전, (2) 경영자의 마인드, (3) 조직 문화, (4) 투자 비용 관련 세부 요인과 사례 및 이슈 등을 살펴보았습니다. AI 기반 혁신 활동을 위하여 모든 것을 한꺼번에 바꿀 수는 없습니다. 하지만 좀 더 장기적인 호흡을 가지고, 세부 요인들을 염두 두고 추진하면 AI가 가진 장점을 충분히 활용 하면서 좀 더 경쟁력 있고, 효율적이며, 직원과 고객들을 만족시키는 지역 공공기관으로 변화할 수 있을 것입니다.