1. 들어가는 말

인공지능(AI)은 오늘날 디지털 전환의 핵심 엔진이자 행정개혁과 4차 산업혁명의 주요 도구로 전 세계 디지털 선진국에서 강조되고 있다. 정부와 공공부문은 AI를 활용하여 행정 효율성을 높이고, 맞춤형 서비스 제공, 정책 수립의 정밀성 강화 등 혁신적 가능성을 탐색하고 있다. 그러나 동시에 AI 기술은 데이터 편향, 투명성 부족, 프라이버시 침해, 책임성 약화와 같은 위험을 수반하며, 사회적·윤리적 불확실성도 함께 내포한다. 이러한 양면적 특성은 AI가 단순한 기술 문제가 아니라 공공 거버넌스 차원에서 심도 있는 논의를 필요로 함을 시사한다.
특히 미국은 연방정부, 주정부, 지방정부 차원에서 AI의 활용과 규제, 위험 관리 체계를 동시에 마련해 가고 있으며, 이는 세계적으로 중요한 시사점을 제공한다. 미국 정부의 AI 거버넌스 현황과 과제는 한국 지방정부가 앞으로 AI를 도입·운영하는 과정에서 참고할 만한 비교 기준이자 학습 자원이 될 수 있다.
따라서 이 글은 미국 정부의 AI 거버넌스 현황과 과제를 검토하고, 이를 토대로 한국 지방정부에 주는 교훈과 함의를 도출하고자 한다. 이를 통해 AI 기술 활용의 기회와 위험을 균형 있게 바라보고, 책임 있는 디지털 행정을 구축하기 위한 논의의 출발점을 마련하고자 한다.

2. 미국 정부의 AI 거버넌스 현황

AI에 대한 합의된 정의는 없지만 다양한 정의들로부터 공통된 특징을 보면 “특정 맥락에서 인간의 개입으로부터 어느 정도 자율성을 갖고 기계가 학습하고 인간의 인지활동을 수행할 수 있도록 하는 다양한 기술들의 집합”이라고 할 수 있다. AI에 대한 정의와 마찬가지로 AI 거버넌스에 대한 통일된 정의는 없지만 그 특징은 AI를 개발하고 활용하는데 미치는 긍정적 효과를 최대한으로하고 부정적 효과를 최소화하려는 일련의 체계적인 관행(practices)들이라고 할 수 있다(Attard-Frost et al., 2024). 다소 추상적인 일련의 ‘노력’들은 다양한 이니셔티브 형태로 드러나고 그 이니셔티브에는 구체적으로 핵심가치나 원칙, 집행 전략, 정책으로 나타난다고 할 수 있다.
바람직한 AI 거버넌스의 방향을 정하고 틀을 만들기 위해서는 AI기술 도입이 가져올 긍정적인 효과뿐만 아니라 예상 가능한 위험 또는 예상치 못한 부정적인 효과를 미리 예방하기 위해 최소한 어떤 제도와 장치가 필요하고 그러한 노력을 위해 정부는 어떤 역할을 해야 하는지에 대한 이해하고 논의할 필요가 있다(좀더 자세한 내용은 AI 거버넌스의 지역정보화 2024년). 이하에는 우선 미국 연방정부의 최근 AI 거버넌스의 방향과 내용을 살펴보고 각 주정부와 지방자치단체에서의 AI 거버넌스 현황을 논의하고자 한다.

3. 연방정부 AI 거버넌스 현황

미국 연방정부의AI 거버넌스는 크게 정부내의 AI 도입과 사용에 초점을 둔 거버넌스 부분과 민간 섹터의 AI 이용과 규제를 다루는 부분으로 나누어 볼 수 있다. 정부내의 AI 거버넌스와 관련해서 2024년 3월에 연방 관리예산처 (Office of Management and Budget)는 “연방기관의 AI활용을 위한 거버넌스, 혁신, 위험관리” (Advanced Governance, Innovation, and Risk Management for Agency Use of Artificial Intelligence) (M-24-10) 양해각서를 각 연방 기관과 체결하면서 미국 연방정부 최초의 범정부AI 거버넌스의 목표, 범위, 내용이 알려졌다(Office of Management and Budget, 2024). 이 양해각서의 큰 목표는 각 연방기관에게 AI 거버넌스의 혁신을 발전시키면서 동시에 위험을 적극적으로 관리하도록 하고 있다. 이 양해각서는 각 연방기관이 자체적으로 개발, 사용, 또는 조달하는 AI 사용에 적용되지만, 비연방기관 AI에 대한 규제 조치, 기초 연구 또는 국가 안보 시스템 내 AI와 같은 특정 영역은 제외하고 있다. 이러한 목표를 달성하기 위한 핵심적인 내용은 첫째, 60일 이내에 각 기관들은 AI 사용을 조정하고 혁신을 촉진하며 위험을 관리할 최고 AI 책임자(Chief AI Officer or CAIO)를 지정해야 한다. 둘째, CFO Act 적용되는 24개의 주요 기관은 같은 기간 내에 부장관이 의장을 맡고 CAIO가 부의장을 맡는 AI 거버넌스 위원회를 소집해야 한다. 셋째, 2024년 12월 1일까지 기관들은 안전 영향 AI (safety-impacting AI)및 권리 영향 AI (Rights-impacting AI)에 대한 최소 위험 관리 관행을 이행하거나, 준수하지 않는 AI 사용을 중단해야 한다. 이러한 관행에는 AI 영향 평가, 실제 환경 테스트, 독립적 평가, 지속적인 모니터링, 인간 교육/감독, 그리고 공개 고지가 포함된다. 권리 영향 AI에 대한 추가 요구사항으로는 알고리즘 차별 식별 및 완화, AI 사용으로부터 영향 받는 공동체와의 협의, 부정적인 영향을 받은 개인에게 통지, 인간 검토/구제 절차 유지, 그리고 선택적 거부 옵션 제공이 있다. 넷째, 기관들은 180일 이내에 준수 계획을 제출해야 하며, CFO Act 적용 기관은 365일 이내에 전사적 AI 전략을 개발해야 한다. 마지막으로, 각 연방기관은 안전 영향 AI 및 권리 영향 AI를 식별하고 관련 위험을 보고하는 연간 AI 사용 사례 인벤토리를 만들어 공개해야 한다.

현재 이 인벤토리는 누구나 접근이 가능하게 Github에 공개되어 있다. 가장 최근에 공개된 2024년 통합 AI사용 사례 인벤토리에 따르면 총 42개 연방기관이 2,133개의 AI 사용 사례를 보고하였다. 전체 29개의 AI 사용 분야 목록에서 많이 사용되는 분야를 보면 일반 임무지원 (501건), 기관 내부 지원 (307건), 법과 정의 (247건), 보건 및 의료 (241건) 등의 순서이다. AI 사용 사례 목록을 안전영향 AI와 권리영향 AI 사례를 나누어 보면 1,722 사례는 권리나 안전에 영향을 주지 않는 AI이고 권리 및 안전에 모두 영향을 미치는 AI는 195사례, 권리에만 영향을 미치는 AI는 131사례, 안전에만 영향을 미치는 AI 사례는 27개로 나타났다. 상위기관별로 사례를 나누어 보면 재향군인부와 법무부가 권리·안전 영향 AI 사례를 압도적으로 많이 보유(약 270사례)하고 있고 국토안보부도 30건 이상으로 높은 편이다. 나머지 대부분의 부처는 한 자릿수에서 수십 사례 수준이다.
이 양해각서에서 안전 영향 AI는 인간의 생명이나 복지, 기후/환경, 주요 인프라 또는 전략 자산에 중대한 영향을 미치는 AI로 정의하고 권리 영향 AI는 개인의 시민권, 시민 자유, 프라이버시, 동등한 기회 또는 중요한 정부 자원/서비스 접근에 영향을 미치는 결정의 주요 근거가 되는 AI를 의미한다. 또한, 문서에는 AI 채택 역량 강화, AI 모델 및 데이터 공유, IT 인프라 및 인력 개발 관련 장벽 제거 등 책임감 있는 AI 혁신을 발전시키기 위한 권고사항이 이 양해각서에 포함되어 있다. 그리고 연방 AI 조달 시에는 법적 준수 보장, 투명성 요구, 경쟁 촉진, 생체 인식 식별 및 생성형 AI와 관련된 특정 위험 관리, 그리고 환경 효율성 고려와 같은 위험 관리 권고사항을 제시하고 있다.
연방정부 기관에 적용되는 양해각서에 이어 민간 섹터의 AI 이용과 규제를 다루는 AI 거버넌스에 관해서는 2025년 7월 23일 미국의 트럼프 행정부는 ‘AI 경쟁에서 승리하기: AI 행동계획’이라는 계획을 발표했다. 미국의 AI 리더십에 장애가 되는 규제를 완화하고 기술적 지배(technological dominance)를 강조하고 있다. 이 계획을 구체적으로 실행하기 위해 90개 이상의 연방 정책 조치를 세개의 축으로(혁신 가속화, 미국 AI 인프라 구축, 국제 외교 및 안보 분야에서 선도) 나누어 제시하고 있다(The White House, 2025). 이 계획에서 가장 핵심 정책은 (1) 미국 AI 수출; (2) 데이터 센터 신속 구축 촉진; (3) 혁신과 채택 촉진: AI 개발 및 배포를 방해하는 과도한 연방 규제를 제거하고, 규제를 제거하기 위한 규칙 수립에 민간 부문의 의견을 수렴하여 혁신과 도입을 촉진; (4) 프론티어 모델에서의 표현의 자유 보장: 연방조달 계약은 객관적이고 하향식 이념 편향이 없는 프론티어 거대 언어 모델 개발자들로 한정한다.

4. 주정부 AI 거버넌스 추진 현황

미국 주정부의 AI 거버넌스도 크게 정부 내의 AI 도입과 규제에 초점을 둔 거버넌스 부분과 민간 섹터의 AI 이용과 규제를 다루는 부분으로 나누어 볼 수 있다. 최근 발표된 전국 주 의회 협의회(National Conference of State Legislatures, NCLS)의 보고서에 따르면(National Conference of State Legislatures, 2024), 2025년 현재 주정부의 AI 사용과 관련된 법안은 150개 이상이고 주로 AI사용을 추적하기 위한 조사, 영향 평가, 가이드라인, 조달, 감독기구 등을 그 내용으로 하고 있다. 앨라배마, 메릴랜드, 매사추세츠, 오클라호마, 오래곤 등 10개 이상의 주정부에서는 주지사 행정명령(Executive Order)으로 정부운영과 서비스 제공에 관한 AI사용에 관한 연구를 수행하고 있다.
AI사용을 추적하기 위한 조사 및 영향 평가: 적어도 10개 이상의 주에서는 주 기관들이 AI 응용 프로그램을 재고 조사하고 편향, 차별, 불균형적 영향 등을 해결하기 위해 영향 평가를 실시하도록 요구하고 있다. 예를 들어 워싱턴주는 2022년에 주 정보기술 담당관이 주 정부 기관에서 사용 중인 모든 자동화된 결정 시스템의 초기 목록을 작성하고 해당 웹사이트에 공개하도록 지시하는 법안을 제정했다. 2023년도 최고 정보기술 부서인 WaTech에서 작성한 자동화 결정 시스템 목록에 따르면 워싱턴 주정부는 총 8,379개의 AI 응용 프로그램을 사용하고 있었고 이 중 129개를 자동화된 결정 시스템으로 분류하였다. 또 다른 예로, 캘리포니아 주지사는 2023 행정명령을(State of California, 2023) 발동하여 주 기관들이 생성형 AI가 개인, 지역사회, 정부 및 주 정부 근로자에게 미치는 잠재적 위험을 검토하고 설명하는 보고서를 작성하도록 지시하라고 하였다. 특히 이 행정명령은 생성형 AI가 필수 재화와 서비스에 대한 접근에 영향을 미치는 중대한 결정을 내리는 데 사용되는 경우와 같은 고위험 사용 사례 보고에 중점을 두고 있다. 또한 이 명령은 여러 주 기관들이 생성형 AI로 인해 캘리포니아의 핵심 에너지 인프라에 제기되는 잠재적 위협과 취약성에 대한 공동 위험 분석을 수행하도록 요구하고 있다.

가이드라인과 감독기구: 최소 30개 주가 주지사 행정명령, 기관 간 협력, 규칙 제정 및 주 법률을 통해 주 기관의 AI 사용에 관한 가이드라인을 제정했다. 주 가이드라인의 공통 요소에는 역할과 책임 명시, 지도 원칙, 새로운 절차, 목록 작성 요구사항 및 영향 평가가 포함된다. 일부 주들은 내부 도입을 위한 정책을 제안하는 작업 그룹이 만들어졌고, 다른 주들은 새로운 장비 조달 절차에 특정 요구사항을 추가하도록 의무화했다. 일부 주들은 새로운 윤리 강령을 제정했고, 다른 주들은 진화하는 국제적 및 국가적 표준에 맞춰 조정했다. 예를 들어, 애리조나의 주정부 정책은 AI기술 사용자들이 투명성, 책임성, 공정성, 보안, 개인정보보호, 교육, 조달 및 협력과 관련된 요구사항과 고려사항을 준수하도록 요구하고 있다(State of Arizona, 2024). 콜로라도, 조지아, 메인, 메릴랜드, 뉴욕, 노스캐롤라이나, 노스다코타, 워싱턴 주는 국립표준기술원(National Institute of Standard Technology) 표준을 (National Institute of Standards and Technology, 2025) 참조하여 가이드라인을 제정했고, 뉴햄프셔 주는 AI에 관한 유럽연합 윤리 지침 문서를 (European Parliamentary Research Service, 2019) 기반으로 가이드라인을 마련했다.
각 주는 주 기관 전체의 정보기술 자원 관리에서 중앙 집권적이거나 분권적인 정도가 다양하기 때문에, AI 사용에 관한 가이드라인 설정은 주 전체 최고 정보 책임자(Chief Information Officer), 정보기술 기관, 운영 및 행정 기관 또는 다른 기관에 배치된 개별 정보기술 담당자들이 담당하고 있다. 일부 주들은 이러한 업무를 수행하기 위해 새로운 직책을 만들어야 하는지 논의하고 있다. 오클라호마 주의 기술 태스크포스는 주지사에게 최고AI책임자(Chief AI Officer) 설치를 권고했다. 로드 아일랜드주는 단일 데이터 거버넌스 구조와 새로운 최고데이터책임자(Chief Data Officer)직책을 만들고 있다.

조달: 주정부의 정보기술 조달을 위한 AI 사용에 관한 가이드 라인은 각 주 정부에 따라 다르다. 예를 들어 캘리포니아주 정부는 2024년에 생성형 AI의 공공부문 조달, 사용 및 교육에 관한 가이드라인을 발표했는데 (State of California et al., 2024) 이 가이드라인에 따르면 생성형 AI 기술을 도입하기 위해 주 기관들은 문제 정의 개요 작성, 영향 평가, "인간이 루프에 참여" 요구를 포함하는 다단계 절차를 거쳐야 한다고 한다. 또한 주 기관들은 연간 예산 과정을 통해 생성형 AI 개념 증명을 위한 예산 요청을 제출할 수 있고 주 기관의 구매 담당자들은 생성형 AI 구매를 식별하는 방법에 대한 교육을 받도록 요구하고 있다. 한편 오하이오주에서는 새로운 생성형 AI 소프트웨어 조달 정책을 만들 때 주지사실과 행정서비스부 대표자들을 포함하는 다기관 AI 협의회의 검토와 승인을 요구하고 있다. 이 요구에는 위험 평가, 개인정보보호 평가, 보안 검토가 포함되어 있다.
주정부 기관과 공무원에게 적용되는 AI사용에 관한 목록작성 및 영향분석, 가이드라인 제정 및 운영을 통한 주정부의 AI거버넌스를 만들기 위한 노력뿐만 아니라 국제 개인정보 보호 전문가 협의회(International Association of Privacy Professionals, IAPP)에서는 2025년에 주정부가 제정한 혹은 준비중인 민간 부문에 적용하는 AI 거버넌스 법안을 추적하여 발표하였다(International Association of Privacy Professionals, 2025). 이 법안 추적 보고서는 입법 진행상황 (예: 제출, 서명)과 범위(예: 모든 적용 대상 AI 시스템, 기초모델, 자동화된 의사결정 시스템, 생성형 AI 시스템)에 따라 각 주의 민간 부문에 적용하는 AI 거버넌스 관련 법안을 분류하고 있다. 그림 1에서 볼 수 있듯이 2025년 7월 현재 캘리포니아, 유타, 콜로라도, 그리고 텍사스 4개 주만이 주 의회에서 민간 부문에 적용하는 AI 거버넌스 법이 통과되어 시행되고 있다.
또 이 보고서에는 “AI이용조직(deployer organizations)”과 “AI 공급조직(provider organizations)”에 대해 거버넌스 프로그램, 평가, 교육, 일반 공지, 설명/사고 보고, 차별금지 조치 등 다양한 조직적 의무를 명시하고 있다.

<그림 1> 미국 주정부 AI 거버넌스 입법 현황 (2025)

▶ 다음 호에 이어서