33
지능정보사회 법제도 이슈리포트 | 2019.10 공공부문 AI 활용 활성화 과제 : 영국의 공공부문 AI 활용 가이드라인의 주요 내용과 시사점
지능정보사회 법제도 이슈리포트 | 2019.10
공공부문
AI 활용 활성화 과제 :영국의 공공부문 AI 활용 가이드라인의
주요 내용과 시사점
2 •• 지능정보사회 법제 이슈 2019.10.15.
목 차
Ⅰ. 공공부문 AI 활용 현황 ································· 3
Ⅱ. 영국의 「공공부문 AI 활용 가이드라인」········· 11
1.「공공부문 AI 활용 가이드라인」개요 ·································· 10
2.「공공부문 AI 활용 가이드라인」세부내용 ·························· 12
Ⅲ. 공공부문 AI 활용 활성화를 위한 개선 과제···· 23
일본·EU AI(AI) 윤리 가이드라인 비교 •• 3
Ⅰ 공공부문 AI 활용 현황
국내외 AI 활용 현황 분석과 영국 가이드라인 사례 분석을 통해
공공부문의 AI 활용 활성화를 위한 제도적 시사점을 도출
□ 공공부문 AI 활용 필요성
○ 공공부문의 업무가 AI를 활용하여 자동화된다면 많은 시간과 비용
절감1) 가능
- 규칙 기반 시스템, 음성 인식, 기계 번역, 컴퓨터 비전*, 머신러닝, 로
봇공학, 자연어처리 등 인지 기술을 도입하여 자원제약, 서류부담, 대
기시간 등을 줄일 수 있음
* 기계의 시각에 해당하는 부분을 연구하는 컴퓨터 과학의 연구 분야
○ 방대한 데이터로부터 새로운 가치를 창출하는 인공지능 기술을 활용
하여 정부는 기존에 구현하지 못했던 질 높은 공공서비스 제공 가능
- AI 기술을 보유한 민관 협력 프로젝트를 진행하여 민간의 AI 역량은
키우고 정부는 시민의 요구사항을 충족시키는 다양한 서비스 창출 가능
○ AI 기반 공공시스템을 통해 관료제가 가진 부패 문제와 정보 격차
문제 해소 가능성 증가
- 관료제의 경직성과 폐쇄성이 불러온 도덕적 해이와 정보 부족은 공직자의
잘못된 의사결정으로 이어져왔음
- AI·데이터에 기반한 문제해결은 주인-대리인 이론*에 의한 정보
격차나 부패 문제, 역선택 문제** 등에서 자유로울 것으로 기대
* 직접 업무를 수행하는 대리인은 주인보다 많은 정보를 지니고 있어
주인의 이익에 부합하지 않도록 행동
** 역선택이란 의사결정에 필요한 정보가 충분하지 않아, 불리한 선택을
하게 되는 것
1) 공무원 업무를 자동화한다면, 연간 수백만(9570만~12억)의 노동시간과 잠재 비용(33억~411억)이 절감(영국)(출처 : How much time and money can AI save government, Deloitte, 2017.4.26)
4 •• 지능정보사회 법제 이슈 2019.10.15.
□ 공공부문 AI 도입의 5가지 방해요인
○ 세계경제포럼(WEF)은 정부의 AI 도입 장애요인으로 데이터 활용의
어려움, 기술의 부족, AI 생태계, 조직 문화, 조달 메커니즘 등을 제시2)
- (효과적인 데이터 활용의 어려움) 공공부문에서 생성된 데이터는
AI에 잘 활용할 수 있는 형태로 수집되지 않았고, 정부 조직은
데이터를 이해하고 관리할 수 있는 기능·거버넌스가 부족
- (데이터·AI 기술 부족) 높은 수준의 AI·데이터 전문인력이 부족하고,
정책입안자·부서책임자·공무원 등은 AI에 대한 충분한 이해가 부족
- (AI 생태계) 소규모 스타트업 위주의 AI 생태계를 감안할 때 AI
기술력이 뛰어난 중소 스타트업들은 정부와의 협력 경험이 적고
대규모 프로젝트를 수행하기에는 인력과 자금이 충분하지 않음
- (조직문화) 공공기관은 기존의 관행과 절차를 중시하고 민간보다
조직의 경직성이 강해, 위험을 감수하지 않으려는 경향성이 존재
- (조달 메커니즘) 정부와 민간의 알고리즘에 대한 인식차이로 민간과의
계약에 어려움이 있을 수 있으며*, 소기업의 경우 복잡하고 상당한
시간이 소요되는 공공조달 메커니즘에 대응하기 어려움
* 민간 부문은 알고리즘을 지식재산권으로 취급하기 때문에 다른 개발자가
알고리즘에 액세스하는 것에 동의하지 않을 가능성이 높은 반면 정부는
알고리즘에 대한 직접 접근·통제를 원함
2) 5 challenges for government adoption of AI, WEF, 2019.8.16
일본·EU AI(AI) 윤리 가이드라인 비교 •• 5
□ 공공부문 혁신을 위한 국내외 AI 전략 수립 현황3)
○ 전 세계 38개국은 AI 국가 전략을 발표했으며, 그 중 28개국은 전략에
공공부문의 혁신을 포함하거나 개별 공공부문 혁신 전략을 수립
- 이탈리아4), 캐나다5), 핀란드6)는 공공부문 혁신을 위한 개별 전략을
수립했으며, 영국·독일·프랑스 등 25개국은 AI 전략에 공공부문
혁신 내용을 포함
- 한국은 AI R&D 전략(‘18.5), 데이터·AI경제 활성화 전략(’19.1) 등
AI 관련 전략*을 발표했으나, 공공부문의 혁신보다는 민간의 AI
경제 활성화에 초점
< 주요국 AI 기반 공공부문 혁신 전략의 주요 내용 >
이탈리아
[공공부문 AI 구현 주요 9가지 과제]
① 윤리, ② 기술, ③ 역량(인적), ④ 데이터의 역할, ⑤ 법제도 개선, ⑥
공공부문 AI 활용, ⑦ 불평등 해소, ⑧ 영향력 분석, ⑨ 격차해소
9개 과제를 극복할 수 있는 10가지 권장 사항7) 제시
캐나다
[공공부문 책임있는 AI 활용을 위한 전략]
① 윤리 지침, ② 공무원을 위한 가이드라인 제시(보고서, 블로그 등),
③ 조달 프로세스 간소화, ④ 알고리즘 영향 평가 도구 지침
핀란드
[AI 시대 대응을 위한 공공부문 주요 조치]
① 비즈니스 경쟁력 강화, ② 데이터 활용 증진, ③ 원활한 AI 조달 환경
조성, ④ 최고 전문가 육성 및 확보, ⑤과감한 투자, ⑥ 최고수준 공공서비스
구축, ⑦ 협업을 위한 모델 개발, ⑧ 최고수준 AI 리더쉽 개발, ⑨ 업
무재설계, ⑩ 신뢰·인간중심 AI, ⑪ 보안문제 대비
3) Hello, World : Artificial Intelligence and its use in the Public Sector, OECD OPSI(Observatory of Public Sector Innovation), 2019.8.1
4) 이탈리아, Aritificial Intelligence at the service of citizens, 2018.3
5) 캐나다, Responsible use of Artificial Intelligence, 2017.8
6) 핀란드, Leading the way into the era of Artificial Intelligence, 2019.6
7) https://ia.italia.it/assets/whitepaper.pdf
6 •• 지능정보사회 법제 이슈 2019.10.15.
□ AI를 활용한 공공부문 혁신 유형
○ 정부혁신을 통해 삶의 질 개선을 위한 연구와 프로젝트를 수행하는
OPSI(Observation of Public Sector Innovation)는 공공부문 혁신
유형으로 ①개선 지향, ②미션 중심, ③적응형, ④예측형을 제시
하였으며, 유형 간의 교차로 다른 유형 발생 가능
- (개선지향) 현재 수행중인 업무에 새로운 방법을 적용하여 혁신
- (미션중심) 목표 달성 방법을 혁신
- (적응형) 환경변화에 대응하여 업무처리 방법을 혁신
- (예측형) 환경변화가 미치는 영향을 예측하여 혁신
○ AI 전략을 수립(미션중심)하고 AI을 통해 업무를 개선(개선지향)하고
사회변화에 대응하며(적응형) 기술의 사회적 영향력을 분석(예측형)
함으로써 정부 혁신 주도 가능
8) AI 활용 분야별 혁신 유형의 교차가 있을 수 있으나, 주요 특징 유형으로 분류
< 공공부문 AI 활용 주요 분야 사례 >8)
혁신유형 주요 내용
개선
지향
공공부문
효율성 증진
- 업무 자동화를 통한 행정처리 개선
- R&D 투자 및 평가 프로세스 개선 등
헬스케어 - 질병 진단 등
교통 - 교통흐름개선, 응급이송지원, 차량 충돌 가능성 예측 시스템 등
안전
- 질병 확산 감지 및 예방, 화재 예방, 인명구조
- 공항 출입국심사, 보안카메라
- 범죄 예측, 국경경비 등
적응형 시민 소통
- 실직, 퇴직, 사별, 출산 등 생애주기에 따른 자동화된 서비스
- 챗봇을 통한 민원 처리
- 정부 부처 담당자에게 빠른 의견 전달 등
예측형
영향평가
+
지속가능한
개발
(SDGs)
- 사회적 영향 평가 및 대응 관련 프로젝트
- UN의 지속가능한 개발 목표(17개)* 관련 프로젝트 * ① 빈곤퇴치 ② 굶주림 없게 하기 ③ 건강하고 질 좋은 삶 ④ 질 좋은
교육 ⑤ 양성평등 ⑥ 깨끗한 물과 위생 ⑦ 우리가 구할 수 있는 깨끗한
에너지 ⑧ 양질의 일자리와 경제성장 ⑨ 산업혁명 & 사회기반시설
⑩ 불평등해소 ⑪ 안정적으로 유지되는 도시와 커뮤니티 ⑫ 책임감
있는 소비와 생산 ⑬ 환경보호에 대한 움직임 ⑭ 수자원보호 ⑮
생태계보호 ⑯ 평화,정의 그리고 강력한 제도 ⑰ 목표에 대한 단결력
일본·EU AI(AI) 윤리 가이드라인 비교 •• 7
□ 국내 공공부문 AI 도입 사례
공공서비스 주체 세부 내용
독거노인
스마트
일상생활 지원
서비스
김포시
(목표) AI 로봇으로 독거노인 일상생활 지원
(방법) AI를 탑재한 ‘다솜이’가 어르신의 생활·행동패
턴을 분석해 맞춤형 서비스 제공
(시행) 19.9월부터 김포시의 65세 이상 200명 독거
노인에게 보급해 시범 운영 중
AI 보행자
알리미 서비스
서울시
금천구
(목표) 위험이 높은 골목길에 운전자 사각지대 안내
(방법) AI CCTV가 보행자를 감지하면 LED 전광판에
‘보행자 감지’문구 표시(19.9.24 시행)
(시행) 또한, 1분에 한 번씩 보행자 및 차량 통행량
등의 교통 데이터를 수집·분석
AI 기반
민원상담 서비스병무청
(목표) 병역의무자와 가족의 민원상담
(방법) 챗봇에 병무행정에 관한 민원상담 관련 지식을
학습시켜 2020년부터 24시간 상담 진행 예정
AI 기반
대형생활폐기물
수거 시스템
서울시
은평구
(목표) 대형생활폐기물 처리시 수반되는 불편함 개선
(방법) 사용자가 대형폐기물의 영상, 위치를 전송하면
AI로 객체를 인식해 과금·수거 처리
(시행) 행안부가 2018년부터 고도화 사업 수행 중
AI 기반
항암신약 개발
대구경북
첨단의료
산업진흥
재단
(목표) AI 기반 항암 신약 개발 플랫폼 구축
(방법) 딥러닝, 전통적 기계학습, 분자설계 등의
다양한 인실리코 방법을 혼용한 총 7가지 모델 개발
(시행) 과학기술정보통신부와 보건복지부의 공동
추진하여 19년부터 3년간 약 280억 원 투입 예정
8 •• 지능정보사회 법제 이슈 2019.10.15.
□ 해외 공공부문 AI 도입 사례
(1) 미국
공공서비스 주체 세부 내용
이민 관련
민원 처리
챗봇
시민권 및
이민 서비스
(USCSI)
(목표) 매년 이민 문제 관련 1400만건 이상의 전화
민원 대응 개선
(방법) Emma라는 챗봇이 자연어처리기술 등을
통해 다양한 이민 관련 서비스 제공
교통 최적화
및 제어
피츠버그시
교통국
(목표) 교통 흐름 관리, 이동시간 단축, 교통 정지
횟수 감소 및 대기 시간 단축
(모델) SURTRAC(Scalable Urban Traffic Control)
(방법) 교통신호에 내장된 센서 또는 카메라로부터
데이터를 수신하고 각 교차로의 교통량을 예측
- Rapid Flow Technologies와 협력
(효과) 도시 여행 시간 25%, 교통 정체 30%, 대기
시간 40%, 전체 배기가스 배출량 21% 감축
화재 발생
가능성 예측
애틀랜타
소방구조부
(목표) 화재 발생 가능성이 높은 건물 식별
(모델) Firebird
(방법) 58개의 변수에 대한 데이터를 활용하여
5,000개의 건물에 대한 화재 위험 점수 예측
- AFRD(Atlanta Fire Rescue Department)와 협력
- 자산 위치, 화재 발생률, 건물 크기, 건물 구조 및
2010~2014년 기간 동안 건축된 연도 데이터 등
(효과) 건물 화재 사고의 73% 예측
식당 위생검사네바다 주
보건국
(목표) 식중독 예방 프로그램 개발
(방법) 네바다 보건당국 트위터에서 데이터 수집,
AI으로 위험지수를 환산해 검사 대상 선정
- Rochester 대학에서 개발
(효과) 네바다 보건당국은 식중독 예방을 위한
식당 위생검사를 Random에서 AI를 통한 선정 방
식으로 전환(문제 식당 발견비율 9%→15%)자료 : AI in Government–Current AI Projects in the Public Sector, EMERJ, 2019. 2. 18.
일본·EU AI(AI) 윤리 가이드라인 비교 •• 9
(2) 영국
공공서비스
AI 기술 유형
주체 세부 내용
개발도상국인구 추정
컴퓨터 비전
국제개발부(DFID)
(방법) 위성이미지 및 마이크로 인구 조사 데이터를 Random forest 기계 학습에 적용- 대학교와 파트너쉽 체결, 위성이미지를 통해 경계,
건물, 운송, 수로, 조명, 산업 지역 등을 식별 (활용) 개발도상국 인구조사, 예방접종 캠페인 및 서비스 계획, 분쟁 지역에 대한 인구추정
연례 차량
종합검사개선
군집화교통부(DfT)
(배경) 매년 23,000개 차고 대상으로 4천만 건의 MOT TEST(차량정기검사) 수행, MOT 표준 적용 여부 확인(1-3년 단위로 차고 평가)(방법) 라벨링된 데이터가 없어 3개월간 테스트용 차고 데이터를 수집한 후 군집화를 실시하여 영국의 각 차고의 위험 점수 생성- 3개월 마다 테스트 데이터 업데이트- MOT TEST 수행 결과에 따라 군집화 모델 생성(효과) 위험점수가 높은 차고 위주로 심사관 방문 결과 징계 조치 증가 및 도로·환경 요구사항을 준수하는 차량 증가
GOV.UK 사용자접근성 강화
군집화,자연어처리(NLP)
정부 디지털 서비스(GDS)
(배경) GDS 홈페이지에 태그가 없는 10만 개의 페이지가 있고, 약 210개의 하위 브랜치에 태그 필요(방법) NLP를 활용하여 페이지 내용 패턴을 인식할 수 있도록 태그를 추가한 기존 페이지에서 모델 학습- 데이터 과학팀이 GDS 직원과 협력 - 분류 구조와 하위 브랜치 레벨 데이터, 태그가
있는 GOV.UK의 페이지 샘플, 태그가 없는 페이지 데이터를 활용
(효과) 딥러닝 컨볼루션 신경망인 최종 모델은 기존 콘텐츠의 96%에 태그를 제공하고 새 콘텐츠에 태그를 정확하게 제안
감옥 영향 분석
자연어처리(NLP)
법무부(MoJ)
(목표) 지리 등 여러 요소와 수감자 충돌 같은 사건이 다른 교도소에 미치는 영향 분석(방법) 교도소에서 특정 단어를 어떻게 사용하는지 추적하기 위해 신경망 분석 학습 시행 - 500개가 넘는 교도소 관련 보고서에서
250,000개 이상의 비정형 텍스트 분석(효과) 교도소에서 발생하는 문제와 사건 및 교도소에 영향을 미치는 지리적 패턴 식별, 구금 시설 검사 및 정책에 관한 데이터 중심 의사결정
자료 : A guide to using artificial intelligence in the public sector, UK
10 •• 지능정보사회 법제 이슈 2019.10.15.
Ⅱ 영국의 ‘공공부문 AI 활용 가이드라인’
1. 「공공부문 AI 활용 가이드라인」개요
□ AI 산업 활성화를 위한 영국의 준비
○ 영국은 AI의 잠재력을 인식하고, AI 산업 활성화를 위한 대규모
산업 전략인「AI Sector Deal」발표(’18.4)
- 영국 AI 산업의 5가지 기본요소(아이디어, 사람, 인프라, 기업환경,
지역)를 강화하고 강력한 민관 파트너십 구축을 위한 전략 제시
○ AI 산업 활성화를 위한 3개 기관 설립
- (AI Council) AI Sector Deal 관련 고위급 전문가 위원회
- (Office for AI) AI 전략을 조정·감독하는 산업계·학계·연구계 등의
공동 협력체
- (Centre for Data Ethics and Innovation) AI의 안전성, 윤리성, 혁신성
관련 지표를 마련하기 위한 지원 센터
< AI Sector Deal, 5대 요소 강화를 위한 정부-산업의 역할 >부문 주요 내용
아이디어
정부
- 서비스 분야 등의 생산성 향상을 위한 AI 적용시 자금 지원
- 공공부문을 포함한 AI에 대한 이해력 증진(R&D 강화 등)
- AI 연구개발 지원
산업- 서비스, 생활과학, 공공분야 AI 솔루션 개발을 위한 매칭펀드
제공 등
사람정부 - 고숙련된 인재 양성을 위한 협력 지원 등
산업 - AI 인력 규모, 다양성 확대 투자 등
인프라정부 - 기존 인프라 강화, 데이터 공유 프레임워크 개발 등
산업 - 오픈 데이터 표준화, 데이터 공유 프레임워크 개발의 파트너
기업
환경
정부 - AI 산업 지원을 위한 정책 개발 및 확산
산업 - 정책 및 전략 개발 참여, 스타트업을 위한 환경 개선 등
지역정부 - AI 산업 발전에 필요한 핵심클러스터와 협업
산업 - AI 클러스터를 영국 전역으로 확장
자료 : 인공지능(AI)을 선도하는 주요국의 핵심전략, 한국정보화진흥원, 2018.12.15
일본·EU AI(AI) 윤리 가이드라인 비교 •• 11
○ AI 개발과 수용성 향상을 위한 2개의 기금 마련
- (GovTech Gatalyst) 공공부문의 신흥 기술 활용을 돕는 기금
- (Regulator’s Pioneer Fund) 신기술 관련 규제 홍보 기금
○ GDS(Government Digital Service)와 OAI(Office for Artificial Intelligence)
주도로 공공부문에서 AI를 구축하고 활용하는 방법에 대한 가이드라인
(A guide to using artificial intelligence in the public sector) 발표(19.6.10.)
□ 「공공부문 AI 활용 가이드라인」의 구성
○ 가이드라인은 1)공공부문 AI 활용 서비스의 계획·개발·관리 방법과
2)안전하고 윤리적인 AI 활용법 그리고 3)사례로 구성
- (1부) 인공지능 프로젝트 담당자가 알아야할 기초 지식부터 실제
인공지능 시스템 배포까지 고려해야할 사항들을 포함한 가이드라인
- (2부) 기획에서부터 개발, 배포, 관리에 이르는 전체 프로세스에서
윤리적이고 안전하게 시스템을 개발하기 위한 가이드라인
- (3부) 인공지능 프로젝트 확산을 위해 영국의 부처·기관이 실제
수행한 인공지능 관련 프로젝트 사례 제시
< 영국, 공공부문 AI 활용 가이드라인 구성 >
구 분 내 용
AI를 활용한 공공서비스
계획·개발·관리 지침
1) AI에 대한 이해
2) AI가 적합한 솔루션인가?(평가)
3) AI 구현을 위한 계획 및 준비
4) AI 프로젝트 관리
윤리적이고 안전한 AI 활용법 AI 윤리 및 안전 이해
공공부문의
인공지능 활용 사례
1) DFID가 인구를 추정하는 방법
2) 교통부가 MOT 테스트를 향상시키는 방법
3) GDS가 기계학습을 사용해 GOV.UK의 접근성을
높이는 방법
4) 기차 도착시간의 정확성을 높이는 방법
5) 자연어처리를 통한 스웨덴 토지대장 분석 등
12 •• 지능정보사회 법제 이슈 2019.10.15.
2. 「공공부문 AI 활용 가이드라인」세부내용
(1) AI 프로젝트 개발 지침
□ 영국의 공공 프로젝트 방법론
○ 영국은 디지털 정부 서비스를 구축·운영하기 위한 프로젝트 관리
방식으로 애자일 방식을 권고
- 교량 및 건물 건축의 경우 순차적인 프로세스에 의한 관리(워터폴
방식)가 효과적이나, 최근의 빠른 기술과 사용자 요구사항 변화에
대응하기 위해서는 애자일 방식이 더 효과적
- 애자일 방식은 전통적인 계획 중심의 개발방식과는 달리 끊임없는
프로토 타입을 만들어 그때그때 필요한 요구를 반영하여 수정·
보완해 나가며 개발하는 방식
○ 「공공부문 AI 활용 가이드라인」은 AI에 대한 이해를 바탕으로
애자일 기반의 서비스 개발단계(발견-알파-베타)를 제시
- (발견) 사용자 요구사항에 맞는 기술 선택, 문제해결에 적합한 AI
기술 및 데이터 준비, 팀 구성 등 프로젝트 기반 마련
- (알파) 단순한 기준 모델을 만든 후 가설기반의 여러 프로토타입을
만들면서 최상의 모델을 도출하는 애자일 방법론 도입
- (베타) 모델을 실제로 도입하여 통합하고 평가하며 지속적으로
사용자 요구사항을 수집하여 개선
일본·EU AI(AI) 윤리 가이드라인 비교 •• 13
1) 발견(Discovery) 단계
□ 사용자 요구 식별
○ AI는 서비스 제공 수단이므로 모든 서비스 설계는 사용자 요구를 식별
하고 이에 맞는 적절한 기술이 무엇인지 판단하는 것으로부터 시작
- AI는 다목적 솔루션이 아니며, 현재까지는 인간과 달리 추론 능력이
없어 데이터 기반의 결론 도출만 가능
- 기존 데이터 분석, 사용자 인터뷰 및 관찰, 사용자와 업무 관련한
조직 내외부 사람들과의 소통 등을 통해 사용자 요구사항 도출
< 서비스 개발 단계별 사용자 요구사항 조사 >
단계 조사 내용
발견
- 서비스 대상자와 필요한 서비스 내용
- 현재 서비스 처리 프로세스
- 현재 사용자가 느끼는 문제 및 불편함
알파-베타-라이브9)
- 서비스 개발, 개선을 위한 지속적인 요구사항 파악
- 예상 사용자와 함께 서비스 테스트 디자인 아이디어 및
새로운 기능 도출
- 사용자 요구사항 충족 확인을 위한 사용자 서비스 경험
□ 서비스에 적합한 기술 선택
○ AI가 적절한 솔루션인지 여부를 판단하기 위해서는 데이터 과학자와
같은 기술 전문가와 AI 모델의 결과를 적용할 환경에 대한 도메인
전문가간의 협업 중요
- ① 필요한 정보를 가진 데이터가 있는지, ② 데이터를 활용할 때
윤리적이고 안전한지, ③ 모델의 학습에 충분한 데이터가 있는지,
④ 사람이 처리하기에는 규모가 크고 반복적인 업무인지, ⑤ 실제로
성과 달성에 사용할 수 있는 정보를 제공하는지 등을 고려
9) 라이브는 영국 정부가 제안하는 공공서비스 개발(발견-알파-베타-라이브)의 마지막 단계로 서비스가 지속가능하도록 반복적으로 개선하는 단계로, 공공부문 AI 활용 가이드라인에서는 다뤄지지 않음.
14 •• 지능정보사회 법제 이슈 2019.10.15.
○ 데이터를 활용하여 구축할 AI의 품질을 보장할 수 있는지, 향후
지속적으로 최신 데이터로 업데이트 가능한지 평가
- 데이터의 정확성, 완전성, 독창성, 적시성, 타당성, 관련성, 대표성,
충분성, 일관성 등을 확인하여 품질 확인
* 명확한 패턴을 찾아낼 수 없는 데이터, 명확하지만 편향적인 결과를
도출하는 데이터 등 오류 데이터 판별 필요
< 데이터 평가를 위한 고려 사항 >
- AI 모델을 위한 학습용 데이터가 충분한가?
- 데이터 활용의 영향력, 파급력을 이해하는가?
- 데이터가 정확하고 완전하며, 최신성을 유지할 수 있는가?
- 데이터가 적합하고, 신뢰할 수 있고, 공정하게 수집되었는가?
- 데이터를 활용할 수 있는 허가, 자격을 가지고 있는가?
- 어떤 데이터 모델링이 이용 가능한 데이터에 적합한가?
- 데이터에 얼마나 빠르게 접근할 수 있는가?
- 데이터가 어디에 위치하고 있는가?
- 데이터 형식과 모델링하기 위한 준비가 많이 필요한가?
- 데이터가 구조화되어 있는가?
- 개인정보 등 데이터 활용 제약 요소가 있는가?
- 데이터 셋 내에서 혹은 데이터 셋 간의 주요 변수를 연결할 수 있는가?
□ AI 기술 선택 및 데이터 준비
○ 현재 광범위하게 사용 가능한 AI 기술은 대부분 감독학습, 비감독
학습, 강화학습의 머신러닝 기술
구 분 내 용
감독학습입력값과 출력값의 학습 셋이 주어지며, 입력값에서 출력값으로의
사상 학습
비감독 학습 출력값 없이 입력값만으로 학습하며 입력값에서 데이터의 잠재요
인 또는 잠재변수를 찾아내는 것이 핵심
강화 학습 어떤 환경 안에서 선택 가능한 행동 가운데 보상을 최대화하는
행동을 선택하는 방법
일본·EU AI(AI) 윤리 가이드라인 비교 •• 15
- 대표적인 기술로는 분류·회귀·군집화·차원축소·다양성 학습·랭킹
등이 있으며, 해결해야 할 문제에 따라 최고 성능을 내는 기술이 상이
< 주요 AI 기술 >
머신러닝 기술 설 명 예 시
분류
(Classification)
주어진 카테고리의 특성을
학습하고, 카테고리에 알
수 없는 데이터 값을 분류
- 이메일 스팸 여부 판별
- 상품이 국경 검사를 받아야
하는지 여부 확인
회귀
(Regression)
알 수 없는 데이터 요소의
값을 예측
- 크기, 위치, 경과연수 등의 정보를
토대로 건물의 시장가치 예측
- 공기오염 집중도 예측
군집화
(Clustering)비슷한 데이터 집합을 식별
- 소비자들의 구매패턴별 그룹
- 스마트 미터 데이터를 통한
전기 제품 그룹 식별 후 품목
별 전기 요금 생성
차원 축소,
다양성 학습
(Dimensionality Reduction or
Manifold Learning)
가장 적절한 변수로 데이터를
축소하여 모델을 정확하게
만들거나 데이터 시각화
- 다른 타입의 머신러닝 알고리
즘을 평가하고 개발(주로 데
이터 과학자들)
랭킹
(Rank)
이전 목록을 기반으로 새로운
데이터의 순위를 매기는 모델- 웹사이트의 사용자 검색 순위 등
○ 머신러닝을 활용한 주요 어플리케이션에는 자연어처리(NLP), 컴퓨
터 비전, 이상감지, 시계열 분석 등이 대표적
< 대표 AI 어플리케이션 >머신러닝 기술 설명 예시
자연어처리(NLP)
자연어를 처리·분석하여
단어, 의미, 문맥 등 인식
- 자동자막생성을 위한 음성-텍스트 변환
- 고객 메일 자동 회신
컴퓨터 비전(Computer vision)
인간의 시각을 모방하는
기계 또는 프로그램
- 자율자동차를 위한 도로 표지판 식별
- 자동 여권 관리를 위한 안면 인식
이상 감지(Anomaly detection)
데이터 셋 안에서 이상 데이터 값을 분석
- 사용자 은행계좌에서 사기행위 식별
시계열 분석(Time-series
analysis)
예측 및 모니터링을 위해
데이터가 시간 흐름에 따
라 어떻게 변하는지 분석
- 예산 분석 수행
- 경제 지표 예측
추천 시스템(Recommender
Systems)
사용자가 특정 항목을 평
가해 새로운 추천법 예측- 사용자별 맞춤 웹페이지 추천
16 •• 지능정보사회 법제 이슈 2019.10.15.
○ AI 기술을 활용한 서비스 제공을 위해 활용되는 데이터는 안전하고
편향적이지 않아야 하므로 데이터 품질 기록 및 유지 필요
- 데이터가 모델링하려는 모집단을 충분히 반영할 수 있도록 다양
하여야 하며, 데이터의 한계와 편견에 대한 이해가 필요하며,
- 데이터의 정확성, 수집 방법 및 대체 데이터 여부, 시스템이 배포
될 때 특정 그룹의 이익·불이익 여부, 시스템 배포 위치, 시기,
방법에 대한 사회적 수용성을 고려하여야 함
< 데이터 품질을 저하시키는 요인 >
요 인 내 용
출처
(수집 방법 및 이유)
데이터의 출처는 정확성, 신뢰성 및 대표성에 영향을 미침
- 수집방법(사람 vs 자동화 시스템)
- 목표 인구 반영 정확도
- 누락, 배제, 편견
- 시간에 따른 데이터 패턴 변화 가능성
- 데이터 수집시 품질 보증 프로세스
- 데이터 수집에 사용된 샘플링 전략
- 데이터 수집 관련 다른 문제
오류
오류가 불규칙한 경우 제거하거나 통제하기 어려움
- 간단한 데이터 시각화는 이상 값이나 체계적인 오류를
발견하기에 가장 좋은 방법
편견
잠재적인 편견이 데이터 분석 결과에 미치는 영향을 신중하게
고려해야하며, 이를 위해 서비스 설계시 편견 유형을 최대한
고려하도록 관련 전문가 참여가 중요
- (측정 편견) 모집단을 대변하지 못하는 데이터
- (사회적 편견) 데이터에 담긴 사회적 편견은 알고리즘의
편향으로 도출
- (소셜 미디어) 소셜 미디어 데이터는 실시간으로 통찰력있는
데이터를 제공할 수 있으나, 편견을 포함할 가능성 높음
- (설문조사) 낮은 응답률로 인한 응답의 편향성은 부정확한
결과 초래
일본·EU AI(AI) 윤리 가이드라인 비교 •• 17
- 사이버센터(National Cyber Centre, NCSC)의 AI와 데이터 활용
가이드*, EU GDPR, 정보보호법 등을 활용하여 데이터 안전성 확보
* NCSC의 올바른 데이터 처리 지침 : GDPR, 정보보호법을 준수하여야
하며, ①데이터 처리 위치 ②데이터 저장 방식 ③데이터 보안 유형
등에 유의하여야 함
- 기존 시스템에 있는 AI 학습용 데이터는 편향적일 수 있고 제어가
어려울 수 있으므로 AI 기술과 호환되도록 표준화 작업 필요
발견(Discovery) 단계 기타 고려사항
① 지출예산 확보 : AI 프로젝트는 실험적이고 반복적인 성격으로 정확한 성과를
파악하기 어려울 수 있으나, 이런 불확실성을 탐색하고 잠재적인 성과를
강조하여 예산 확보 필요
② AI 솔루션 구축 방법(직접개발 vs 구매) : AI 솔루션을 구매할 것인지 또는
직접 구축할 것인지를 결정할 때 (1) 사용자 요구사항이 조직에 고유한 일인지
일반적인 것인지, (2) 사용자의 요구를 충족시키는 민간 솔루션의 성숙도, (3)
제품이 기존 인프라와 통합되는 방법을 고려
③ AI 구축을 위한 팀 구성 : 편견을 줄이고 정확한 결과를 도출하기 위해, 데이터
설계자, 데이터 과학자, 데이터 엔지니어, 윤리 관련 전문가, 도메인 전문가
등과 협업 필요
구 분 역 할
데이터 설계자비즈니스 요구를 충족시킬 데이터 설계를 통해 조직의
데이터 활용 목표 설정
데이터 과학자 데이터 가치를 활용하며 비즈니스 문제 식별
데이터 엔지니어 데이터 제품 및 서비스 개발
도메인 전문가 AI 모델 결과를 배포할 환경 관련 전문가
④ AI 프로젝트에 대한 책임 및 거버넌스 설정 : 모델에 대한 명확한 책임 프레임
워크가 있어야 하며, 조직의 성숙도에 따라 AI 데이터와 모델 거버넌스를
결정할 위원회 또는 포럼 등을 설정
18 •• 지능정보사회 법제 이슈 2019.10.15.
2) 알파(Alpha) 단계
□ AI 모델 - 프로토 타입 개발 및 서비스 계획
AI 모델을 직접 구축하기로 결정한 경우 다음과 같은 단계를 수행
① 데이터 분할
② 기준 모델 만들기
③ 프로토타입 개발
④ 모델 테스트
⑤ 모델 성능 평가·개선
⑥ 최종 선택
① 데이터 분할
○ 학습용 데이터를 만들기 위해 데이터를 분할하여 구축
- (모델링용 데이터) 모델링 단계에서 알고리즘 훈련을 위한 데이터
- (성능평가용 검증 데이터) 성능 검증을 위한 데이터
- (최종 점검용 데이터) 마지막 모델의 최종 점검용 테스트 데이터
② 기준 모델 만들기
○ 복잡한 모델을 만들기 전에 간단한 기준 모델을 만들어 나중에 복잡한
모델과 비교할 수 있는 기준을 제공하고 모델의 문제점 식별에 활용
③ 프로토 타입 개발
○ 기준 모델을 토대로 더 복잡한 모델의 프로토 타입 제작 가능
○ 이 과정은 대량의 데이터를 필요로 하는 반복적인 프로세스이므로
문제해결에 가장 효과적이고 적절한 알고리즘을 결정하기 위해
여러 프로토 타입 구축 가능
④ 테스트
○ 모델 효율성을 저하시키는 과대적합(Overfitting)이나 과소적합
(Underfitting)한 모델이 되지 않도록 지속적인 테스트 필요
○ 최종 점검용 데이터는 최종(Best) 모델에 활용해야하므로, 최종
점검 테스트까지 분리해야 하며, 이 테스트는 모델이 배포된 후의
성능을 가장 정확하게 나타냄
일본·EU AI(AI) 윤리 가이드라인 비교 •• 19
⑤ 모델 평가
○ 새로운 데이터에 대한 모델 성능 평가를 통해 모델이 실제 환경에서
어떻게 수행되는지 파악 가능
○ 평가 지표는 해결하려는 문제와 선택한 모델에 따라 상이하며,
데이터 과학자와 함께 윤리적·경제적, 사회적 영향을 고려하여
평가 척도 선택
⑥ 최종 모델 선택과 성능 평가
○ 최종 모델은 1) 문제해결에 필요한 성능 수준, 2) 모델이 필요한
설명가능성 수준, 3) 예측 빈도과 재훈련(데이터) 필요성, 4) 유지
비용 등을 고려하여 선택
○ 성능 평가를 위해서 문제 해결에 필요한 성능 수준을 분석하고 모델이
일반적으로 정당화될 수 있는 성능 수준인지, 다른 유사 응용프로그램과
성능 수준이 어떻게 다른지, 모델에 편차 징후가 있는지 등을 고려
3) 베타(Beta) 단계
□ AI 모델의 실제 적용
○ 최종 선택된 모델을 공공서비스 의사결정 프로세스에 적용하기
위해 통합-평가-지원의 3단계 과정을 관리
- (통합) 실시간 데이터로 모델의 성능을 테스트하고, 이를 의사결정
과정에 통합
※ 사용자 요구사항을 계속적으로 수집하고 자동화된 고급 테스트 기능을
만들어 배포된 기능을 지속적으로 개선할 수 있도록 설계
- (평가) AI 모델이 비즈니스 목표를 충족하고, 적절하게 활용되고
있는지에 대한 지속적인 평가 수행
- (지원) 서비스를 받는 사람이 AI 모델을 활용하고 해석하는 것에
능숙하게 될 수 있도록 지원
20 •• 지능정보사회 법제 이슈 2019.10.15.
(2) AI 프로젝트 관리
□ AI 프로젝트 거버넌스 설정
○ AI 모델의 ①목표 달성, ②품질 보증, ③테스트 및 모니터링 등을
관리하는 거버넌스 체계 필요
- (목표 달성) 모델의 목표 달성 평가 전략을 수립하고 문제해결
여부, 사용자 경험 등의 목표 달성 지표 관리
- (품질 보증) 프로젝트 팀 전체가 AI 모델의 코드를 검증하고, 소스
공개화를 통해 품질을 보증
- (테스트 및 모니터링) 모델 성능의 모니터링 방법, 주기, 인력 등을
포함한 강력한 프레임 워크 구성
- 이외에도 안전성, 책임성, 공공성 등을 관리하는 체계가 필요
□ AI 프로젝트 위험 관리
○ AI 활용 프로젝트를 진행할 때 데이터의 신뢰성·무결성 등의
문제, 편견, 차별 등 발생할 수 있는 위험에 대한 관리 필요
위험 유형 완화 방안
편견·차별모델의 공정성, 설명가능성, 불확실성(신뢰성) 등을 모니터링
하기 위한 프로세스 마련
기밀유지 및
데이터 무결성
유지를 위한 보안
프로토콜의 부재
필요한 보안 프로토콜을 정의하기 위한 데이터 카탈로그 구축
데이터의 접근성
저하 및 저품질
초기 단계에서 사용할 데이터 셋을 매핑하고, 정확성·완전성·
고유성·관련성·충분성·적시성·대표성·타당성·일관성 등의 기준
에 따라 데이터 평가
모델 통합 곤란AI 모델 구축 초기 단계에서 엔지니어와 협업하여 개발된
모든 코드가 출시되기에 충분한지 확인
모델 책임 체계
부재
명확한 책임 체계 설정(AI 모델의 소유자, 모델의 유지보수
책임자, 코드 변경·수정 관리자 등을 명확화)
일본·EU AI(AI) 윤리 가이드라인 비교 •• 21
(3) AI 프로젝트의 윤리 체계
□ AI 윤리란?
○ AI 윤리란 AI 시스템의 개발 및 활용에 필요한 도덕적인 일련의
가치, 원칙 및 기술을 말함
- AI가 개인과 사회에 미치는 피해는 고의적인 것이 아니라, 비자발적
으로 발생하는 경우가 다수
- 시스템의 오용, 잘못된 알고리즘 설계, 의도하지 않은 부정적 결과
등으로 인해 윤리적 문제가 발생하고 있으므로 이로 인한 피해를
완화하기 위한 방안 마련이 필요
□ AI 프로젝트를 위한 윤리적 체계 구축
○ 윤리적이고 공정하며 안전한 AI 가치와 원칙의 실현을 위해 책임
있는 혁신 문화와 거버넌스 아키텍처 구축 필요
○ (책임감 있는 혁신 문화) AI 프로젝트 진행시 ① 윤리적 허용가능성,
② 공정성 및 비차별성, ③ 신뢰가능성, ④ 정의의 우선순위 설정
< 책임감 있는 혁신 문화의 4대 목표 >
윤리적 허용가능성- 결과물에 영향을 받는 이해관계자 및 지역사회의 복지에
미치는 영향 고려
공정성 및
비차별성
- 개인 및 사회 집단에 차별적 영향을 미칠 수 있는 잠재력
고려
- 모델 결과에 영향을 줄 수 있는 편견 완화
- 설계·구현 과정에서 공정성 문제 인식
신뢰가능성 - 제품의 안전, 정확성, 신뢰성, 보안 및 견고성을 최대한 보장
정의- 모델을 설계, 구현하는 방법의 투명성, 모델 결정 및 행동의
정당성 및 해석 가능성의 우선순위 설정
22 •• 지능정보사회 법제 이슈 2019.10.15.
○ (거버넌스 아키텍처) 윤리적 가치와 실행 가능한 원칙을 명확하고
구체적으로 설정하고, 프로세스 기반의 거버넌스 프레임 워크 구축
- (윤리적 가치) 앨런튜링 연구소는 책임감 있는 AI 설계 및 활용을 지원·
이해하고, 동기를 부여하는 윤리적 가치의 틀로써 ‘SUM Values’*를 제시
* Sum Values는 1) 개인의 다양성을 존중, 2) 개방적이고 진실되게서로를 포용, 3) 모두를 위한 웰빙, 4) 사회적 가치들과 정의, 공공의이익의 우선순위를 보호를 포함
- (실행 가능한 원칙 수립) SUM Values는 프로젝트의 윤리적 허용
가능성을 고려하는 것에 도움이 되나, 실제 시스템 개발, 구현에
적합하지 않으므로 실행 가능한 원칙으로 공정·책임·지속가능성·
투명성의 ‘Fast Track Principles’제시
< Fast Track Principles의 내용 >
공정
- (데이터 공정성) 공정한 데이터 수집, 활용
- (설계 공정성) 모델 아키텍처의 합리적인 기능, 프로세스 및
분석 구조 포함
- (결과 공정성) 차별적인 영향이 없는 시스템
책임- 프로젝트 설계·개발 과정에서 지속적인 책임 거버넌스 확립
- 전체 프로젝트를 감독하고 검토하는 모니터링 구현
지속가능성- AI 시스템이 개인과 사회에 미칠 수 있는 효과를 알고 정확성,
안정성, 보안 및 견고성 등의 안전에 유의
투명성- 이해관계자에게 모델에 대한 설명가능
- 프로세스에 대한 대중의 신뢰 제고
- (프로세스 기반 프레임워크) AI 구현 전반에 걸쳐 SUM Values와
Fast Track Principles를 통합하기 위한 ‘PBG Frame Work’* 필요
* 명확한 역할분담, 목표달성을 위한 워크플로우 단계, 모든 평가/후속조치/
재평가/지속적 모니터링을 위한 명시적 시간 및 활동을 기록하고 프로젝트
개발 全과정에서 지원되는 감사 기능 등을 고려해 프로젝트에 적합한
PBG Frame Work 수립
일본·EU AI(AI) 윤리 가이드라인 비교 •• 23
Ⅲ 공공부문 AI 활용 활성화를 위한 개선 과제
(1) 신뢰 가능한 AI 기본 원칙 수립
○ AI 기술은 국가·기업의 경쟁력 향상에 큰 기회가 되지만, 악용·오용에
따른 기술의 위험성도 지속적으로 제기되고 있음
○ 이에 신뢰 가능한 AI에 대한 각 국가의 논의가 활발하게 이루어지고
있으며, 최근 국제기구에서 합의된 AI 원칙들이 발표됨
< 주요 국제기구의 신뢰 가능한 AI 원칙 >
OECD
OECD Council Recommendation on AI (‘19.5)
① 포용성장, 지속가능한 발전, 복지증진(Inclusive growth,
sustainable development and well-being)
② 인간중심 가치 지향, 공정성 지향(Human-centred values and fairness)
③ 투명성 확보, 설명 가능성 확보(Transparency and explainability)
④ 견고성 확보, 보안 및 안전성 확보(Robustness, security and safety)
⑤ 책임완수(Accountability)
EU
Ethics guidelines for trustworthy AI(‘19.4) : 신뢰할 수 있는 AI의 구성
요소로 적법성, 윤리성, 견고성을 제시
<기본원칙>
① 자율성의 원칙
② 무해성의 원칙
③ 공평성의 원칙
④ 설명가능성의 원칙
<신뢰 가능한 AI 요건>
① 자율성과 감독(Human agency and oversight)
② 기술적 견고함과 안전성(Technical robustness and safety)
③ 프라이버시와 데이터 거버넌스(Privacy and data governance)
④ 투명성(Transparency)
⑤ 다양성, 비차별성, 공평성(Diversity, non-discrimination and fairness)
⑥ 사회적·환경적 복지(Societal and environmental well-being)
⑦ 책임성(Accountability)
24 •• 지능정보사회 법제 이슈 2019.10.15.
○ 국제기구의 권고안을 토대로 우리나라 실정에 맞는 신뢰 가능한
AI 기본 원칙 수립 필요
- OECD와 EU의 권고안을 참고하여 보호·책임·인간중심·포용·
신뢰·안전·완결성의 7가지 원칙(안) 도출
※ 정부와 전문가, 시민 등 이해관계자들의 토론을 통해 합의된 원칙 필요
- AI 원칙과 세부 요건은 시민들의 의견을 받아 확정하고, 원칙 및 요건에
따라 AI 활용을 확산하면서 부작용을 최소화하기 위한 관리 필요
- AI 원칙의 구성요소에 따라 적법성과 윤리성을 구분하고 강제성이
필요한 원칙과 그렇지 않은 원칙을 나누어 법률에 반영하여 제도 정립
※ 윤리성, 견고성 요건 중 강제할 필요성이 있는 요건에 대한 논의 필요
※ 강제할 수는 없지만 권고해야할 요건에 대한 홍보 방안 필요
< 신뢰 가능한 AI 원칙(안) >
구성 요소 원칙 세부 요건
적법성보호의 원칙
기본권 보호
개인정보 및 사생활 보호
책임의 원칙 민·형사적 책임성
윤리성
인간중심의 원칙자율성, 공평성, 공정성
지속가능한 발전
포용의 원칙다양성, 비차별성
사회·환경적 복지
신뢰의 원칙투명성
설명가능성
견고성
안전의 원칙
보안성
안정성
제어가능성
완결성의 원칙
데이터 품질
지속가능성
정확성
일본·EU AI(AI) 윤리 가이드라인 비교 •• 25
(2) 공공부문 AI 프로젝트 평가 지표 개발
○ 정부가 2020년 AI·데이터 산업에 1조 600억을 투자할 계획이라고
발표한 바와 같이 공공부문 AI 프로젝트의 증가가 예상됨에 따라,
국내 공공부문 AI 프로젝트의 통합 관리에 대한 필요성이 증가
- AI 기술은 사회적 파급력이 크고, 위험성에 대한 사회적 관심이
높은 분야이기에 통합적인 관리가 필요
- 통합적인 관리 체계를 제도화하여 프로젝트 담당자에게는 사업
안전성을 담보하도록 하면서 국민들의 AI에 대한 신뢰 제고 필요
○ 한정된 예산의 범위에서 최대한의 효율을 내기 위해 AI 프로젝트를
통합 관리할 수 있는 평가지표 필요
- 프로젝트 기획·개발·관리 등 시기별 평가 체계를 수립하고, AI의
신뢰가능성뿐만 아니라 프로젝트의 적합성·혁신성도 함께 평가
- 평가지표 수립 후, 합리적인 지표별 평가 방법(계량·비계량)을
도출하여 공공부문 프로젝트 수행을 위한 기준 제시
< 공공부문 AI 프로젝트 평가 지표(안) >
시기 평가 사항 세부 지표 설명
기획
적합성 기술의 적합성, 필요성 등
신뢰가능성 적법성·윤리성·견고성에 관한 사전 평가지표
혁신성 정부혁신 예상 기여도 등
설계·개발
적합성 변화하는 사용자 요구사항 적합도 등
신뢰가능성 적법성·윤리성·견고성에 관한 중간 평가지표
혁신성 개발 방법의 혁신성 등
배포·관리
적합성 실제 문제해결 기여도 등
신뢰가능성 적법성·윤리성·견고성에 관한 최종 평가지표
혁신성 사회·경제적 영향도 등
26 •• 지능정보사회 법제 이슈 2019.10.15.
(3) 실무자를 위한 가이드라인 배포
○ 공공부문 실무자들은 AI 기술에 대한 이해도가 부족할 수 있고,
대부분의 AI 프로젝트가 신규 사업이기 때문에 원활한 수행이 어려움
- 담당자는 AI에 대한 기초적인 지식과 예산·팀 구성 방법부터
업체 조달, 사용자 요구분석, 데이터 확보·처리 방안, 성능평가
방안 등 실제 프로젝트 수행을 위한 전문·심화 지식이 필요
- 따라서, AI 사업을 수행하는 실무자를 위한 가이드라인을 배포하고,
교육 프로그램을 제도화하여 성공적인 사업 추진을 지원할 필요
○ 가이드라인은 기본원칙과 평가지표를 기반으로 기획·개발·관리
까지 단계별로 실무자들이 고려하여야 할 사항을 총체적으로 정리
- 가이드라인이 사업 수행의 제약사항으로 받아들여지지 않도록 AI
프로젝트 담당자, AI 전문가, 예산 담당자 등 이해관계자들의 합의를
통해 가이드라인 마련
< 공공부문 AI 활용 가이드라인(안) >
시 기 구 분 세부 내용
기획
기술에 대한
이해
AI 기술에 대한 기초 지식(유형, 한계 등)
신뢰 가능한 AI 기본 원칙
공공부문 AI 활용 사례
프로젝트 기획
AI을 활용한 정부혁신 방법
AI 프로젝트 기획 방법론
(사용자요구분석·데이터확보·예산·팀구성·조달방법 등)
평가AI 프로젝트 평가 프로세스
사전 평가지표에 따른 적법성·윤리성·견고성 확보 방안
개발개발
AI 개발 단계별 방법론
(데이터처리·프로토타입 및 모델개발·성능평가 등)
평가 중간 평가지표에 따른 적법성·윤리성·견고성 확보 방안
배포·관리
배포 개발된 공공서비스 사용자 수용성 향상 방안
관리 목표 달성·품질 보증·모니터링·위험 관리 지침
평가 최종 평가지표에 따른 적법성·윤리성·견고성 확보 방안
일본·EU AI(AI) 윤리 가이드라인 비교 •• 27
(4) 공공부문 AI 역량 강화
□ 공공부문 AI 프로젝트 통합 관리 조직 구성
○ 중복투자 예방 및 효율적 정책추진을 위하여 여러 부처·기관에서
이루어지고 있는 AI 프로젝트를 통합 관리할 수 있는 조직 필요
- (역할) ① AI 프로젝트 평가·관리, ② AI을 통한 정부혁신 주도와
업무 재설계, ③ 공공부문 AI 역량 관리, ④ 국내외 협업 프로젝트
기획·수행, ⑤ 영향성 평가, ⑥ AI 생태계 조성 등
- AI을 통한 공공부문 혁신을 선도하기 위해 조직의 경직성을
줄이고, 유연한 조직 문화와 빠른 의사결정 환경 조성 필요
□ AI 전문 인력 양성 및 기존 직원 재교육
○ (AI 전문인력) 민간의 전문인력을 영입하거나, 그들과 협업 체계를
체계적으로 구축하여 지속가능한 AI 기술력 확보
- 우리나라는 AI 관련 전문가는 매우 부족하고 소수의 전문가마저
해외로 유출되고 있는 상황
[참고] 공공부문 업무 재설계
AI 기술이 발전함에 따라 효율성 및 생산성 향상을 위해 기계과 인간의
역할을 분리하고, 업무를 재설계할 필요성이 증가
- 자동화 필요성에 따라 기존 업무 확산~협업~대체 여부 설계
28 •• 지능정보사회 법제 이슈 2019.10.15.
- AI·데이터 분야의 국내외 전문 인력을 영입하고 국내에서 계속적으로
역량을 발휘할 수 있도록 금전적·비금전적 보상을 포함한 방안 필요
- 정부는 2023년까지 AI 대학원을 신설하고 현장교육을 실시하는 등
AI 교육 확대 계획을 수립한 상황이므로 향후 AI 인재와 공공부문이
협업할 수 있는 생태계 조성 필요
<데이터·AI 활성화 전략의 전문 인력 양성 계획(2019.1.)>
‘19 ‘20 ‘21 ‘22 ‘23
AI 대학원 신설,
교육프로그램 운영
Inno Academy 과정 신설
현장교육실시, 융합인재 컨퍼런스 개최
○ (기존 직원 AI 교육) AI 기술에 대한 이해, AI 사업 기획능력 강화 등
AI 프로젝트를 원활히 수행하기 위한 기존 직원의 역량 강화 필요
- AI에 대한 기본적 이해를 바탕으로 실제 필요한 곳에 필요한 기술을
적용하여 국민들의 요구사항을 해결해 줄 수 있도록 실무진의
기획역량 증진 지원
(5) 국내외 협업 모델 발굴
○ (국내) AI 스타트업과의 협업 모델을 개발하여 민간 기술력을
증진하고 질 높은 공공서비스를 제공할 수 있는 기반 마련
- AI 스타트업의 생태계를 잘 파악하여 AI 기술을 보유한 소규모
업체에게 새로운 개발 경험 기회를 부여
- 젊은 기술자들과 네트워크를 구축하고, 그들의 기술력을 활용하여
국민 요구사항을 충족하는 혁신적인 공공서비스 개발
○ (해외) 국제협력의 기반이 될 수 있는 네트워크를 구축하고 외국과의
AI 협업 모델 개발
- 협력국의 강점을 모으고 단점을 보완하여 보다 혁신적이고 국제적인
공공서비스 구축 가능
일본·EU AI(AI) 윤리 가이드라인 비교 •• 29
(6) 영향성 평가 제도 구축
○ 자동화·지능화가 고도화됨에 따라 AI 기술의 위험성은 기술에
대한 사회적 불안감을 조성
- 블랙박스 알고리즘(낮은 설명가능성), 과대적합(Overfitting), 편향성
및 자기학습 등에 기인한 문제 발생
※ 아마존의 채용 SW는 여성을 차별하는 것으로 판명되었으며, MS
챗봇인 Tay는 2016년 심한 인종차별주의적 발언으로 서비스 종료
- 또한, 범용 가능한 AI의 특성상 국가산업 전반에 가져오는 변화가
양극화 심화, 분쟁 증가, 개인정보 유출, 인간 소외 등의 역기능
으로 발생할 우려가 있으므로 이에 대한 대응 전략 수립 필요
○ 현재 국회 계류중인 「국가정보화 기본법」전부개정안은 AI 등 지능
정보기술과 지능정보서비스에 대한 사회적 영향평가를 수행하도록
규정하고 있는데 기술발전 속도를 감안할 때 조속한 입법 추진 필요
- 전부개정안은 AI 기반의 지능정보서비스의 안전성 및 신뢰성과
지능정보서비스가 정보문화, 사회·경제, 정보보호, 인류의 보편적
가치, 생활 등에 미치는 영향이 조사·평가되어야 한다고 규정
- 지능정보기술 및 지능정보서비스가 사회에 미치는 영향을 조사·
평가하여 이에 기반한 국가사회 전반의 정책 방향 제시 가능
○ 정부는 AI 서비스 제공시 모델의 사회적 영향도에 따른 안전성 검증
요구수준을 달리하여 평가에 반영하고, 베타버전을 공개하여 고객
만족도(사회적 영향, 복지, 접근성 및 유용성 등)를 측정하는 등
지속적인 관리 필요
- 이를 위해 사회적 영향도 평가 도구, 안전성 검증 도구, 고객만족
도 측정 도구 등을 개발하여 제도화 필요
30 •• 지능정보사회 법제 이슈 2019.10.15.
(7) 조달 제도 개선
○ 현재 국가기관 또는 공공기관은 국가계약법상 용역계약 또는 물품
발주 계약을 통해 AI 솔루션을 조달
- 현행 조달 방식은 절차상 시간이 오래 소요되고 적합한 AI 솔루션
제공자와 계약을 체결하기 어려우며, 계약기간의 제약(1년 또는 3년)
으로 인해 AI 서비스의 안정성 확보가 어려움
- 또한, 예산·인력 상의 이유로 기관의 여러 정보시스템이 개별적으로
계약된다면 한 기관에 여러 개의 AI 솔루션이 존재할 수밖에 없음
○ AI 계약 유형 신설, 장기계약 등 AI 서비스에 적합하도록 예산 및
회계 등의 제도를 개선하여 총액 배정 등 다년도 활용방안 마련 필요
- 공공부문이 민간 AI 서비스를 도입하기 위한 제3의 계약 유형으로 영국
캐나다의 알고리즘 영향 평가(AIA)
○ 알고리즘이 개인이나 공동체의 권리·건강·복지·경제적 이익·지속가능성에
영향을 미치는 범위를 level 1~4로 분류하고 결과를 되돌릴 수 있는지
여부와 영향의 지속성에 따라 구분한 설문을 실시
- 레벨에 따라 검토 절차, 설명 가능성, 비상계획 수립 등의 수준이 상이
- (요구사항) Peer Review, Notice, Human-in-the-loop for decisions,
Explanation Requirement, Test, Monitoring, Training, Contingency
Planning, Approval for the system to operate
Ÿ level 1 : 결과를 어느 정도 되돌릴 수 있고, 단순한 영향인 경우
Ÿ level 2 : 결과를 어느 정도 되돌릴 수 있고, 단기적인 영향인 경우
Ÿ level 3 : 결과를 대부분 되돌릴 수 없고, 지속적인 경우
Ÿ level 4 : 결과를 대부분 되돌릴 수 없고, 영구적인 경우
○ 캐나다의 AIA는 오픈 소스로 제공되며 누구나 활용 가능
(https://github.com/canada-ca/aia-eia-js 참조)
자료 : https://www.tbs-sct.gc.ca/pol/doc-eng.aspx?id=32592
일본·EU AI(AI) 윤리 가이드라인 비교 •• 31
마켓플레이스에서 활용되고 있는 계약제도10), 미국 다수당사자
공급계약(MAS)11) 등을 우리 현실에 맞게 수용하는 방안도 고려 필요
※ MAS는 구매절차 간소화와 기업 간 경쟁을 목적으로 하는 계약제도로미국연방조달청에서 같은 품목에 대해 다수의 회사들과 계약을 미리맺고, 정부기관은 등록된 계약업체들을 비교하여 업체를 선정하는 제도
○ 국내 AI 솔루션 공급 업체들의 리스트를 확보하고, 사전 검증
절차를 마련하여 실제 조달 프로세스 간소화를 통한 효율성 증진
- 사전 검증을 통해 AI 업체의 제공 솔루션과 기본 기술력 등을
확인하고, 향후 국내 AI 조달 생태계 구축을 위한 과제 도출
- AI 솔루션 업체 및 기존 공급업체들의 애로사항을 청취하여 국내
공공 프로젝트 조달 제도 개선 필요
10) 김경근, 나종회, 정필운, “공공기관에서 민간 클라우드컴퓨팅 도입 방법에 관한 연구 : 보안인증을 얻은 IaaS 중심으로”, Journal of Information Technology and Architecture, Vol. 15. No.2, 2019 참고
11) 한국조달연구원, “서비스분야 조달제도 선진화 방안 연구”. 한국조달연구원, 2014 참고
해외 AI 조달 프로세스
○ 캐나다 AI 조달 프로세스(Public Services and Procurement Canada)
① 정부 공인 AI 사업자 관리 : 지원한 AI 솔루션 공급 업체 중 책임 가능성
사전 검증(캐나다는 현재 78개 기업 리스트 공개 중(‘19.10)
② 정부가 공공 AI 프로젝트 발주
③ 공공 프로젝트에 관심 있는 업체들이 지원
④ 지원한 업체 중 정부가 3개의 공급 업체를 선정 후 다른 7개를 무작위로
선택하면, 총 10개 기업이 공급업체들이 제안서 제출
⑤ 정부가 제안서 평가 진행 후 계약
○ 핀란드 : 액셀레이터 프로그램 운영, 가이드북 제공, Top AI 업체리스트(15개) 선정
- 액셀레이터는 AI을 활용한 작은 실험을 실제 사업으로 발전시키기 어려운
중소업체를 위해 신속하고 지속적인 학습 플랫폼 등을 제공
자료: 캐나다(Responsible use of AI), 핀란드(https://faia.fi)
32 •• 지능정보사회 법제 이슈 2019.10.15.
[참고자료]
[1] How much time and money can AI save government, Deloitee, 2017.4.26.
[2] 국내외 활용 현황과 공공 적용 AI, IITP, 2018.12.7.
[3] AI 기술의 공공서비스 활용과 전망, 한국과학기술기획평가원, 2018.12.7.
[4] 5 challenges for government adoption of AI, WEF, 2019.8.16.
[5] 대구첨복, AI 기반 항암신약 개발… 2개 과제 수행, HITNEWS,2019.6.12.
[6] 김포시, AI 로봇 활용 노인돌봄서비스 확대, 로봇신문, 2019.8.5.
[7] 병무청, 내년부터 민원상담 'AI 챗봇' 24시간 운영, 한국경제, 2019.9.30.
[8] 금천구, AI(AI)으로 골목길 교통안전 지킨다, 글로벌신문, 2019.9.24.
[9] 대형생활폐기물 처리, AI으로 더 편리해진다, 디지털타임즈, 2017.8.31.
[10] AI in Government – Current AI Projects in the Public Sector, EMERJ, 2019. 2. 18.
[11] A guide to using artificial intelligence in the public sector, UK
[12] Hello, World : Artificial Intelligence and its use in the Public Sector, OECD
OPSI(Observatory of Public Sector Innovation), 2019.8.1
[13] Aritificial Intelligence at the service of citizens, 2018.3
[14] Responsible use of Artificial Intelligence
[15] Leading the way into the era of Artificial Intelligence, 2019.6
[참고사이트]
[1] 영국 정부 사이트, https://www.gov.uk/, 2019.10 방문
[2] OECD 정부혁신 연구소, https://oecd-opsi.org/, 2019.10 방문
[3] AI in Government – Current AI Projects in the Public Sector, EMERJ, 2019. 2. 18.
일본·EU AI(AI) 윤리 가이드라인 비교 •• 33
▶ 작 성
- 한국정보화진흥원 정책본부 지능화법제도팀
한 지 영 연구원 (053-230-1285, [email protected])
▶ 기 획
- 한국정보화진흥원 정책본부
최 인 선 팀장
1. 본 보고서 내용의 무단전재를 금하며, 가공‧인용할 때는 반드시 출처를 「한국정보화진흥원(NIA)」
이라고 밝혀 주시기 바랍니다.
2. 본 보고서의 내용은 한국정보화진흥원(NIA)의 공식 견해와 다를 수 있습니다.
![공공부문 AI 시스템 도입에 따른 조달 분야 이슈 분석IF-8] 공공... · 2020-03-12 · 공공부문 AI 시스템 도입에 따른 조달 분야 이슈 분석 1 IT](https://static.documents.pub/doc/80x56/5ede3e52ad6a402d66698fcb/eeee-ai-oeoe-e-ee-e-e-e-if-8-ee.jpg)
