인간에게 유용할 뿐만 아니라 나아가 인간 고유의 성품을 훼손하지 않고
보존하고 함양하도록 개발되고 활용돼야 한다
Contents
한눈에 보기1. 2020년 인공지능 윤리기준이 뭔가요2. 왜 하필 2020년 12월이었을까요3. 3대 기본원칙을 원문으로 읽어봤어요인간 존엄성 원칙사회의 공공선 원칙기술의 합목적성 원칙4. 10대 핵심요건, 문서 업무에서는 이런 뜻이에요① 인권보장② 프라이버시 보호③ 다양성 존중④ 침해금지⑤ 공공성⑥ 연대성⑦ 데이터 관리⑧ 책임성⑨ 안전성⑩ 투명성5. 5년 8개월 만에 왜 새로 만들었을까요첫째, AI가 달라졌어요둘째, 법이 생겼어요셋째, 역할이 나뉘어 있지 않았어요6. 우리 조직은 지금 뭘 확인하면 될까요1. 추출값의 근거를 화면에서 볼 수 있나요2. 확신이 낮은 건을 사람에게 넘기나요3. 계약서에 학습 재사용 금지와 파기 조항이 있나요4. 오류가 났을 때 책임 경계가 문서에 있나요5. 서식별 정확도를 따로 재고 있나요정리하면요자주 묻는 질문 2020년 인공지능 윤리기준의 3대 기본원칙은 무엇인가요10대 핵심요건은 무엇인가요2020년 기준은 이제 안 봐도 되나요문서 업무에 가장 자주 걸리는 요건은 무엇인가요인공지능기본법과 윤리기준은 무엇이 다른가요참고한 자료AI 도입을 알아보다 보면 「인공지능 윤리기준」이라는 말을 꼭 만나게 돼요. 그런데 찾아보면 원칙 이름만 잔뜩 나오고, 그게 실무에서 무슨 뜻인지는 잘 안 보여요.
이 글에서는 우리나라 AI 윤리 규범의 출발점인 2020년 12월 「사람이 중심이 되는 인공지능(AI) 윤리기준」을 다룰게요. 특히 10대 핵심요건을 하나씩 열어서, 문서를 다루는 업무에서는 각각이 어떤 일로 바뀌는지까지 내려가 볼 거예요. 한국딥러닝이 문서 AI를 만들 때 지키는 원칙은 AI 윤리기준에 따로 정리해 두었어요.
한눈에 보기
- 정식 명칭은 「사람이 중심이 되는 인공지능 윤리기준」이에요
- 2020년 12월 23일 4차산업혁명위원회가 의결했어요
- 최고 가치는 인간성(Humanity)이에요
- 그 아래 3대 기본원칙과 10대 핵심요건이 있어요
- 법이 아니라 자율규범이에요. 처벌이 아니라 방향 제시예요
- 5년 8개월 뒤 2026년 새 윤리원칙으로 갱신됐어요
- 계약서에 실제로 인용되는 건 10대 핵심요건이에요
1. 2020년 인공지능 윤리기준이 뭔가요
AI를 개발하고 활용하는 모든 과정에서
지켜야 할 공통의 가치와 실천 요건을 정리한 문서예요.
법이 아니라 자율규범이라서, 어겼다고 처벌받지는 않아요.
정식 명칭은 「사람이 중심이 되는 인공지능(AI) 윤리기준」이에요.
과학기술정보통신부와 정보통신정책연구원(KISDI)이 안을 마련했고,
대통령 직속 4차산업혁명위원회가 2020년 12월 23일에 심의하고 의결했어요.
윤리기준이라는 개념 자체가 낯설다면
AI 윤리기준의 참고자료 부분을 먼저 보시면 좋아요.
여기서는 2020년 문서 하나만 깊게 파고들 거예요.
2. 왜 하필 2020년 12월이었을까요
이 시점을 알면 문서의 성격이 보여요.
우리나라 기준은 세계에서 처음 나온 것이 아니라, 먼저 나온 규범들 직후에 나왔어요.
시점 | 규범 |
|---|---|
2019년 3월 29일 | 일본 인간중심의 AI 사회원칙 (통합혁신전략추진회의 결정) |
2019년 4월 8일 | EU 인공지능 고위전문가그룹(AI HLEG) 신뢰할 수 있는 AI 윤리 가이드라인 |
2019년 5월 22일 | OECD 인공지능 권고 |
2020년 12월 23일 | 대한민국 사람이 중심이 되는 인공지능(AI) 윤리기준 |
2021년 11월 23일 | 유네스코 인공지능 윤리 권고 |
2019년 봄에 일본과 EU와 OECD가 석 달 사이로 잇달아 규범을 냈고,
우리나라는 그로부터 1년 7개월에서 1년 9개월쯤 뒤에 냈어요.
그래서 인간 존엄, 공정성, 책임성, 안전, 투명성 같은 항목이
어느 나라 문서에나 비슷하게 등장해요.
이걸 두고 베꼈다고 볼 일은 아니에요. 각국이 같은 세 가지 질문에 답하려 했기 때문이에요. 이 판단이 공정한가, 개인정보는 안전한가, 문제가 생기면 누가 책임지는가. 질문이 같으니 답도 비슷한 방향으로 모인 거예요.
구조도 닮아 있어요. 최고 가치를 하나 세우고 그 아래 원칙과 요건을 계단식으로 내리는 방식은 앞선 규범들에서도 보여요. 다만 어느 쪽이 어느 쪽을 참고했는지는 문서에 밝혀져 있지 않아서, 여기서는 닮았다는 사실만 적어둘게요.
3. 3대 기본원칙을 원문으로 읽어봤어요
원칙 이름만 보면 셋 다 비슷하게 들려요. 원문 표현을 붙여서 읽으면 차이가 드러나요.
가장 위에 인간성(Humanity)이 있어요.
문서 서두는 인공지능이 이래야 한다고 적고 있어요.
💡
그 아래 원칙이 셋이에요.
인간 존엄성 원칙
인간은 신체와 이성이 있는 생명체로 인공지능을 포함하여 인간을 위해 개발된 기계제품과는 교환 불가능한 가치가 있다
사람과 기계는 바꿔 놓을 수 없다는 선언이에요.
원문은 이어서 인공지능이 인간의 생명과 정신적·신체적 건강에
해가 되지 않는 범위에서 개발되고 활용되어야 한다고 적고 있고요.
문서 업무로 옮기면
자동 처리의 결과가 사람의 자격이나 권리를 좌우할 때
사람이 개입할 자리를 남겨두라는 요구가 돼요.
사회의 공공선 원칙
인공지능은 지능정보사회에서 소외되기 쉬운 사회적 약자와 취약 계층의 접근성을 보장하도록 개발 및 활용되어야 한다
편익이 특정 집단에만 가지 않고 사회 전체로 이어져야 한다는 뜻이에요.
여기서 눈에 띄는 건 접근성이라는 단어예요.
좋은 성능보다 먼저 「누가 못 쓰고 있는가」를 보라는 말이거든요.
기술의 합목적성 원칙
인공지능 기술은 인류의 삶에 필요한 도구라는 목적과 의도에 부합되게
개발 및 활용되어야 하며 그 과정도 윤리적이어야 한다
셋 중 가장 낯선 원칙이에요. 쉽게 말하면 기술 자체가 목적이 되면 안 된다는 뜻이에요. 이 원칙이 2026년 새 원칙에서 다른 것으로 교체되는데, 그 이야기는 다음 편에서 이어갈게요.
4. 10대 핵심요건, 문서 업무에서는 이런 뜻이에요
여기가 이 문서에서 실무에 가장 자주 인용되는 부분이에요.
제안서를 쓸 때도, 계약서를 검토할 때도 결국 이 열 개로 돌아와요.
그런데 요건 이름만 봐서는 무엇을 하라는 건지 알기 어려워요.
그래서 원문 표현과 함께, 문서를 다루는 업무에서는 각각이 어떤 일로 바뀌는지를 붙였어요. 보고 싶은 항목만 눌러서 펼치시면 됩니다.
① 인권보장
· 사람의 권리를 침해하지 않는가
인공지능의 개발과 활용은 인간의 권리와 자유를 침해해서는 안 된다
문서 AI가 읽어낸 값은 대출 승인, 보험금 지급, 지원 자격 판정처럼 사람에게 불이익이 갈 수 있는 결정의 재료가 돼요. 그래서 이 요건은 문서 업무에서 「결과에 이의를 제기할 통로가 있는가」로 바뀌어요.
실무에서는 두 가지를 봐요. 자동으로 반려된 건을 사람이 다시 볼 수 있는 경로가 설계되어 있는지, 그리고 그 경로가 실제로 쓰이는지예요. 통로가 문서에만 있고 화면에 없으면 없는 것과 같아요.
② 프라이버시 보호
· 언제 가리고 어디에 두는가
인공지능 전 생애주기에 걸쳐 개인 정보의 오용을 최소화하도록 노력해야 한다
문서 업무에서 이 요건이 가장 무거워요. 계약서에는 주민등록번호가 있고, 진단서에는 병명이 있고, 급여명세서에는 소득이 있어요. 일반적인 AI 서비스가 다루는 텍스트와 성격이 달라요.
확인할 지점은 세 개예요. 개인정보를 언제 가리는가, 원본과 처리본이 어디에 저장되는가, 처리 과정에서 외부로 나가는 구간이 있는가. 특히 세 번째가 온프레미스 도입을 결정하는 실질적인 이유예요.
③ 다양성 존중
· 잘 읽히는 서식과 안 읽히는 서식
성별·연령·장애·지역·인종·종교·국가 등 개인 특성에 따른 편향과 차별을 최소화하고, 상용화된 인공지능은 모든 사람에게 공정하게 적용되어야 한다
차별이라고 하면 보통 사람의 속성을 떠올리는데, 문서 AI에서는 서식과 화질의 문제로 나타나요. 최신 전자 양식은 잘 읽히고 손으로 쓴 구형 서식은 못 읽는 모델이 있다고 해볼게요.
그러면 손으로 쓴 서류를 내는 사람의 민원이 계속 뒤로 밀려요. 아무도 차별할 의도가 없었는데 결과는 차별이 되는 거예요. 그래서 이 요건은 서식별 정확도를 따로 재고 공개하는 일로 이어져요.
④ 침해금지
· 수집한 목적 밖으로 나가지 않는가
인공지능을 인간에게 직간접적인 해를 입히는 목적으로 활용해서는 안 된다
문서에서 뽑아낸 값은 원래 목적 말고 다른 데 쓰기가 아주 쉬워요. 심사를 위해 모은 서류에서 소득과 거주지가 나오면, 그것으로 마케팅 대상을 고를 수도 있잖아요.
이 요건은 계약서의 이용 목적 제한 조항으로 옮겨져요. 추출한 항목의 목록과 그 항목을 쓸 수 있는 업무 범위를 문서로 못박아 두는 것이 실무의 답이에요.
⑤ 공공성
· 빨라진 만큼 누구에게 돌아가는가
인공지능은 개인적 행복 추구 뿐만 아니라 사회적 공공성 증진과 인류의 공동 이익을 위해 활용해야 한다
공공기관 문서 업무에 AI를 넣으면 처리 시간이 줄어요. 그런데 줄어든 시간이 담당자의 야근을 줄이는 데 그치는지, 민원인의 대기 시간을 줄이는 데까지 가는지는 설계에 달려 있어요.
제안서를 쓸 때 이 요건을 인용하려면 처리 건수가 아니라 대기 시간과 재방문 횟수를 지표로 잡아야 해요. 그래야 공공성이라는 말이 수사에 그치지 않아요.
⑥ 연대성
· 종이 경로를 남겨두는가
인공지능 전 주기에 걸쳐 다양한 주체들의 공정한 참여 기회를 보장하여야 한다
문서 업무를 전자화하면 종이로만 접수하던 사람이 밀려나요. 고령층과 디지털 취약계층이 여기에 걸려요.
그래서 이 요건은 「종이 접수 경로를 남겨둘 것」이라는 아주 실무적인 결론으로 이어져요. 자동화율을 100퍼센트로 잡지 않는 것이 오히려 이 요건을 지키는 설계예요.
⑦ 데이터 관리
· 계약서에 가장 자주 옮겨지는 요건
목적에 부합하도록 활용하고, 목적 외 용도로 활용하지 않아야 한다
열 개 요건 가운데 계약 문구로 가장 자주 옮겨지는 것이 이 요건이에요. 문서 AI 도입 계약서를 열어보면 대체로 세 줄이 들어 있어요.
고객 문서를 모델 학습에 재사용하지 않는다는 조항, 보관 기간과 그 이후의 파기 방식을 정한 조항, 그리고 파기 사실을 확인해 주는 절차예요. 원문은 이어서 데이터 편향성이 최소화되도록 품질과 위험을 관리하라고도 적고 있어요.
⑧ 책임성
· 만든 쪽과 쓰는 쪽의 경계선
인공지능 설계 및 개발자, 서비스 제공자, 사용자 간의 책임소재를 명확히 해야 한다
이 요건은 2020년 문서에서 이미 세 주체를 나눠 적었어요. 만드는 쪽, 제공하는 쪽, 쓰는 쪽이에요.
문서 업무로 옮기면 질문이 아주 구체적으로 바뀌어요. 추출값이 틀려서 잘못된 결정이 났을 때, 모델을 만든 쪽의 책임인지 도입한 조직의 검수 책임인지를 어디에 적어두었는가예요. 계약서의 정확도 기준과 검수 의무 조항이 실질적으로 이 경계선을 그어요.
⑨ 안전성
· 낮은 확신을 사람에게 넘기는 장치
명백한 오류 또는 침해가 발생할 때 사용자가 그 작동을 제어할 수 있는 기능을 갖추도록 노력해야 한다
문서 AI의 위험은 갑자기 멈추는 것이 아니라 틀린 값을 확신 있게 내놓는 거예요. 멈추면 알아채지만 틀린 값은 그대로 흘러가요.
원문이 말하는 제어는 오류가 났을 때 작동을 멈추거나 사람이 개입할 수 있는 장치예요. 문서 업무에서는 신뢰도 임계값 설정이 그 개입을 미리 걸어두는 방식에 해당해요. 확신이 낮은 항목을 자동 처리에서 빼서 사람 검토로 넘기는 것이죠. 임계값을 조직이 직접 조절할 수 있는지까지 확인하시면 좋아요.
⑩ 투명성
· 값 옆에 원문 위치가 있는가
인공지능의 활용 내용과 활용 과정에서 발생할 수 있는 위험 등의 유의사항을 사전에 고지해야 한다
문서 AI에서 투명성은 모델 내부를 공개하라는 뜻이 아니에요. 추출한 값이 원문의 어디에서 나왔는지 보여줄 수 있느냐예요.
검수 화면에서 값을 눌렀을 때 원본 이미지의 해당 위치가 표시되는 기능이 여기에 해당해요. 이것이 없으면 나중에 그 결정을 왜 그렇게 내렸는지 설명할 방법이 사라져요. 한국딥러닝이 첫 번째 원칙으로 원문 근거를 둔 이유가 이거예요.
열 개를 훑고 나면 한 가지가 눈에 들어와요.
⑦ 데이터 관리와 ⑧ 책임성은 계약서 문구로 그대로 옮겨지고, ⑨ 안전성과 ⑩ 투명성은 제품 화면의 기능으로 옮겨진다는 점이에요. 나머지 여섯은 운영 설계에 걸리고요.
윤리기준이 선언문처럼 읽히다가도 막상 도입 단계에 가면 아주 구체적인 문서와 화면으로 내려앉는 이유가 여기 있어요. 이 원칙들이 제품에서 어떤 모습이 되는지는 아래에서 다섯 가지로 정리해 두었어요.
5. 5년 8개월 만에 왜 새로 만들었을까요
2026년 8월 21일 제12회 과학기술관계장관회의에서 「대한민국 인공지능 윤리원칙」이 의결됐어요. 2020년 기준과 5년 8개월 차이입니다. 정부는 폐기가 아니라 계승이라고 밝혔고요. 그러면 왜 이어받으면서 다시 썼을까요. 이유가 셋이에요.
첫째, AI가 달라졌어요
2020년 12월은 생성형 AI 이전이에요. 글과 이미지를 만들어내고 스스로 여러 단계를 실행하는 에이전트가 나오면서, 학습 데이터에 대한 보상과 허위 정보 확산 같은 문제가 새로 생겼어요.
둘째, 법이 생겼어요
2026년 1월 22일 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 시행됐어요. 법이 맡을 영역과 자율규범이 맡을 영역을 다시 나눠야 했고요.
헷갈리기 쉬운 대목 하나. 2026년 7월에 바뀐 것은 법률이 아니라 시행령이에요.
셋째, 역할이 나뉘어 있지 않았어요
2020년 기준은 무엇을 지향할지는 답했지만 누가 무엇을 할지는 덜 적었어요. 만드는 회사와 쓰는 조직과 정부는 할 일이 각각 다른데, 하나의 요건 목록으로는 나눠 적기 어려웠거든요.
한 가지만 기억하시면 돼요. 2020년에 10대 핵심요건 가운데 하나였던 책임성이, 2026년에는 7대 원칙의 하나로 위계가 올라섰어요.
선언문에서 역할 분담표로 성격이 옮겨간 것입니다.
6. 우리 조직은 지금 뭘 확인하면 될까요
열 개 요건을 다 외울 필요는 없어요.
문서를 다루는 업무라면 다섯 가지만 확인해도 대부분 걸러져요.
1. 추출값의 근거를 화면에서 볼 수 있나요
⑩ 투명성 · 값만 남고 원문 위치가 없으면 나중에 그 결정을 설명할 방법이 사라져요.
2. 확신이 낮은 건을 사람에게 넘기나요
⑨ 안전성 · 임계값을 조직이 직접 조절할 수 있는지까지 보세요.
3. 계약서에 학습 재사용 금지와 파기 조항이 있나요
⑦ 데이터 관리 · 보관 기간, 파기 방식, 파기 확인까지 세 줄이 필요해요.
4. 오류가 났을 때 책임 경계가 문서에 있나요
⑧ 책임성 · 정확도 기준과 검수 의무를 어디에 적어두었는지 보세요.
5. 서식별 정확도를 따로 재고 있나요
③ 다양성 존중 · 평균 하나만 보면 특정 서식의 실패가 가려져요.
다섯가지를 실제 화면에서 어떻게 지키는지 궁금하신가요? 한국딥러닝의 문서 AI 제품을 확인해보세요. 추출값 옆에 원문 위치를 함께 보여주는 화면과 신뢰도 임계값 설정이 여기에 들어있습니다.
정리하면요
2020년 인공지능 윤리기준은 선언문처럼 생겼지만 실무 문서예요. 계약서와 제안서에 실제로 인용되는 것은 맨 아래층인 10대 핵심요건이고요. 새 원칙이 나왔어도 정부가 계승이라고 밝혔으니 두 문서를 함께 보시는 편이 좋아요.
국제 규범부터 국내 부문별 기준까지 모아둔 자료실은 AI 윤리기준 아래쪽에 있어요. 새 원칙 이야기는 다음 편에서 이어갈게요.
자주 묻는 질문
2020년 인공지능 윤리기준의 3대 기본원칙은 무엇인가요
인간 존엄성 원칙, 사회의 공공선 원칙, 기술의 합목적성 원칙이에요. 이 셋 위에 최고 가치로 인간성(Humanity)이 있어요.
10대 핵심요건은 무엇인가요
인권보장, 프라이버시 보호, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성이에요. 3대 기본원칙을 실천하기 위한 구체적 요건이고요.
2020년 기준은 이제 안 봐도 되나요
2026년 8월 21일 「대한민국 인공지능 윤리원칙」으로 갱신됐어요. 다만 정부가 계승이라고 밝혔고, 2020년 요건 이름과 문장은 지금도 계약서에 그대로 인용돼요.
문서 업무에 가장 자주 걸리는 요건은 무엇인가요
⑦ 데이터 관리와 ⑧ 책임성이에요. 보관 기간과 파기 조항, 오류가 났을 때의 책임 경계가 여기서 정해져요.
인공지능기본법과 윤리기준은 무엇이 다른가요
윤리기준은 자율규범이라 구속력이 없고, 인공지능기본법은 법률이라 의무와 제재가 함께 있어요. 법률은 2026년 1월 22일부터 시행 중이에요.
참고한 자료
국가 인공지능 윤리기준 (2020) :
정보통신정책연구원 인공지능 윤리 소통채널 · 국가기록원 국가인공지능 윤리기준 · 과학기술정보통신부 보도자료 (2020-12-23)
대한민국 인공지능 윤리원칙 (2026) :
KISDI 인공지능 윤리 소통채널 정책자료
국내외 기준 대조 :
한국딥러닝 AI 윤리기준 · 국내외 AI 윤리기준 정리
Share article