3대 가치가 있고 7대 원칙이 있다는 소식까지는 이미 보셨을 거예요.
그런데 2020년 기준과 뭐가 달라졌는지, 우리 회사가 실제로 뭘 해야 하는지는 잘 안 보여요.
이 글은 그 두 가지를 다뤄요. 특히 뒤쪽에 무게를 뒀어요. 원칙 일곱 개마다 공급자와 이용자와 정부·사회가 할 일이 따로 적혀 있거든요. 그중 문서 AI를 만드는 회사와 쓰는 회사가 할 일만 골라서, 실제 업무에서 쓰는 말로 바꿔 적었어요. 한국딥러닝이 문서 AI를 만들 때 지키는 원칙은 AI 윤리기준에 정리해 두었어요.
한눈에 보기
- 2026년 8월 21일 정부가 의결한 원칙이에요
- 인공지능기본법 제27조에 근거를 두었어요
- 근거는 법이지만 강제력은 없는 자율규범이에요
- 3대 가치 가운데 인류의 지속가능성이 새로 들어왔어요
- 그 아래 7대 원칙이 있어요
- 2020년 인공지능 윤리기준을 계승했어요
- 공급자와 이용자와 정부·사회의 역할을 나눠 적었어요
1. 대한민국 인공지능 윤리원칙이 뭔가요
2026년 8월 21일 제12회 과학기술관계장관회의에서 의결됐고, 사흘 뒤 공개됐어요.
만들어진 경위가 2020년과 달라요. 2020년 「사람이 중심이 되는 인공지능 윤리기준」은 법적 근거 없이 정부가 자율적으로 만든 문서였어요. 이번 원칙은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 줄여서 인공지능기본법의 제27조에 따라 제정됐어요.
그렇다고 법처럼 강제되지는 않아요. 원문은 이렇게 적었어요. 「법적 구속력이 없는 자율규범으로서 법령을 대체하지 않는다」 법이 만들라고 해서 만들어진 자율규범인 셈이에요. 어겨도 과태료는 없지만, 앞으로 분야별 지침과 점검표가 여기서 갈라져 나올 때 무게가 달라져요.
2020년 기준을 폐기한 것도 아니에요. 정부는 그 기준을 계승하면서 기술 발전과 인공지능기본법 시행 등 달라진 여건을 반영했다고 밝혔어요. 계승의 대상인 2020년 기준은 2020년 인공지능 윤리기준, 10대 핵심요건이 뭔가요에서 열 개 요건까지 풀었어요.
2. 2020년과 뭐가 달라졌나요
관점 | 2020년 | 2026년 |
|---|---|---|
법적 근거 | 없음 | 인공지능기본법 제27조 |
구조 | 인간성 · 3대 기본원칙 · 10대 핵심요건 | 3대 가치 · 7대 원칙 |
세 번째 이름 | 기술의 합목적성 | 인류의 지속가능성 |
주체 구분 | 책임성 요건 안에서만 | 모든 원칙에 걸쳐 |
1) 층이 하나 줄었어요.
2020년 10대 핵심요건과 2026년 7대 원칙은 둘 다 맨 아래 실천 층이에요. 항목 이름이 바뀌었을 뿐 자리가 오르내린 것은 아니에요.
2) 세 번째 가치의 이름이 달라졌어요.
앞의 둘은 그대로이고 셋째만 기술의 합목적성에서 인류의 지속가능성으로 달라졌어요. 다만 어느 자료도 「바꿨다」고 명시하지는 않았어요. 나란히 놓았을 때 그렇게 보인다는 것까지가 확인된 사실이에요.
3) 가장 크게 달라진 것은 주체예요.
2020년에 주체를 갈래로 나눠 적은 요건은 ⑧ 책임성 하나뿐이었어요.
2026년은 일곱 개 원칙 전부에 공급자와 이용자와 정부·사회의 역할을 적었어요.
이름이 사라진 요건 여섯 개
구분 | 이름 |
|---|---|
그대로 남음 | 프라이버시 보호, 책임성, 안전성, 투명성 |
이름으로는 안 남음 | 인권보장, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리 |
새로 등장 | 인간중심성, 공정성·포용성, 신뢰성 |
원문에는 대응 관계가 적혀 있지 않아요. 문서 전체를 찾아봤는데 「2020년」이라는 표현도, 「계승」이라는 표현도 나오지 않습니다. 계승이라는 말은 정부 보도자료에 있는 표현이에요. 그러니 사라진 여섯 개가 어디로 갔는지는 아직 아무도 공식적으로 답한 적이 없어요.
다만 실무 조언은 확실해요. 이름이 사라졌다고 계약서에서 빼시면 안 돼요. 특히 데이터 관리 조항 셋은 그대로 두세요. 고객 문서를 학습에 재사용하지 않는다는 조항, 보관 기간과 파기 방식, 파기 확인 절차예요. 열 개 요건 각각의 원문은 앞 편에 있어요.
3. 3대 가치를 원문으로 읽어봤어요
가치 이름 셋만 보면 다 비슷하게 좋은 말로 들려요. 원문을 붙여야 어디가 다른지 보여요.
인간의 존엄성
· 이의를 제기할 통로가 있는가AI의 개발과 활용에서 ‘인간의 존엄성’은 인간을 중심에 두고, 모든 사람이 수단이 아닌 목적 그 자체로 존중받으며 존엄과 인권을 온전히 누릴 수 있는 사회를 지향한다
원문은 이어서 「자신의 삶에 영향을 미치는 결정에 참여하는 것」을 짚어요. 문서 업무에서는 추출값으로 대출이나 자격이 판정된 사람이 다시 봐 달라고 요청할 통로가 있는가로 바뀝니다. 통로가 규정에만 있고 화면에 없으면 없는 것과 같아요.
사회의 공공선
· 줄어든 시간이 누구에게 가는가‘사회의 공공선’은 AI가 만들어 내는 편익이 개인의 삶을 나아지게 하는 데 그치지 않고, 사회적 신뢰와 공동의 이익이 함께 증진되는 사회를 지향한다
문서 업무에 AI를 넣으면 처리 시간이 줄어요. 그 시간이 담당자의 야근을 줄이는 데 그치는지 민원인의 대기 시간까지 줄이는지는 설계에 달려 있습니다. 그래서 이 가치를 제안서에 인용할 땐 처리 건수가 아니라 대기 시간을 지표로 잡아야 해요.
인류의 지속가능성
· 몇 년 뒤에도 감당되는가‘인류의 지속가능성’은 AI가 만들어 내는 편익과 가능성을 현재와 미래 세대가 함께 누리며, 인류의 삶을 뒷받침하는 환경과 사회의 기반이 지속되는 미래를 지향한다
2020년 3대 기본원칙에 없던 이름이에요. 원문은 「AI의 영향은 환경뿐만 아니라 사회에도 오랜 시간에 걸쳐 나타난다」고 덧붙입니다. 시간 축이 들어온 거예요. 문서 AI에서는 지금 잘 도는지만이 아니라, 몇 년 뒤 서식이 바뀌어도 감당되는지를 함께 봐야 한다는 뜻이 됩니다.
4. 7대 원칙, 누가 뭘 해야 하나요
일곱 개를 하나씩 열어 볼게요. 원칙 조문 자체는 「AI 행위자는 ~한다」 한 가지 주어로 쓰여 있고, 그 뒤에 붙은 참고자료가 공급자와 이용자와 정부·사회로 나눠 설명해요. 아래 인용은 조문에서, 주체별 항목은 그 참고자료에서 가져왔습니다. 그 사이에 붙은 실무 해설은 정부 문서에 적힌 말이 아니라, 문서 AI를 만들고 도입해 본 입장에서 옮긴 해석이에요.
① 인간중심성
· 사람이 개입할 자리가 있는가
AI 행위자는 AI의 역할 범위를 구체적으로 설정 및 인식하고, 필요한 경우 AI의 동작에 사람이 개입할 수 있도록 노력한다
공급자. 개입 자리는 두 군데예요. 결과를 고칠 수 있는 검수 화면, 그리고 자동 처리에서 빼내 사람에게 넘기는 기준. 화면만 있고 기준이 없으면 담당자가 전부 다 보게 돼요.
이용자. 「개입 지점을 우리가 정할 수 있는가」를 물어보시면 돼요. 업로드부터 검증까지 한 번에 도는 파이프라인일수록 중요해져요. 자동화 범위와 개입 지점은 같이 정하는 거예요.
정부·사회. 공공부문에서 중요한 판단과 업무에 AI를 활용하는 경우, 사람이 그 작동과 결과를 확인하고 필요한 경우 개입할 수 있도록 기준과 절차를 마련한다고 적혀 있어요.
② 프라이버시 보호
· 언제 가리고 어디에 두는가
AI 행위자는 AI 생애주기 전반에서 개인정보를 정해진 목적에 한해 필요한 범위에서 처리하고, 적절한 보호 조치를 마련한다
공급자. 문서 업무에서 가장 무거운 원칙이에요. 계약서에는 주민등록번호가, 진단서에는 병명이, 급여명세서에는 소득이 있어요. 볼 지점은 셋이에요. 언제 가리는가, 어디에 저장하는가, 밖으로 나가는 구간이 있는가.
이용자. 세 번째가 온프레미스를 결정하는 실질적인 이유예요. 문서가 밖으로 나가지 않게 하는 가장 확실한 방법은 처리 자체를 내부망 안에서 끝내는 거예요. 한국딥러닝이 온프레미스 설치를 기본으로 두는 이유가 이것이고요.
정부·사회. 공공부문에서 AI를 활용하는 경우 개인정보를 처리할 필요성과 그 범위를 엄격히 살피고, 국민의 개인정보를 안전하게 보호할 수 있는 관리체계를 마련한다고 적혀 있어요.
③ 공정성·포용성
· 잘 읽히는 서식과 안 읽히는 서식
AI 행위자는 사회적 약자를 비롯하여 모든 사람이 AI에 접근하고 그 혜택과 기회를 공평하게 누릴 수 있도록 노력한다
공급자. 문서 AI에서 불공정은 사람의 속성이 아니라 서식과 화질로 나타나요. 전자 양식은 잘 읽고 손글씨 구형 서식은 못 읽으면, 그 서류를 내는 사람의 민원이 계속 뒤로 밀려요. 저희가 수기와 다국어 혼합 문서까지 처리 대상으로 잡은 것은, 성능 문제이기 전에 누가 밀려나느냐의 문제였어요.
이용자. 종이 접수 경로를 남겨두는 판단이 여기 걸려요. 자동화율을 100퍼센트로 잡지 않는 것이 오히려 이 원칙을 지키는 설계예요.
정부·사회. 성별, 장애, 연령, 언어, 이용 환경, 지역, 경제적 여건, 디지털 역량 등에 따른 AI 접근과 이용의 격차를 지속적으로 살피고, 이를 줄이기 위한 지원체계를 마련한다고 적혀 있어요.
④ 책임성
· 만든 쪽과 쓰는 쪽의 경계선
AI 행위자는 문제가 발생한 경우 책임 소재를 밝히고 실질적인 피해 구제가 이루어지도록 한다
공급자. 2020년에도 있던 요건이지만 이번에는 「피해 구제」가 함께 나와요. 책임 소재를 가리는 데서 그치지 않고 되돌리는 절차까지 본다는 뜻이에요.
이용자. 추출값이 틀려 잘못된 결정이 났을 때, 그게 만든 쪽 책임인지 우리 검수 책임인지 계약서에 적혀 있는지 보세요. 대부분 이 문장이 없어요.
정부·사회. AI로 인한 피해가 발생한 경우 적기에 책임 소재 확인 및 실질적인 피해 구제가 이루어질 수 있도록 관련 제도와 지원체계를 마련한다고 적혀 있어요.
⑤ 안전성
· 낮은 확신을 사람에게 넘기는 장치
AI 행위자는 AI의 위험 수준에 맞는 안전조치를 마련하고 오남용이나 외부 공격 등에 대비한다
공급자. 문서 AI의 위험은 멈추는 게 아니라 틀린 값을 확신 있게 내놓는 거예요. 멈추면 알아채지만 틀린 값은 그대로 흘러가요. 신뢰도 임계값으로 확신 낮은 항목을 빼내는 것이 답이에요.
이용자. 그 임계값을 조직이 직접 조절할 수 있는지 확인하세요. 업무마다 허용 오차가 다르니까요.
정부·사회. AI의 오남용과 외부 공격 등으로 인한 위험에 대비할 수 있도록 필요한 보호체계와 협력체계를 마련한다고 적혀 있어요.
⑥ 신뢰성
· 2026년에 새로 생긴 이름
AI 행위자는 AI의 목적과 활용 맥락을 고려하여 요구되는 최소 성능 기준을 설정하고, 의도된 사용 조건에서 해당 성능이 안정적이고 일관되게 유지되도록 해야 한다
공급자. 7대 원칙 가운데 유일하게 「해야 한다」로 끝나는 조문이에요. 나머지는 대부분 「노력한다」입니다. 원문이 말하는 성능은 절대 수치가 아니라 용도에 맞는 최소 기준이에요. 업무마다 기준을 따로 정하고 그 아래로 떨어지지 않게 관리하는 것이 이 원칙이 요구하는 일이에요.
이용자. 원문은 이용자 쪽에 「AI가 언제나 동일하거나 정확한 결과를 제공하는 것은 아님을 이해하고」라고 적었어요. 정확도 하나로 계약하지 말고, 어떤 조건에서 그 정확도가 나오는지를 같이 받아두시면 됩니다.
정부·사회. 분야별 특성과 이용 목적을 고려하여 AI의 성능을 평가할 수 있는 기술기준과 평가체계를 마련한다고 적혀 있어요.
⑦ 투명성
· 값 옆에 원문 위치가 있는가
AI 행위자는 AI의 판단 기준과 위험 수준을 충분히 공유하고 이해하기 위해 노력한다
공급자. 여기서 투명성은 모델 내부를 공개하라는 뜻이 아니에요. 추출한 값이 원문 어디에서 나왔는지 보여줄 수 있느냐예요. 값을 눌렀을 때 원본 이미지의 위치가 표시되는 기능이 여기 해당해요.
이용자. 이게 없으면 나중에 그 결정을 왜 그렇게 내렸는지 설명할 방법이 사라져요. 원문도 「당사자가 그 판단이나 결정이 내려진 이유를 이해하고, 필요한 경우 이의를 제기하거나 재검토를 요청할 수 있도록」이라고 적었어요.
정부·사회. 개인의 권리·의무·기회 등에 중대한 영향을 미치는 판단이나 결정에 AI가 활용되는 경우 당사자에게 필요한 설명이 온전히 제공될 수 있도록 설명의 범위와 방법 등에 관한 기준을 마련한다고 적혀 있어요.
공급자로서 우리가 이 원칙들을 어떻게 지키는지는
한국딥러닝 AI 윤리기준에 다섯 가지로 적어두었어요.
5. 우리 조직은 지금 뭘 확인하면 될까요
문서 AI를 도입하는 쪽이 확인할 것
· 세 가지1. 개입 지점 · 자동 처리에서 사람에게 넘기는 기준을 우리가 정할 수 있는가
2. 나가는 구간 · 처리 과정에서 문서가 조직 밖으로 나가는 구간이 있는가
3. 책임 경계 · 추출값이 틀렸을 때의 책임이 계약서에 적혀 있는가
문서 AI를 공급하는 쪽이 준비할 것
· 두 가지1. 근거 표시 · 추출값 옆에 원문 위치를 보여줄 수 있는가
2. 서식별 정확도 · 서식과 화질에 따른 편차를 따로 재고 밝힐 수 있는가
다섯 가지를 실제 화면에서 어떻게 지키는지 궁금하시면 한국딥러닝의 문서 AI 제품을 보시면 돼요. 추출값 옆에 원문 위치를 함께 보여주는 화면과 신뢰도 임계값 설정, 그리고 내부망 안에서만 처리하는 온프레미스 구성이 여기에 들어 있어요.
DEEP OCR 살펴보기원칙 전문은 한국딥러닝 AI 윤리기준에 있어요.
정리하면요
2026년 원칙에서 가장 달라진 것은 개수도 이름도 아니에요.
역할 분담표가 생겼다는 점이에요. 2020년에는 책임성 한 곳에서만 주체를 나눴는데, 이번에는 일곱 개 전부에서 나눴어요. 계약서에 옮겨 적을 문장이 그만큼 늘어난 셈이에요.
그렇다고 2020년 기준을 버리시면 안 돼요. 이름이 빠진 항목도 계약서에서는 여전히 필요해요. 원칙이 나와도 실무에서 쓸 수 없으면 소용이 없다는 생각으로 시작한 회사라, 이런 문서가 나오면 매번 이렇게 한 줄씩 옮겨 적어 봅니다. 인공지능기본법이 정한 의무와 어떻게 다른지는 다음 편에서 다룰게요. 국내외 기준 자료실은 AI 윤리기준 아래쪽에 있어요.
자주 묻는 질문
3대 가치는 무엇인가요
인간의 존엄성, 사회의 공공선, 인류의 지속가능성이에요. 2020년 3대 기본원칙과 비교하면 세 번째가 기술의 합목적성에서 달라졌어요.
7대 원칙은 무엇인가요
인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성이에요. 2020년 10대 핵심요건 중 넷이 이름 그대로 남았고 셋이 새로 들어왔어요.
2020년 인공지능 윤리기준은 폐지된 건가요
아니에요. 계승된 문서예요. 2020년 요건을 근거로 만든 사내 규정이나 계약 조항을 지금 지우실 필요는 없어요.
안 지키면 어떻게 되나요
법적 강제력은 없어요. 제27조에 근거를 두었지만 그 자체는 자율규범이라 제재가 따르지 않아요. 기본법이 따로 정한 의무는 별개인데, 그 관계는 다음 편에서 다룰게요.
우리 회사도 맞춰야 하나요
의무는 아니에요. 다만 정부가 사례 중심 해설서와 분야별 자율점검표, 윤리교육 교재를 만들 계획이라고 밝혔어요. 공공 조달이나 대기업 구매 절차에서 점검표가 참고 기준이 되면 그때는 준비된 곳과 아닌 곳이 갈려요.
참고한 자료
법제처 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제27조(인공지능 윤리원칙 등)
관계부처 합동, 「대한민국 인공지능 윤리원칙」, 2026년 8월 21일 · 정보통신정책연구원 정책저장소
과학기술정보통신부, 「대한민국 인공지능 윤리원칙」 제정 보도참고자료, 2026년 8월 24일
국가기록원, 「국가인공지능 윤리기준」 주제설명, 2020년 12월 23일 4차산업혁명위원회 의결