2026년 8월 21일 정부는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제27조에 따라 관계부처 합동으로 「대한민국 인공지능 윤리원칙」을 제정하고 공표했다. 이 원칙은 인간의 존엄성, 사회의 공공선, 인류의 지속가능성이라는 3대 가치와 그 아래 7대 원칙으로 구성된다. 법이 요구하는 처벌 조항이 아니라, AI를 만들고 쓰는 모든 주체가 스스로 실천해야 할 공통 기준이다.
문제는 이 원칙이 그대로는 제품 기획에 쓸 수 없는 형태라는 점이다. "인간의 존엄성을 지킨다", "투명성을 확보한다"는 문장은 기획서에 옮겨도 다음 실행 항목이 나오지 않는다. 이 글은 원칙 원문을 실제 기획 회의에서 물어볼 질문 세 갈래로 옮긴다.
3대 가치는 왜 개별 조항보다 먼저 와야 하나
원문은 3대 가치를 "AI 시대에 인간과 사회, 인류 차원에서 추구해야 할 근본적 지향점"으로 설명한다. 인간의 존엄성은 사람을 AI 활용의 수단이 아니라 판단과 선택의 주체로 둔다는 뜻이고, 사회의 공공선은 AI가 만드는 편익이 개인 만족에서 끝나지 않고 사회적 신뢰로 이어져야 한다는 뜻이다. 인류의 지속가능성은 AI의 영향이 환경과 사회에 오랜 시간 걸쳐 나타난다는 점을 전제로, 그 변화를 계속 살피고 책임 있게 대응해야 한다는 뜻이다.
기획 단계에서 이 세 가치는 순서를 정하는 역할을 한다. 새 기능이 사용자의 판단 기회를 넓히는지(인간의 존엄성), 그 편익이 특정 집단에만 몰리지 않는지(공공선), 지금의 설계가 나중에 되돌리기 어려운 의존을 만들지 않는지(지속가능성)를 먼저 확인한 다음에야 개별 원칙의 세부 항목으로 내려갈 수 있다.
7대 원칙을 기획 질문으로 바꾸면 무엇이 남나
원문의 7대 원칙은 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성이다. 각 원칙에는 원문에 이미 구체적인 문장이 있다. 예를 들어 신뢰성 조항은 "AI의 목적과 활용 맥락을 고려하여 요구되는 최소 성능 기준을 설정하고, 의도된 사용 조건에서 해당 성능이 안정적이고 일관되게 유지되도록 해야 한다"고 적고 있다. 이 문장을 그대로 기획서에 붙이면 검토 없이 통과하는 형식 문구가 되기 쉽다. 대신 "이 기능이 의도한 조건에서 유지해야 할 최소 성능은 몇인가, 그 성능을 언제 다시 확인하는가"로 바꾸면 담당자가 답을 낼 수 있는 항목이 된다.
일곱 원칙을 이런 방식으로 옮기면 기획서에 넣을 질문 목록이 된다. 인간중심성은 AI가 제안하고 사람이 결정하는 경계를 어디에 긋는지 묻고, 프라이버시 보호는 목적에 필요한 정보만 처리하는지와 보관·접근 범위를 묻는다. 공정성·포용성은 불리해지거나 배제되는 이용자 집단이 있는지를, 책임성은 문제가 났을 때 책임 소재와 피해 구제를 누가 맡는지를 묻는다. 안전성은 오남용과 외부 공격의 경로를 어떻게 막는지, 투명성은 AI 사용 사실과 한계를 이용자에게 어떻게 알리는지를 확인한다.
이 확인은 기획 단계에서 한 번으로 끝나지 않는다
원문은 여러 원칙에서 "AI 생애주기 전반"이라는 표현을 반복한다. 책임성 조항은 "AI 행위자는 AI 생애주기 전반에서 각자의 역할과 책임을 명확히 인식하고 이를 이행하기 위해 노력한다"고 적었고, 프라이버시 보호 조항도 "AI 생애주기 전반에서 개인정보를 정해진 목적에 한해 필요한 범위에서 처리"하라고 못 박았다. 신뢰성 조항 역시 "이용되는 동안 그 성능과 작동 상태를 지속적으로 점검"하라고 요구한다.
이 표현이 기획서 작성 방식에 시사하는 점은 명확하다. 기획, 설계·개발, 출시, 운영 각 단계마다 같은 질문을 다시 던져야 하고, 그 답을 다음 단계로 넘길 담당자와 점검 시점을 함께 적어야 한다는 뜻이다. 출시 시점에 한 번 정리한 안전조치나 개인정보 처리 범위가 운영 중 기능이 바뀌어도 그대로 유효한지는 다시 확인해야 하는 항목이지, 출시 문서에 남아 있다고 저절로 유지되는 항목이 아니다.
지금 기획서에 바로 넣을 수 있는 형식
이 원칙을 실무에 옮기는 가장 작은 단위는 기능 기획서마다 세 항목을 채우는 것이다. 첫째, 이 기능에서 AI의 역할 범위와 사람이 개입할 조건을 한 문장으로 적는다. 둘째, 처리하는 개인정보의 목적과 최소 범위, 접근 권한을 적는다. 셋째, 문제가 발생했을 때 책임을 확인하고 피해를 구제할 담당자와 절차를 적는다. 세 항목 모두 "확인했다"가 아니라 담당자 이름과 다음 점검 시점이 들어가야 실제로 작동하는 기록이 된다.
원칙 자체는 원문에서 밝히듯 이행을 강제하는 규정이 아니라 자율적 실천 기준이다. 그렇다고 기획서에서 이 세 항목이 빠지면, 문제가 생겼을 때 되짚어볼 결정의 기록도 함께 사라진다.