윤리의 외벽, 현실의 균열: 정부 AI 윤리원칙 초안이 묻는 것
과학기술정보통신부가 최근 ‘인공지능(AI) 윤리원칙’ 초안을 공개했다. 인간의 존엄성, 사회적 공공선, 기술적 신뢰성이라는 세 가지 핵심 가치를 앞세운 이 문서는, 생성형 AI가 일상의 모든 틈새로 스며든 지금 우리가 어디로 가야 할지를 정의하려는 정부의 시도다. 하지만 세련된 문구와 정돈된 가이드라인 뒤에는 여전히 풀리지 않은, 그리고 외면받고 있는 날카로운 질문들이 남아 있다.
원칙이라는 이름의 ‘소프트 로(Soft Law)’
이번 윤리원칙은 지난 2020년의 기준을 계승하면서도, 최근 시행된 ‘AI 기본법’의 흐름을 반영하고 있다. 인간 자율성, 프라이버시, 공정성, 지속가능성, 안전성, 투명성이라는 6대 원칙은 이론적으로 완벽해 보인다. 특히 정부가 7월까지 국민과 기업의 의견을 수렴하는 공론화 과정을 거치겠다고 밝힌 점은 절차적 정당성을 확보하려는 의지로 읽힌다.
그러나 여기서 우리는 ‘원칙’과 ‘법’의 간극을 직시해야 한다. 윤리원칙은 기본적으로 권고 사항, 즉 ‘소프트 로’의 성격을 띤다. 이는 기업들에게 도덕적 지침을 제공하지만, 이를 어겼을 때의 즉각적인 강제력은 부족하다. 반면 AI 기본법은 ‘고위험 AI’에 대한 규제라는 ‘하드 로’의 체계를 갖추고 있다. 문제는 이 두 층위가 어떻게 맞물리느냐 하는 것이다. 윤리원칙이 단순한 ‘장식’이 되지 않으려면, 이 추상적인 가치들이 기본법의 구체적 집행 기준과 처벌 규정에 어떻게 녹아들어 있는지가 핵심이다.
누구를 위한 ‘공정성’인가
정부가 제시한 6대 원칙 중 ‘공정성’은 가장 매력적이면서도 가장 위험한 단어다. 알고리즘의 편향성을 줄이고 기회의 평등을 보장한다는 말은 듣기 좋지만, 그 ‘공정함’의 기준은 누가 정하는가? 판교의 테크노밸리에서 설계된 공정함이 강남 거리의 배달 라이더가 겪는 알고리즘의 압박이나, 지방 소도시의 소상공인이 느끼는 자동화의 공포까지 포괄할 수 있을까.
한국의 기술 생태계는 극단적으로 기업 집중도가 높다. 이러한 환경에서 ‘자율적 윤리 준수’는 종종 기업의 입맛에 맞는 ‘체크리스트 채우기’로 전락할 위험이 크다. 진정한 공정성은 정부의 가이드라인을 준수했다는 인증 마크가 아니라, 기술의 혜택에서 소외된 이들이 그 시스템에 이의를 제기할 수 있는 ‘실질적인 권리’가 보장될 때 비로소 시작된다.
하우스의 시선: 윤리는 결과가 아니라 과정이다
House of 7의 가치 체계(CVF)에서 윤리는 고정된 규칙의 집합이 아니라, 권력과 책임의 관계를 끊임없이 질문하는 과정이다. 이번 정부 초안이 ‘신뢰할 수 있는 AI’를 강조하는 것은 반갑지만, ‘신뢰’라는 단어가 자칫 기업과 정부에 대한 맹목적인 믿음을 강요하는 수단이 되어서는 안 된다. 진정한 신뢰는 투명한 공개와 치열한 비판, 그리고 잘못되었을 때 수정할 수 있는 용기에서 나온다.
우리는 질문해야 한다. 이 윤리원칙이 기업들의 규제 회피를 위한 ‘방패’가 될 것인가, 아니면 기술의 폭주를 막는 실질적인 ‘브레이크’가 될 것인가. 정부가 말하는 ‘인간 중심’의 AI가 실제로는 ‘인간의 편의’만을 생각하는 기술적 낙관주의의 다른 이름은 아닌지 살펴야 한다.
마치며: 선(線)을 긋는 일
윤리원칙을 만드는 것은 종이에 선을 긋는 일이다. 하지만 그 선이 실제 삶의 현장에서 작동하려면, 종이 위가 아니라 현실의 균열 위에 그어져야 한다. 7월까지 진행되는 의견 수렴 과정에서 우리가 던져야 할 질문은 “어떤 문구가 더 세련되었는가”가 아니라, “이 원칙이 나의 일상을 어떻게 구체적으로 보호하는가”여야 한다.
과연 이 정교한 윤리의 외벽이 현실의 균열을 메울 수 있을까, 아니면 그저 균열을 가리는 화려한 도배지가 될 것인가. 우리는 그 답을 지켜봐야 할 것이다.