강남의 한 공유 오피스, 30대 개발자 김 씨는 최근 자신이 구축한 AI 에이전트의 ‘자율성’ 범위 앞에서 멈춰 섰다. 고객의 요청을 분석해 스스로 외부 API를 호출하고 결제까지 진행하는 에이전트. 기술적으로는 완벽했지만, 김 씨는 망설였다. “만약 이 에이전트가 예기치 못한 방식으로 고객의 데이터를 처리하거나, 규정에 어긋나는 결제를 수행한다면? 법적 책임은 누구에게 있으며, 도덕적 기준은 어디에 두어야 하는가?” 김 씨의 고민은 개인의 것이 아니다. 이는 현재 한국의 수많은 개발자와 기업, 그리고 AI와 함께 일상을 보내는 시민들이 마주한 거대한 ‘회색지대’의 단면이다.
새로운 윤리원칙: 6대 원칙과 에이전틱 AI 시대의 절박함
이러한 혼란 속에 과학기술정보통신부와 정보통신정책연구원(KISDI)은 지난 5월 28일, ‘인공지능 윤리원칙’ 초안을 공개했다. 이번 초안은 2020년의 기준을 계승하면서도, 올해 1월부터 시행된 ‘AI 기본법’의 현실과 생성형 AI 및 에이전틱 AI(Agentic AI)의 급격한 확산을 반영하고 있다. 정부는 인간 존엄성, 사회 공공선, 기술 신뢰성이라는 3대 가치를 중심으로 인간 자율성, 프라이버시, 공정성, 지속가능성, 안전성, 투명성이라는 6대 원칙을 제시했다. 특히 AI가 스스로 판단하고 행동하는 ‘자율적 에이전트’ 시대에 접어들면서, 단순한 가이드라인을 넘어선 국가 차원의 공통 판단 기준이 필요하다는 절박함이 반영된 결과다.
윤리 세탁의 위험: 안전망인가 장식인가
하지만 우리는 여기서 ‘가드레일의 역설’을 질문해야 한다. 정부가 제시한 윤리원칙이 실제로 현장의 안전망이 될 것인가, 아니면 기업의 ‘윤리 세탁(Ethics Washing)’을 위한 화려한 장식에 그칠 것인가 하는 점이다. 이미 AI 기본법이 시행되었지만, 현장에서는 ‘고영향 AI’의 판단 기준이 모호하고 과태료 체계가 실효성이 부족하다는 지적이 끊이지 않는다. 법이 강제력을 가진 ‘벽’이라면, 윤리원칙은 권고 수준의 ‘가이드라인’이다. 기업들이 법적 처벌을 피하기 위한 최소한의 투명성 의무만 이행하면서, 대외적으로는 정부의 윤리원칙을 준수하고 있다고 홍보하는 상황이 벌어진다면, 이는 오히려 시민들이 느끼는 실제 위험을 가리는 차폐막이 될 위험이 크다.
특히 한국의 독특한 산업 구조는 이 문제를 더 복잡하게 만든다. 소수의 거대 플랫폼 기업과 제조 대기업(Chaebol)이 AI 생태계를 주도하는 상황에서, 정부의 윤리원칙이 기업의 자율 규제에 과도하게 의존하게 된다면 권력의 불균형은 심화될 것이다. 진정한 윤리는 ‘무엇을 하지 말아야 하는가’라는 금지 목록이 아니라, ‘누가 이 기술의 비용을 지불하고 누가 이득을 취하는가’라는 정의(Justice)의 문제에서 시작된다. 투명성 원칙이 단순히 ‘AI가 생성한 결과물임을 표시하는 것’에 그치지 않고, 알고리즘이 내린 결정의 근거와 그 데이터의 출처를 시민이 납득할 수 있게 공개하는 수준까지 나아가야 하는 이유가 여기에 있다.
하우스 오브 7의 시선: 책임의 구체성
하우스 오브 7(House of 7)의 시선에서 볼 때, 이번 윤리원칙의 성패는 ‘책임의 구체성’에 달려 있다. 윤리는 추상적인 단어들의 집합이 아니라, 구체적인 피해가 발생했을 때 누가, 어떻게, 얼마나 책임질 것인가에 대한 약속이어야 한다. 인간의 자율성을 존중한다는 원칙이 AI 에이전트의 효율성이라는 명분 아래 희생되지 않으려면, 기술적 안전장치와 더불어 사회적 합의에 기반한 강력한 감시 체계가 병행되어야 한다. 투명성은 선택 사항이 아니라 생존 조건이며, 공정성은 기업의 시혜가 아니라 시민의 기본권이다.
이제 질문은 우리에게 돌아온다. 정부가 그린 이 정교한 윤리적 지도 위에서, 우리는 정말로 안전하게 길을 찾을 수 있을까? 아니면 우리는 여전히 정교하게 설계된 ‘윤리의 환상’ 속에서 AI가 결정하는 미래를 무비판적으로 수용하고 있는 것은 아닐까?