보이지 않는 선: AI 기본법의 시대, 우리는 무엇을 신뢰하는가
서울 강남의 한 공유 오피스. 서른 살의 프리랜서 디자이너 지민 씨는 최근 생성형 AI 도구 없이는 업무가 불가능할 정도가 되었다. 하지만 그녀는 어느 순간부터 묘한 불안감을 느낀다. 자신이 만든 결과물에 AI 워터마크가 찍히는 것을 보며, ‘이것이 정말 나의 창작물인가’라는 근본적인 질문과 마주한다. 동시에 그녀는 SNS에서 정교하게 조작된 딥페이크 영상들이 쏟아지는 것을 보며, 이제는 눈에 보이는 것조차 믿을 수 없는 세상에 살고 있음을 실감한다. 지민 씨의 일상은 이제 단순한 기술적 편리함을 넘어, ‘신뢰’라는 보이지 않는 선 위에서 아슬아슬하게 유지되고 있다.
이러한 개인의 불안은 현재 대한민국이 직면한 거대한 법적·윤리적 전환점과 궤를 같이 한다. 2026년 1월, 한국은 세계 최초로 전면 시행된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’의 시대로 진입했다. 이 법은 AI 산업의 진흥과 규제라는 두 마리 토끼를 잡기 위해 설계되었다. 특히 ‘고영향 AI’라는 개념을 도입하여 사람의 생명, 안전, 기본권에 중대한 영향을 미치는 분야(의료, 채용, 대출 심사 등)에 대해 엄격한 위험 관리 의무를 부과했다. 또한, 생성형 AI 결과물에 대한 표시 의무를 명시함으로써 딥페이크로 인한 혼란을 막고 투명성을 확보하려 한다. 최근 과학기술정보통신부는 여기서 한 걸음 더 나아가 ‘인간 존엄성, 공공선, 신뢰성’이라는 3대 가치와 6대 원칙을 담은 ‘인공지능 윤리원칙’ 초안을 발표하고 국민 의견 수렴에 나섰다. 이는 법이라는 강제적 수단을 넘어, AI 시대의 사회적 합의라는 ‘소프트 로’를 구축하려는 시도다.
하지만 이 거대한 설계도 뒤에는 날카로운 긴장이 흐르고 있다. 산업계는 세계 최초의 규제법이 자칫 혁신의 발목을 잡을 수 있다고 우려한다. 특히 스타트업들은 고영향 AI의 기준이 모호하며, 컴플라이언스 비용이 증가함에 따라 글로벌 빅테크 기업과의 경쟁에서 역차별을 당할 수 있다고 주장한다. 반면 시민사회는 규제의 칼날이 정작 필요한 곳을 비껴가고 있다고 지적한다. 기업에 부과되는 과태료 수준이 낮아 실효성이 떨어지며, 무엇보다 개인 창작자나 소규모 이용자들이 겪는 권리 침해를 실질적으로 막을 장치가 부족하다는 것이다. 여기서 우리는 한국 특유의 구조적 모순을 발견한다. 세계 최고의 IT 인프라와 반도체 경쟁력을 갖췄음에도, 정작 그 기술이 가져올 사회적 파장을 논의하는 거버넌스는 여전히 정부와 대기업 중심으로 움직이고 있다. 기술의 속도는 빛의 속도로 나아가는데, 윤리와 법의 속도는 여전히 관료적 절차와 이해관계의 충돌 속에 머물러 있는 셈이다.
하우스 오브 7(House of 7)의 관점에서 볼 때, 현재의 논의에서 가장 결핍된 것은 ‘정의와 공정’에 대한 깊은 성찰이다. 투명성(Transparency)은 단순히 워터마크를 찍는 행위가 아니다. AI가 내린 결정의 근거를 인간이 이해할 수 있는 방식으로 설명할 수 있는가, 그리고 그 결정으로 인해 삶이 바뀐 이가 이의를 제기할 수 있는가라는 ‘설명 가능성’의 문제로 이어져야 한다. 또한, AI 기본법이 지향하는 ‘신뢰성’이 과연 누구를 위한 신뢰인가를 물어야 한다. 기업이 법적 가이드라인을 준수했기에 ‘신뢰할 수 있다’고 말하는 것과, 그 기술이 사회적 약자의 소외를 가속화하지 않기에 ‘신뢰할 수 있다’고 말하는 것은 전혀 다른 층위의 이야기다. 진정한 책임(Responsibility)은 법적 처벌을 피하는 것이 아니라, 기술의 도입으로 인해 발생하는 비용을 누가 지불하고 있는지를 끊임없이 추적하고 보완하는 과정에서 증명된다. 우리는 지금 ‘효율적인 통제’를 설계하는 것이 아니라, ‘인간다운 공존’을 설계해야 하는 시점에 서 있다.
이제 질문은 우리 자신에게 돌아온다. 국가가 정한 윤리원칙과 법의 테두리 안에서 우리는 안전하다고 말할 수 있는가? 아니면, 우리가 기술에 부여한 ‘신뢰’라는 이름의 권한이 오히려 우리의 비판적 사고와 인간적 연결을 잠식하고 있는 것은 아닌가? 당신이 매일 사용하는 AI 서비스가 당신의 가치관을 조금씩 바꾸고 있다면, 당신은 그 변화의 선을 어디에 긋겠는가?