- 'AI 기본법' 시행과 가이드라인 준수... 기업은 '필수', 개인은 '자율'
- 투명한 디지털 생태계 조성 위한 첫걸음, 기술보다 '신뢰'가 우선
[뉴스에디션] 우리가 매일 접하는 SNS 이미지나 뉴스레터 속의 유려한 문장들이 실은 인간의 손을 거치지 않은 인공지능의 결과물이라면 어떨까. 생성형 AI 기술이 육안으로 가짜와 진짜를 구분하기 어려울 만큼 정교해지면서, 기술적 진보가 가져올 사회적 혼란을 방지하기 위한 법적 장치가 본격적인 가동에 들어갔다.
지난 1월 22일부터 시행된 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)'은 AI 콘텐츠 제작 및 유통 생태계에 새로운 이정표를 제시하고 있다. 이번 법안의 핵심은 이용자가 접하는 정보가 인공지능에 의해 생성된 것임을 명확히 인지할 수 있도록 하는 AI 콘텐츠 표시 의무화에 방점이 찍혀 있다.
기술의 확산과 함께 커지는 '투명성'에 대한 갈증
산업계에서 AI 도입은 이미 거스를 수 없는 대세다. 한국콘텐츠진흥원에 따르면 2025년 상반기 기준 콘텐츠 산업 내 생성형 AI 활용률은 약 20%에 달하며, 특히 방송·영상 분야는 전년 대비 급격한 성장세를 기록 중이다. 직장인 10명 중 6명 이상이 업무 보조 도구로 AI를 활용하고 있다는 통계는 AI가 이미 우리 삶의 필수 파트너가 되었음을 시사한다.
하지만 빛이 강할수록 그림자도 짙다. 전문가를 사칭한 딥페이크 광고나 정교하게 조작된 가짜 뉴스가 범람하며 정보의 신뢰 기반이 흔들리고 있기 때문이다. 실제로 한국언론진흥재단 조사에 따르면 응답자의 87.5%가 AI 콘텐츠 표시가 반드시 필요하다고 답했다. 이는 대중이 기술의 편리함보다 '정직함'과 '투명성'을 더욱 가치 있게 여기고 있음을 보여주는 대목이다.
법적 의무의 핵심: 누가, 무엇을, 어떻게 표시해야 하나
이번 AI 기본법은 유럽연합(EU)의 AI 액트(AI Act)와 궤를 같이하며, 산업 진흥과 이용자 안전을 동시에 도모한다. 기대를 모았던 AI 콘텐츠 표시 의무의 주된 대상은 일반 개인이 아닌 '서비스 제공자(기업)'이다. 챗GPT와 같은 AI 툴을 개발한 기업이나 AI 기능을 탑재해 유료 서비스를 운영하는 플랫폼 사업자가 법적 책임을 지게 된다.
주요 내용은 다음과 같다.
첫째, 생성형 AI 콘텐츠를 제작·유통할 경우 워터마크 등을 통해 AI 생성물임을 명확히 표시해야 한다.
둘째, 의료·채용·금융 등 시민의 권리와 직결된 '고영향 AI' 분야는 더욱 엄격한 관리 감독을 받는다.
이를 위반할 시 최대 3,000만 원의 과태료가 부과될 수 있으나, 현재는 제도의 안착을 위해 최소 1년 이상의 계도 기간을 운영하고 있다.
개인 창작자와 블로거 등은 규제인가 자유인가
많은 개인 창작자가 우려하는 지점인 '개인 블로그나 SNS 게시물'의 경우, 원칙적으로는 의무 대상에서 제외된다. 취미나 단순 정보 공유 목적으로 AI를 활용한 콘텐츠를 올릴 때 표시를 하지 않았다고 해서 처벌받지는 않는다는 의미다. 법의 취지가 일반 시민을 규제하기보다 영향력이 큰 기업들이 기술을 투명하게 운영하도록 유도하는 데 있기 때문이다.
다만, 개인이더라도 주의해야 할 예외 상황은 존재한다. 사실상 사업자 수준으로 대규모 영리 활동을 하는 경우나, 타인의 얼굴·음성을 합성한 성착취물 딥페이크, 혹은 선거 관련 허위 정보를 유포하는 행위는 성폭력처벌법이나 공직선거법에 따라 엄격한 형사 처벌 대상이 된다. 따라서 법적 의무 여부를 떠나 책임감 있는 콘텐츠 생산이 요구되는 시점이다.
[논평: 기술의 속도를 제어할 윤리적 안전장치 필요]
AI 기본법 시행은 기술 만능주의에 경종을 울리고 디지털 환경에서의 사회적 책임을 명문화했다는 점에서 고무적이다. 특히 AI 콘텐츠 표시 의무화는 이용자의 알 권리를 보장하고 정보 왜곡으로 인한 피해를 최소화할 수 있는 실질적인 방안이 될 것이다.
다만, 이러한 규제가 창작의 자율성을 위축시키지 않도록 세부 가이드라인을 정교화해야 하며, 국경 없는 온라인 환경 특성상 해외 플랫폼과의 역차별 문제도 심도 있게 논의되어야 한다.
결국 AI는 도구일 뿐, 그 도구가 빚어낸 결과물에 가치를 부여하고 신뢰를 쌓는 것은 인간의 몫이다. 기업과 창작자들은 제도를 단순한 규제로 받아들이기보다 소비자 신뢰를 얻기 위한 필수적인 운영 표준으로 인식해야 한다. 투명한 AI 생태계 조성은 향후 인공지능 산업의 지속 가능한 성장을 결정짓는 가장 강력한 경쟁력이 될 것으로 전망된다.
*정답 : 위 고양이 사진 중 왼족은 제미나이 생성, 오른족은 픽사베이 실 사진)
