생성형 AI를 활용해 가짜 전문가를 내세워 노년층 등 정보 취약계층을 현혹하는 식품 등의 부당 광고 사례. 사진=방송미디어통신위원회 제공

[한국의정신문 김현주 기자]

온라인 환경에서 인공지능(AI)을 활용한 딥페이크 광고가 빠르게 확산되면서, 소비자 피해를 막기 위한 입법적 대응이 본격화되고 있다. AI로 생성된 광고임을 알리는 고지·표시를 고의로 삭제하거나 조작해 유통하는 행위를 금지하는 이른바 ‘AI 표시 훼손 금지법’이 국회에서 논의되면서, 소비자 보호 효과와 함께 사업자 규제 부담을 둘러싼 쟁점도 함께 부각되고 있다.

국회입법조사처는 12월 31일 「정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안」에 대한 사전 입법영향분석 보고서를 통해 해당 개정안의 실효성과 한계를 종합적으로 분석했다. 이번 분석은 온라인 광고 영역에서 AI 생성물 표시의 훼손 또는 위·변조를 금지하고, 플랫폼 사업자에게 관련 광고의 삭제 의무를 부과하는 내용을 중심으로 이뤄졌다. 

최근 온라인상에서는 유명인, 의사, 전문가의 얼굴과 음성을 합성한 딥페이크 광고가 실제 인물의 추천이나 보증인 것처럼 유통되는 사례가 빈번하게 발생하고 있다. 특히 식품·의약품 분야에서는 건강 정보에 취약한 소비자층을 겨냥한 허위·과장 광고가 반복되며, 단순한 경제적 피해를 넘어 생명과 신체에 대한 위험으로까지 이어질 수 있다는 우려가 제기돼 왔다. 문제는 이러한 광고가 AI 생성물임을 알리는 표시가 삭제되거나 은폐될 경우, 소비자가 광고의 진위 여부를 판단하기 어렵다는 데 있다.

입법조사처는 이번 개정안이 시행될 경우 소비자 보호 측면에서는 분명한 효과가 있을 것으로 평가했다. 현행법은 AI 생성물에 대한 표시 의무는 규정하고 있으나, 해당 표시를 고의로 훼손하거나 위·변조하는 행위에 대한 제재는 충분하지 않다는 지적이 이어져 왔다. 개정안은 이러한 입법 공백을 보완해 AI 표시의 신뢰성을 높이고, 소비자의 오인과 피해 확산을 사전에 차단하는 역할을 할 것으로 기대된다. 

다만, 규제 기준의 모호성은 주요 과제로 지적됐다. 보고서는 ‘훼손’이나 ‘위·변조’의 개념이 명확하지 않을 경우, 단순 편집이나 화질 저하 등 고의성이 없는 행위까지 규제 대상에 포함될 수 있다고 분석했다. 이는 광고 게시자의 표현의 자유를 위축시킬 소지가 있으며, 헌법상 기본권 제한 문제로 이어질 가능성도 배제할 수 없다는 것이다. 따라서 하위 법령을 통해 금지 행위의 범위를 구체화하고, 고의성과 위법성을 명확히 구분할 필요가 있다는 제언이 나왔다. 

플랫폼 사업자에 대한 부담 역시 쟁점이다. 개정안은 정보통신서비스 제공자에게 AI 표시가 훼손·조작된 광고에 대해 ‘지체 없는 삭제’ 의무를 부과하고 있다. 그러나 이는 기존 정보통신망법상 불법정보 삭제 체계보다 사업자의 판단 책임을 크게 가중시킬 수 있다는 우려가 제기된다. 불법 여부가 명확하지 않은 상황에서 삭제 판단을 요구받을 경우, 사업자 입장에서는 과잉 삭제로 이어질 가능성도 존재한다는 지적이다. 

이에 대해 입법조사처는 소비자 보호와 사업자에 대한 합리적 규제가 균형을 이룰 수 있도록 법안과 하위 규정의 보완이 필요하다고 강조했다. 특히 국내외 입법례를 참고해 불법정보 유통 규율 체계와의 정합성을 확보하고, 규제 범위를 명확히 설정해야 한다는 점을 제안했다. 더 나아가 법률이 실제로 시행될 경우, 시행 3년 후 사후 입법영향분석을 통해 규제 효과와 사업자의 이행 상황을 점검하는 절차도 함께 마련할 것을 권고했다. 

AI 기술이 광고 산업 전반에 빠르게 확산되는 상황에서, 기술 혁신을 저해하지 않으면서도 소비자를 보호하기 위한 제도 설계는 피할 수 없는 과제가 되고 있다. ‘AI 표시 훼손 금지법’을 둘러싼 이번 논의는 디지털 시대에 신뢰 가능한 정보 환경을 어떻게 구축할 것인가에 대한 중요한 시험대가 될 전망이다.