AI 허위광고란 무엇인가?
AI 허위광고란 인공지능 기술을 활용해 존재하지 않는 인물이나 사실을 만들어내거나 과장하여 소비자를 오도하는 광고를 뜻합니다. 예를 들어, 유명인이나 전문가의 얼굴과 목소리를 딥페이크 기술로 합성해 신뢰성을 높이거나, 실제로는 존재하지 않는 ‘가짜 의사’가 특정 상품을 추천하는 영상 광고가 대표적입니다. 이런 광고는 소비자에게 잘못된 정보를 전달하며, 제품에 대한 과장된 기대를 심어 피해를 유발할 수 있습니다. 특히 최근에는 AI 생성물이 사람의 실제 모습과 거의 구분이 어려울 정도로 정교해져, 기존의 허위광고 차단 시스템으로는 대응이 쉽지 않은 상황입니다. 따라서 AI 허위광고는 기술적, 법적 차원에서 모두 엄격한 대응이 필요한 신종 위협으로 자리 잡았습니다.
유튜브의 AI 허위광고 대응 전략: ‘유사성 감지(Likeness Detection)’ 기술
유튜브는 AI 허위광고 문제에 가장 적극적으로 대응하는 플랫폼 중 하나입니다. 최근 유튜브는 유명 크리에이터의 얼굴과 목소리를 무단으로 사용한 허위 광고 영상이 급증하자, ‘유사성 감지(Likeness Detection)’ 기술을 도입해 가짜 콘텐츠를 선별하고 차단하는 시스템을 구축했습니다. 이 기술은 영상 내 인물의 얼굴이나 목소리 패턴을 분석해 기존 데이터베이스와 비교, 불법 합성 여부를 판단합니다. 이를 통해 사용자들이 올린 영상 중 AI로 합성된 허위광고나 딥페이크 콘텐츠를 빠르게 식별해 자동으로 경고하거나 삭제 조치를 취합니다. 실제로 이 시스템 도입 후 유튜브 내 허위·과장 광고가 일정 부분 감소했다는 보고가 있으며, 향후 더욱 고도화된 AI 감지 기술로 발전할 예정입니다.
유사성 감지 기술의 작동 원리
유사성 감지 기술은 영상 속 인물의 얼굴 특징, 움직임, 음성 톤 등 다양한 요소를 정밀 분석해 기존에 등록된 유명 인물 데이터와 비교합니다. 딥러닝 기반 알고리즘이 미세한 차이도 포착해 합성 여부를 판별하며, 특히 얼굴 변형과 음성 합성을 동시에 검사해 정확도를 높입니다. 이를 통해 단순한 편집 영상과 AI 합성 영상을 구분해내며, 의심 콘텐츠에 대해 인공지능과 인간 심사자가 협력해 최종 판단을 내립니다.
유튜브 대응의 한계와 보완책
유튜브의 유사성 감지 기술은 상당한 효과를 보고 있지만, AI 기술의 빠른 발전에 따라 완벽한 대응은 아직 어렵습니다. 특히 새로운 합성 방법이나 변형된 음성, 얼굴 표현 등은 탐지 시스템을 우회할 가능성이 존재합니다. 이에 유튜브는 사용자 신고 시스템 강화, 광고주 및 크리에이터 교육, 그리고 정부와 협력해 법적 대응 절차를 강화하는 등 기술 외적인 대응책도 병행하고 있습니다.
정부의 AI 허위광고 대응 정책과 규제 강화
지난 2025년 12월 10일, 우리 정부는 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 AI 허위·과장광고 대응 방안을 공식 발표했습니다. 이 정책은 AI 기술을 악용한 광고의 ‘생성’, ‘유통’, ‘처벌’ 전 과정을 통합 관리하는 강력한 규제 체계를 구축하는 데 중점을 둡니다. 구체적으로 AI 생성물 표시제 도입, 신속한 광고 심의, 징벌적 손해배상 도입, 그리고 사업자 책임 강화 등이 주요 내용입니다. 특히 AI 생성물 표시 의무화는 소비자가 광고가 AI 기반임을 명확히 알 수 있도록 해, 허위광고의 신뢰도 하락과 피해 예방에 크게 기여할 것으로 기대됩니다.
AI 생성물 표시제 도입
AI 생성물 표시제는 AI가 만든 이미지, 영상, 음성 등 광고 소재에 ‘AI 생성’임을 반드시 명시하도록 하는 제도입니다. 이를 통해 소비자는 광고의 신뢰성을 판단할 때 AI 활용 여부를 참고할 수 있으며, 허위광고로 인한 피해 가능성을 줄일 수 있습니다. 방송미디어통신위원회가 주도해 올해부터 단계적으로 시행 중이며, 위반 시 과징금과 행정처분 등이 부과됩니다.
징벌적 손해배상 및 신속 심의 강화
정부는 AI 허위광고로 인한 피해자가 입은 손해에 대해 징벌적 손해배상을 청구할 수 있도록 법적 근거를 마련했습니다. 이는 단순 배상을 넘어 악의적 광고 제작자에 대한 강력한 제재가 가능해지는 의미입니다. 또한 광고 심의 기간을 24시간 이내로 단축해 허위광고의 유통을 최소화하고, 신고 접수 즉시 차단하는 체계를 구축했습니다. 이와 함께 민간 모니터링 시스템도 강화해 다각도로 대응합니다.
AI 허위광고 대응 기술과 실제 사례
AI 허위광고를 막기 위한 기술은 크게 감지, 차단, 그리고 소비자 알림으로 나눌 수 있습니다. 앞서 설명한 유튜브의 유사성 감지 외에도 식약처와 방송통신위원회는 AI로 생성된 광고를 자동 분석하는 시스템을 개발 중이며, SNS 플랫폼들도 자체 AI 검열 시스템을 도입해 허위광고 확산을 방지하고 있습니다. 실제 사례로는 최근 한 식품 광고에서 AI 가짜 의사가 등장해 어린이 영양제를 추천하는 영상이 적발된 바 있습니다. 이 광고는 정부 발표 이후 즉시 삭제 조치되었고, 제작사에는 과징금과 형사처벌이 부과되었습니다. 또한 틱톡코리아는 AI 허위광고 대응을 위해 약 2조 8천억 원을 투자해 딥페이크 검출과 광고 모니터링 시스템을 구축하는 등 글로벌 차원에서 대응을 강화하고 있습니다.
AI 허위광고 피해 사례
대표적인 피해 사례로는 ‘가짜 의사’ 광고가 있습니다. 실제 존재하지 않는 AI 생성 전문가가 특정 건강기능식품을 추천하며 소비자들이 효과 없는 제품을 구매하는 피해가 보고되었습니다. 이외에도 유명 연예인의 AI 합성 영상을 활용해 고가의 미용 제품을 홍보하거나, 허위 약품 광고가 확산되어 소비자 혼란이 발생하는 사례가 다수 확인되었습니다.
소비자와 기업이 알아야 할 대응 팁
소비자는 광고 속 인물이 실제 전문가인지 확인하고, AI 생성물 표시 여부를 주의 깊게 살펴야 합니다. 기업 역시 AI 기술을 활용할 때 광고 내용의 진실성을 엄격히 검증하고, 정부 정책을 준수하는 것이 중요합니다. 또한 광고 제작 시 ‘AI 생성물 표시제’를 정확히 적용하고, 소비자 보호를 최우선으로 하는 윤리적 마케팅 전략을 수립해야 합니다.
자주 묻는 질문
AI 허위광고를 어떻게 구별할 수 있나요?
AI 허위광고는 인물의 얼굴이나 목소리가 매우 자연스럽게 합성되어 구별이 어려울 수 있습니다. 하지만 최근 도입된 AI 생성물 표시제를 통해 광고에 ‘AI 생성’ 문구가 반드시 포함되어야 하며, 이를 확인하는 것이 첫 단계입니다. 또한 광고 내용을 교차 검증하고, 과장된 효과나 비현실적 주장에 대해 의심하는 태도가 필요합니다. 플랫폼별 신고 시스템을 활용해 의심되는 광고를 신고하는 것도 중요한 대응 방법입니다.
정부의 AI 허위광고 대응 정책은 무엇이 중요한가요?
정부 정책의 핵심은 AI 허위광고의 전 과정을 체계적으로 관리하는 데 있습니다. AI 생성물 표시제 도입으로 투명성을 확보하고, 신속 심의를 통해 허위광고 확산을 막으며, 징벌적 손해배상으로 제작자의 책임을 강화하는 점이 중요합니다. 이와 함께 민간과 협력해 모니터링을 강화하고, 소비자 교육을 병행하는 다각적 접근이 효과적인 대응책으로 평가받고 있습니다.