<이미지 : 기사의 이해를 돕고자 AI 생성>
1. S대 출신 의사? 전부 AI가 만든 가짜였다
최근 유튜브와 페이스북을 중심으로 AI로 생성된 가짜 전문가가 등장해 건강기능식품과 의약품을 홍보하는 광고가 범람하고 있다. "흔들리는 치아, 치과 오지 마세요. 이것만 해도 꽉 잡힙니다"며 구강 유산균을 추천하는 S대 치과 전문의 송 모 씨, "지루성 두피염, 딱 3개월만 드셔보세요"라는 S대 출신 피부과 전문의 등이 대표적이다. 하지만 이들은 모두 실존 인물이 아닌 AI 딥페이크로 만든 가상 인물이다. 정교한 얼굴 합성과 음성 변조 기술로 실제 의사처럼 보이게 만들어 소비자를 기만하고 있다. 특히 건강 정보에 취약한 노년층이 주요 피해 대상이 되고 있어 사회적 문제로 대두됐다.2. 가짜 MBC 앵커가 불법 도박 앱 홍보
의료 분야뿐만 아니라 불법 도박 앱 광고에도 딥페이크가 악용되고 있다. 한국소비자원이 지난 8월부터 9월까지 페이스북을 모니터링한 결과, 딥페이크를 활용한 허위 온라인 도박 광고 38건이 확인됐다. 이 중 지상파 뉴스 화면을 합성한 사례가 8건, 유명 연예인과 스포츠 스타가 직접 도박 앱을 추천하는 것처럼 만든 딥페이크 영상이 6건이었다. MBC, KBS, YTN 등 방송사 로고를 무단 사용해 "한국에서 온 흥미로운 소식입니다. 손흥민 선수가 새로운 공식 앱을 출시하기 위해 강원랜드 카지노에 도착했습니다"는 식의 가짜 뉴스를 제작했다.딥페이크 허위 광고 주요 피해 사례
- 손흥민, 아이유, 호날두 등 유명인 사칭 도박 앱 광고: 14건
- 정부·공공기관(기획재정부, 강원랜드) 인증 사칭: 24건
- 유명 기업(동행복권, 카카오, CU) 제휴 사칭: 13건
- AI 가짜 의사가 건강식품 추천: 다수
3. 노년층 직격탄...피해 규모 급증
딥페이크 허위 광고는 SNS 알고리즘을 통해 한 번 시청하면 유사 광고가 연달아 노출되는 방식으로 피해자를 적극 유인한다. 특히 AI 기술의 발달로 전문가들조차 육안만으로 진위를 판단하기 어려운 수준에 도달했다. 실제 사례를 보면, 가짜 피부과 전문의가 등장해 "일주일 만에 기미가 싹 사라진다"고 홍보하거나, 일반 식품을 "체지방이 83.7% 감소한다"며 의약품처럼 속여 판매하는 경우가 적발됐다. 한 중장년 소비자는 "부모님 건강 챙겨드리다 이 영상을 보고 믿을 뻔했다. 진짜 의사 같아서 한참 사실 여부를 찾아봤다"고 밝혔다.4. 정부, 징벌적 손해배상 최대 5배 도입
정부는 12월 10일 김민석 국무총리 주재로 제7회 국가정책조정회의를 열고 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 확정했다. 핵심은 허위 광고의 조기 차단과 책임 강화다. 가장 주목되는 조치는 징벌적 손해배상제 도입이다. 인플루언서 등 일정 규모 이상의 정보게재자가 허위를 알면서 타인을 해할 의도로 허위·조작 정보를 유통한 경우, 실제 손해액의 최대 5배까지 배상하도록 할 방침이다. 예를 들어 AI 가짜 의사의 추천만 믿고 구입한 건강기능식품 복용으로 부작용을 봤다면, 징벌적 손해배상 청구가 가능해진다.| 대응 방안 | 주요 내용 | 시행 시기 |
|---|---|---|
| 징벌적 손해배상 | 악의적 허위·조작 정보 유통 시 손해액의 최대 5배 배상 | 2026년 1월 |
| 신속 차단 | 방미통위가 긴급 시정 요청, 심의 요청 후 24시간 내 차단 | 즉시 |
| AI 생성물 표시제 | AI로 만든 가상인간임을 의무 표시, 미표시 시 부당 광고 | 2026년 1월 |
| 과징금 상향 | 허위·과장광고 과징금 수준 최소 2배 이상 대폭 상향 | 2026년 1월 |
| 위법성 명확화 | AI 가짜 의사 추천 행위 자체가 소비자 기만 위법 행위로 규정 | 즉시 |
5. 24시간 내 신속 차단...차단 속도 획기적 개선
기존에는 방송미디어통신심의위원회(방미심위)의 심의를 거쳐 차단 결정이 내려지기까지 상당한 시일이 소요돼 그 사이 피해가 눈덩이처럼 불어나는 구조였다. 이를 개선하기 위해 국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우, 방송미디어통신위원회(방미통위)가 방미심위의 심의 완료 전이라도 플랫폼 사업자에게 직접 긴급 시정 요청을 할 수 있는 절차를 신설한다. 식약처와 한국소비자원은 AI 허위·과장광고가 빈발하는 식·의약품, 화장품, 의약외품, 의료기기 등 영역을 서면심의 대상에 추가한다. 심의 요청 후에는 24시간 내 신속 심의를 진행할 계획이다. 이를 통해 차단 결정까지의 시간을 대폭 단축할 수 있을 것으로 기대된다.6. AI 기본법과 연계...2026년 1월 시행
이번 대응 방안은 2026년 1월 22일부터 시행되는 'AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)'과 연계된다. AI 기본법은 유럽연합(EU)에 이어 세계에서 두 번째로 제정된 AI 규제 법안이다. AI 기본법은 고영향 인공지능 또는 생성형 인공지능을 이용한 제품이나 서비스를 제공하는 사업자에게 투명성 확보 의무를 부과한다. AI로 만든 가상인간이 제품을 추천하는 경우 해당 사실을 반드시 표시해야 하며, 미표시 시 부당한 표시·광고로 간주해 제재한다. 특히 AI로 만든 가짜 의사가 식·의약품을 추천하는 광고는 소비자를 기만하는 광고에 해당한다고 명확히 규정했다.AI 기본법 주요 내용
- AI 생성물 투명성 확보 의무: 워터마크 등으로 AI 결과물임을 표시
- 고영향 AI 안전성 확보 의무: 사용자 고지, 영향 평가 실시
- 생성형 AI 표시 의무: AI 이용 사실을 사전 고지
- 과태료: 의무 위반 시 최대 3천만원 (계도 기간 운영)
- 통합안내지원센터: 기업 문의 안내 및 제도 개선 의견수렴
7. 식약처, AI 캅스 시스템 본격 가동
식품의약품안전처는 온라인상 불법 광고·유통 행위에 대해 자동 탐지·선별·차단까지 가능한 AI 시스템 'AI캅스'를 구축하고 2025년 하반기부터 본격 가동할 계획이다. 지난 5월부터 시범 운영 중인 이 시스템은 현재 마약류 키워드에 우선 적용되고 있으며, 향후 건강기능식품과 의약품 광고 전반으로 확대될 예정이다. 식약처 사이버조사팀 박 팀장은 "AI로 생성한 의사 또는 약사 이미지를 사용해 건강기능식품이나 의약외품을 소개하는 사례를 소비자 기망행위로 보고 단속 대상에 포함한다"며 "배우가 흰 가운을 입고 의사인 척 광고하던 기존 방식이 이제는 AI 이미지 생성 기술로 대체되고 있다"고 설명했다.
"AI를 활용한 허위·과장 광고는 시장 질서를 교란하고 소비자 피해를 유발하는 중대한 범죄 행위다. 사전 유통 예방뿐 아니라 신속한 사후 차단도 추진하고자 한다."
- 김민석 국무총리
8. 경찰, 딥페이크 도박 사기 수사 착수
서울경찰청 사이버수사대는 강원랜드의 수사 의뢰를 받고 불법 도박 앱 운영 조직 수사에 나섰다. 딥페이크 사기 일당은 AI를 활용해 손흥민, 지상파 뉴스 앵커 등을 홍보대사로 내세운 조작 영상을 SNS에 게재했다. 해당 영상에는 AI로 만든 가짜 손흥민 등 유명인이 등장해 "제가 왜 강원랜드 앱을 모두에게 추천하는지 알려주겠다", "모든 당첨금은 단 5분 만에 은행 계좌에 입금된다"고 말하며 가짜 강원랜드 앱 설치를 유도한다. 강원랜드는 피해를 최소화하기 위해 언론대응, 영업장 내 게시판, 홈페이지 등을 활용해 불법도박 관련 주의 내용을 전파하며 초기 대응에 나섰다.| 분야 | 피해 유형 | 대응 기관 |
|---|---|---|
| 의료·건강 | 가짜 의사/전문가가 건강기능식품 과장 광고 | 식약처, 한국소비자원 |
| 불법 도박 | 유명인/앵커 사칭 도박 앱 홍보 | 경찰청, 강원랜드 |
| 금융 사기 | 딥페이크 보이스피싱 (가족 사칭) | 금융감독원, 경찰청 |
| 정치·선거 | 후보자 사칭 딥페이크 영상 | 중앙선관위, 방미통위 |
9. 전문가 "플랫폼 책임도 강화해야"
전문가들은 강력한 처벌과 함께 유통 경로인 플랫폼에도 책임을 지워야 한다고 강조한다. 소비자원은 조사 결과를 메타(Meta)에 전달해 광고 차단을 요청했으며, 향후 SNS 플랫폼을 대상으로 한 딥페이크 기반 허위 광고 모니터링을 강화할 예정이다. 미디어 리터러시 전문가들은 "딥페이크 기술이 고도화돼 전문가들조차 육안만으로 진위를 판단하기 어려운 경우가 있다"며 "소비자 모두가 미디어 리터러시와 비판적 정보 습득 역량을 꾸준히 키워야 한다"고 당부했다. 특히 노년층을 대상으로 한 디지털 교육 강화가 시급하다는 지적이 나온다.
"딥페이크 영상이 신뢰할 수 있는 전문가의 권위를 빌려 소비자를 속이면서 건강과 생명에 위협이 될 수 있다는 점에서, 플랫폼과 정부의 신속한 대응이 절실하다."
- 한국소비자원
