AI가 만든 가짜, 어떻게 구별할까?

AI가 바꾸는 미래, 이제는 '신뢰'를 이야기할 때 

인공지능(AI)은 산업의 생산성을 높이는 기술을 넘어, 우리 사회의 일상과 소통 방식까지 변화시키고 있습니다. 누구나 간단한 명령어만으로 정교한 이미지와 영상을 생성할 수 있는 시대. AI 기술의 발전은 새로운 가능성을 열어주었지만, 동시에 우리가 마주해야 할 또 다른 과제도 남겼습니다. 바로 기술의 발전 속도에 걸맞은 안전과 신뢰를 어떻게 확보할 것인가에 대한 문제입니다. 

이러한 화두를 중심으로 2026년 10월 8일, 부산 벡스코(BEXCO)에서 열린 'AI+X CONFERENCE 2026'의 AI 신뢰성 세션에 라바웨이브 김준엽 대표가 연사로 참여했습니다. 

'AI가 만든 가짜, 우리는 어떻게 구별할까?'를 주제로 진행된 이번 강연에서는 생성형 AI의 범죄 악용 위험과 피해자를 보호하기 위한 기술적 대응, 사회적 보호 체계의 중요성을 함께 살펴봤습니다. 

누구나 간단한 명령어만으로 정교한 이미지와 영상을 생성할 수 있는 지금, AI 기술은 새로운 가능성을 열어주는 동시에 안전한 활용이라는 과제도 남겼습니다. 

기술의 발전 속도에 걸맞은 신뢰를 확보하기 위해서는 무엇이 필요할까요? 이번 컨퍼런스는 디지털 범죄 대응 현장에서 마주해 온 문제를 AI 시대의 관점에서 함께 고민하는 자리였습니다. 

AI+X CONFERENCE 2026 : AI 산업의 미래와 신뢰를 논의하는 자리 

① 정부와 산업계가 함께하는 AI 융합 컨퍼런스 

'AI+X CONFERENCE 2026'은 과학기술정보통신부와 부산광역시가 주최하고, 정보통신산업진흥원(NIPA)과 부산정보산업진흥원(BIPA)이 주관한 AI 산업 컨퍼런스입니다. 

'AI In Action, 현장 속으로'라는 슬로건 아래 10월 7일부터 8일까지 개최된 이번 행사는 AI 반도체, 피지컬 AI, 제조 AI, AI 신뢰성 등 다양한 분야의 기술 동향과 실제 산업 적용 사례를 공유하는 자리로 마련되었습니다. 

특히 기술의 산업적 가능성뿐 아니라 AI가 사회적으로 신뢰받기 위해 갖춰야 할 안전성과 책임을 주요 의제로 다뤘다는 점에서 의미가 있습니다. 

라바웨이브 역시 AI 신뢰성 분야의 공식 연사로 참여해, 디지털 범죄 대응 과정에서 축적한 기술적 경험과 현장의 관점을 산업계와 공유했습니다. 

② AI 신뢰성은 왜 중요할까요? 

AI 신뢰성(AI Trustworthiness)은 인공지능이 정확한 결과를 만들어내는 것을 넘어, 기술의 활용 과정에서 발생할 수 있는 위험을 줄이고 이용자의 권리와 안전을 보호하는 개념입니다. 

특히 생성형 AI의 발전으로 딥페이크 영상과 AI 기반 사칭 등 기술을 악용한 범죄가 정교해지면서, 신뢰성 확보의 중요성도 커지고 있습니다. 

타인의 얼굴을 무단으로 합성한 콘텐츠가 유포 협박이나 금전 요구에 악용될 경우, 피해는 단순한 허위 콘텐츠 문제에 머무르지 않습니다. 

AI 신뢰성을 확보하기 위해서는 기술의 정확성을 높이는 것과 함께, 범죄에 악용될 가능성을 줄이고 실제 피해를 예방할 수 있는 대응 체계를 마련해야 합니다. 

이는 라바웨이브가 디지털 범죄 대응 기술을 연구하며 중요하게 생각해 온 방향이기도 합니다. 

김준엽 대표의 강연 : 가짜를 구별하는 기술을 넘어 

① 디지털 범죄 대응 현장에서 바라본 AI 기술의 변화 

AI 기술이 만들어내는 새로운 위험을 이해하기 위해서는 기술 자체에 대한 분석뿐 아니라, 실제 범죄 현장에서 어떠한 방식으로 악용되고 있는지를 살펴볼 필요가 있습니다. 

김준엽 대표는 정보보안과 화이트해킹 분야에서 쌓아온 전문성을 바탕으로 디지털 범죄 피해를 줄이기 위한 기술 개발과 대응 사업에 집중해 왔습니다. 라바웨이브를 이끌며 몸캠피싱, 딥페이크 등 다양한 디지털 범죄에 대응하는 과정에서 관련 기술과 실무 경험을 축적해 왔습니다. 

이 과정에서 주목해 온 것은 단순히 범죄에 사용된 기술을 분석하는 것을 넘어, 기술의 악용이 실제 피해로 이어지는 과정을 이해하고 이를 방지할 수 있는 대응 방안을 마련하는 일이었습니다. 

특히 생성형 AI의 발전으로 디지털 범죄의 수법과 양상이 빠르게 변화하면서, 기존의 보안 기술과 범죄 대응 경험을 AI 환경에 맞춰 확장하는 것이 중요해지고 있습니다. 

이번 강연 역시 이러한 경험을 바탕으로 AI 기술의 위험성을 살펴보고, 기술적 대응이 나아가야 할 방향을 함께 고민하는 자리였습니다. 

② AI가 만든 가짜, 우리는 어떻게 구별할까? 

AI로 생성된 콘텐츠가 점점 정교해지는 시대, 우리는 무엇을 기준으로 진위를 판단하고 어떠한 방식으로 피해를 예방해야 할까요? 

AI로 생성된 이미지나 영상이 가짜라는 사실을 밝혀내더라도, 이미 발생한 유포 위협과 사생활 침해, 심리적 피해까지 즉시 사라지는 것은 아닙니다. 

합성 콘텐츠가 가짜여도, 이를 이용한 협박과 피해는 현실에서 발생합니다. 

그렇기에 디지털 범죄에 대한 대응은 가짜 콘텐츠를 식별하는 단계에서 한 걸음 더 나아가야 합니다. 콘텐츠가 악용되는 과정과 범죄의 기술적 특성을 분석하고, 피해가 발생하기 전에 위험을 줄일 방법까지 함께 살펴야 합니다. 

중요한 것은 가짜를 구별하는 기술에서 멈추지 않고, 범죄 발생 가능성을 낮추는 기술적 대응과 피해자를 위한 사회적 보호 체계를 함께 강화하는 일입니다. 

이는 기술의 발전이 개인의 권리와 일상을 보호하는 방향으로 이어져야 한다는 이번 강연의 핵심 메시지이기도 합니다. 

기술로 실현하는 AI 신뢰성 : 라바웨이브의 연구와 대응 

AI 신뢰성을 높이기 위해서는 위험을 이해하는 것에서 나아가 실질적인 기술적 대응이 필요합니다. 라바웨이브는 딥페이크 사전예방 기술 개발과 불법 콘텐츠 유통 구조 분석을 통해 디지털 범죄 대응 영역을 확장하고 있습니다. 

① KAIST 공동 연구 : 딥페이크 사전예방 기술 

딥페이크 콘텐츠가 제작·유포된 이후에는 합성 여부를 밝혀내더라도 피해를 완전히 되돌리기 어렵다는 한계가 있습니다. 

이러한 문제에 주목해 라바웨이브는 한국과학기술원(KAIST) 사이버보안연구센터와 함께 딥페이크 생성 단계에서 악의적인 합성을 방해하는 사전예방 기술을 공동 개발했습니다. 

해당 기술은 원본 이미지에 육안으로 구별하기 어려운 미세한 보호 신호를 적용해 AI의 합성 과정을 교란하도록 설계되었습니다. 이미 생성된 콘텐츠를 판별하는 사후 탐지와 달리, 이미지가 범죄에 악용되기 이전 단계에서 위험을 줄이려는 접근이라는 점에서 차별성이 있습니다. 

이러한 연구개발 성과는 2026년 7월 관련 기술의 특허 등록 결정으로 이어졌습니다. 

이에 앞서 4월에는 경찰청과 협업해 사이버범죄 신고시스템(ECRM)을 통해 딥페이크 사전예방 기술 체험 콘텐츠를 공개하며, 일반 이용자들이 예방 기술을 직접 경험할 수 있는 기회도 마련했습니다. 

기술에 대한 신뢰는 안전성을 강조하는 선언이 아니라, 실제 위험을 줄이기 위한 연구개발과 구체적인 예방 수단을 통해 쌓입니다. 

② 공공기관 협력 : 불법 콘텐츠 유통 구조 분석 

디지털 범죄 대응은 개별 콘텐츠의 삭제나 사이트 차단만으로 끝나지 않습니다. 일부 불법 사이트는 도메인이나 서버를 변경해 다시 등장하기 때문에, 유통을 가능하게 하는 운영 구조까지 파악하는 것이 중요합니다. 

라바웨이브는 2026년 8월 성평등가족부와 '디지털성범죄 관련 불법 유해사이트 심층 분석 연구' 계약을 체결했습니다. 

이번 연구는 약 3만 4,000개 불법·유해사이트를 대상으로 도메인, 서버, 광고 네트워크, 결제 방식 등을 교차 분석해 사이트 간 연관관계와 운영·수익화 구조를 파악하는 데 목적이 있습니다. 

이를 통해 확보할 분석 자료는 향후 불법 콘텐츠 삭제 지원, 접속 차단 요청, 수사 의뢰 및 국제공조 연계 등 후속 대응의 기초 자료로 활용하는 것을 목표로 합니다. 

개별 사이트를 발견하고 조치하는 것을 넘어, 불법 유통이 반복되는 구조를 이해하고 체계적인 대응을 위한 기술적 근거를 확보하는 과정이라는 점에서 의미가 있습니다. 

딥페이크 사전예방 기술이 콘텐츠의 악의적인 생성 위험을 줄이기 위한 접근이라면, 불법 유해사이트 분석 연구는 콘텐츠가 반복적으로 유통되는 환경을 파악하기 위한 접근입니다. 

라바웨이브는 이처럼 서로 다른 기술적 과제에 대응하며, 디지털 범죄 예방부터 불법 유통 구조 분석까지 연구 영역을 넓혀가고 있습니다. 

기술을 넘어 신뢰로, 라바웨이브가 만들어갈 디지털 안전의 미래 

이번 'AI+X CONFERENCE 2026'은 라바웨이브가 디지털 범죄 대응 현장에서 축적해 온 경험과 기술적 관점을 AI 산업의 주요 논의 현장에서 공유하는 뜻깊은 자리였습니다. AI 기술이 새로운 가능성을 열어가는 만큼, 이를 악용한 위험에 대응하는 기술 역시 끊임없이 발전해야 합니다. 

라바웨이브는 앞으로도 기술 연구개발과 공공 협력을 바탕으로 디지털 범죄의 위험을 줄이고, 누구나 안전하게 기술을 활용할 수 있는 환경을 만들어 나가겠습니다. 

기술의 중심에 사람이 있어야 한다는 원칙. 

그것이 라바웨이브가 AI 시대에 만들어가고자 하는 신뢰의 가치입니다.