디지털 범죄 대응 전문기업 라바웨이브(대표 김준엽)가 최근 의회정책아카데미(이사장 민상기)와 몸캠피싱·딥페이크 등 디지털 범죄 피해자 보호 정책 연구 및 개선을 위한 업무협약(MOU)을 체결했다고 14일 밝혔다. 라바웨이브에 따르면 최근 디지털 성범죄가 급증하고 있지만 현행 법과 제도로는 피해자 보호에 한계가 있다. 특히 피해 영상이 한 번 유출되면 재유포되는 경우가 많아 피해가 커지고 있다. 피해자의 피해 회복과 일상 복귀를 위해 법적·기술적 대응 체계 마련이 시급한 과제로 떠올랐다고 라바웨이브 관계자는 말했다. 라바웨이브와 의회정책아카데미는 이번 MOU로 △디지털 범죄 피해자 보호 법·제도 개선 △피해자 경제적·제도적 지원책 마련 △디지털 범죄 유형별 정책 연구 △법률·기술 융합 피해자 지원 시스템 구축 등에서 협력할 계획이다. 라바웨이브는 불법 촬영물과 딥페이크 탐지·삭제 지원 서비스를 제공하는 기술적 영역에서, 의회정책아카데미는 법률·정책 연구 자료와 입법 지원 네트워크를 결합한 정책적 영역에서 피해자 보호 방안을 마련하는 데 주력할 예정이다. 김준엽 라바웨이브 대표는 "디지털 범죄는 기술적 대응만으로는 한계가 있어 법적·제도적 지원이 꼭 필요하다"며 "의회정책아카데미와 협력해 피해자 보호 방안을 마련하고 실질적인 성과로 이어지도록 최선을 다하겠다"고 말했다. 민상기 의회정책아카데미 이사장은 "법적·정책적 접근과 기술 지원이 동시에 이뤄져야 피해자를 효과적으로 지원할 수 있다"며 "실효성 있는 정책과 제도 개선안을 제안하고 입법화해 피해자 보호에 앞장서겠다"고 했다. 양측은 앞으로 실무 협의와 공동 연구, 토론회 개최 등으로 디지털 범죄 예방과 피해자 보호를 위한 정책 연구 및 제도 개선 활동을 이어갈 방침이다.&nbsp;<a href="https://n.news.naver.com/mnews/article/008/0005166003?sid=101">라바웨이브·의회정책아카데미, 디지털 범죄 대응 정책 연구 MOU</a><a href="https://n.news.naver.com/mnews/article/008/0005166003?sid=101">-기사 원문 보기</a>&nbsp;ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.Create a Secure Cyberspace for Everyone

이성민

몸캠피싱·딥페이크 등 디지털 범죄 피해자 보호 정책 연구 및 개선을 위한 업무협약(MOU) 체결

[머니투데이] 라바웨이브·의회정책아카데미, 디지털 범죄 대응 정책 연구 MOU

'노출 이미지' 합성 사이트 버젓이 활개…"성인 인증도 없어"&nbsp;[앵커]가해 중학생들이 사용한 프로그램은 온라인에서 쉽게 검색되는 AI 딥페이크 사이트였습니다.&nbsp;누구나 손쉽게 접근할 수 있습니다.&nbsp;정부가 접속 차단에 나섰지만 새로 만들어지는 속도를 따라가지 못하고 있습니다.김서하 기자입니다.&nbsp;[기자]가해 학생들은 인터넷 검색으로 찾은 AI 딥페이크 사이트를 이용했습니다. ADVERTISEMENT 직접 검색해 보니 비슷한 사이트가 줄줄이 나옵니다.한 사이트는 접속이 차단돼 있지만 바로 아래 사이트는 접속돼 선정적인 사진이 뜹니다.별도의 성인 인증도 없이 딥페이크 합성 기능을 이용할 수 있습니다.취재진은 바로 방송미디어통신심의위원회에 신고했습니다.&nbsp;[방송미디어통신심의위원회 관계자 : 인지를 저희가 그동안 못해서…이거는 딱 봐도 문제가 있는 사이트이고 조치가 되도록 저희가 좀 확인을 해보겠습니다.]&nbsp;피해자가 명확히 확인된 성착취물을 우선하다 보니 딥페이크 사이트를 선제적으로 찾아내는 데는 한계가 있습니다.그사이 새로운 딥페이크 사이트가 계속 생기고 있습니다.이 사이트에 제 사진을 직접 넣어보겠습니다.사진을 넣고 버튼을 누르자 20초 만에 옷차림이 바뀐 이미지가 만들어집니다.나체 이미지 등 음란물 생성은 차단돼 있다고 하지만 우회하는 기술 역시 거래되고 있습니다.&nbsp;[김준엽/디지털 범죄 대응기업 '라바웨이브' 대표 : (AI는) 안전 정책 필터 때문에 안 만들어 주니까 이미 그런 필터가 해제되어 있는 딥누드들이 한꺼번에 다 세팅이 끝나 있는 사이트 템플릿들을 판매를 또 하기도 하거든요.]&nbsp;이미 만들어진 걸 찾아 지우고 차단하는 방식은 한계가 있습니다.대형 플랫폼과 AI제작사가 스스로 유통을 막도록 제도화하는 게 급합니다.이와 별개로 전문가들은 AI 음란물 제작 행위가 학교 친구의 삶을 무너뜨리고 자신도 강력한 형사처벌로 씻을 수 없는 상처를 입게 된다는 분명한 사실을 어린 시절부터 교육해야 한다고 강조합니다.&nbsp;[영상취재 방극철 조용희 영상편집 유형도] <a href="https://news.jtbc.co.kr/article/NB12310763">-기사 원문 보기</a>&nbsp;ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.Create a Secure Cyberspace for Everyone

가해 중학생들이 사용한 프로그램은 온라인에서 쉽게 검색되는 AI 딥페이크 사이트였습니다. 

JTBC 보도에서도 소개된 라바웨이브의 디지털 범죄 대응 전문성

[이코노미스트 원태영 기자]어느 날 갑자기 화면 속 지인이 내게 말을 건다.&nbsp;&nbsp;목소리도, 미세한 표정도 평소와 다름없지만 그 정체는 인공지능(AI)이 만든 가짜 ‘딥페이크’(Deepfake)다. 영화 속 이야기가 아니다. 지금 이 순간에도 누군가의 일상을 무너뜨리고 있는 디지털 피싱의 현주소다. 과거의 피싱이 어설픈 말투와 조잡한 이미지로 ‘운 좋게’ 걸려들 피해자를 기다렸다면, 이제는 AI라는 강력한 엔진을 달고 정교한 타겟팅 공격을 퍼붓고 있다. 기술이 발전할수록 범죄의 가성비는 좋아지고 피해자의 절망은 깊어지는 역설적인 시대. 디지털 범죄 대응 전문 기업 ‘라바웨이브’의 시각을 통해 우리가 마주한 위협과 생존 전략을 짚어봤다. 전통적인 보안 업계의 화두는 늘 ‘어떻게 막을 것인가’였다. 하지만 라바웨이브의 시각은 다르다.&nbsp;‘공격자가 뚫지 못하는 방어는 없다’는 냉정한 현실 인식에서 출발한다. &nbsp;공격자가 뚫지 못하는 방어는 없다 김준엽 라바웨이브 대표는 “완벽한 방어를 ‘절대 뚫리지 않는 상태’로 정의하는 것은 환상에 가깝다”며 “진정한 의미의 완벽한 방어란 침해를 즉시 알아차리고 확산을 막아 피해를 최소화하며, 복구까지 이어지는 구조를 갖추는 것”이라고 강조한다. 특히 ‘몸캠피싱’이나 디지털 성범죄처럼 1분 1초가 피해 규모를 결정짓는 사건의 경우, 예방만큼이나 중요한 것이 ‘즉시 대응’이라는 설명이다. 보안이 사고를 막는 성벽이라면, 대응은 사고 발생 시 피해자를 구출하고 불을 끄는 소방관의 역할인 셈이다.&nbsp;최근 디지털 범죄가 급증하는 근본적인 원인은 ‘생산성의 비약적 향상’에 있다. 과거에는 전문 해커나 숙련된 범죄자가 수작업으로 진행해야 했던 과정들이 이제는 생성형 AI를 통해 자동화되고 있다. 김 대표는 “요즘은 공격 자체가 더 영리해졌다기보다, 범죄의 생산성이 훨씬 높아졌다고 보는 게 맞다”며 “예전에는 사람이 오래 붙어서 작업해야 했던 ▲피싱 문구 작성 ▲피해자 맞춤형 시나리오 구성 ▲다국어 번역 ▲이미지·음성 위조 ▲상담형 유도 대화 같은 과정이 AI로 훨씬 빨라졌다”고 설명했다. 그는 “특히 생성형 AI는 범죄자 입장에서 진입장벽을 크게 낮췄다”며 “전문성이 조금 부족해도 그럴듯한 메시지와 콘텐츠를 대량으로 만들 수 있게 됐다. 무서운 건 정교함 자체보다, 이 모든 과정이 ‘대량화’되고 있다는 점”이라고 덧붙였다. 딥페이크 범죄를 100% 가려내는 것은 현재 기술적으로 불가능에 가깝다는 것이 중론이다. 탐지 기술이 나오면 이를 우회하는 기술이 곧바로 뒤따르기 때문이다. 라바웨이브가 카이스트 사이버보안연구센터와 공동 개발한 ‘딥페이크 원천 예방 기술’에 주목하는 이유가 여기에 있다. 딥페이크 원천 예방 기술은 사람의 눈으로는 인지할 수 없는 수준의 미세한 방해 요소(노이즈)를 원본 이미지에 추가해 일반 사용자가 볼 때는 차이를 느낄 수 없지만 AI 모델에게는 치명적인 혼란을 일으켜 딥페이크 생성을 못 하도록 설계됐다. 이렇게 보호 처리된 이미지를 생성형 AI가 학습하거나 변환하려 할 경우, 결과물은 심각하게 왜곡되거나 콘텐츠로서의 기능을 상실해 딥페이크 제작 자체가 불가능해진다. 이 기술은 사후 탐지 중심이었던 대응을 한 단계 앞당겼다는 데 있다. 김 대표는 “그동안 유포된 뒤에 진위 여부를 가려내는 데 시간과 비용이 많이 들었다면, 이 기술을 통해 피해자는 ‘내가 피해자라는 사실’을 뒤늦게 증명하느라 시간을 소모하지 않아도 되고, 플랫폼이나 수사기관도 판단 속도를 높일 수 있다”며 “범죄자는 늘 검증이 늦는 지점을 노리는데, 그 약점을 줄여주는 기술이라는 점에서 충분히 판을 바꿀 수 있다고 생각한다. 결국 탐지보다 한 발 앞선 예방은 범죄자의 성공 확률 자체를 떨어뜨린다”고 설명했다. 딥페이크 원천 예방 기술 선보여 물론 범죄자의 서버를 추적하는 과정은 결코 녹록지 않다. 해커들은 프록시 서버를 경유하고 인프라를 잘게 쪼개 흔적을 지운다. 여기서 AI는 흩어진 ‘약한 신호’들을 연결해 하나의 그림을 완성하는 역할을 한다. ▲비슷한 운영 패턴 ▲재사용된 인프라 흔적 ▲유사한 이동 경로를 먼저 묶어주면 사람이 훨씬 빠르게 핵심 포인트를 짚을 수 있다. 하지만 기술력만으로는 한계가 있다. 정책과 연구가 현장의 범죄 속도를 따라잡지 못하면 범죄자는 늘 한발 앞서가게 된다. 김 대표는 “▲지금 실제로 어떤 수법이 먹히고 있는지 ▲어디서 피해가 급증하는지 ▲수사기관과 기업이 어느 지점에서 막히는지를 빠르게 구조화해서 연구와 제도로 연결해야 한다”고 밝혔다. AI 시대에 인간이 보안의 가장 약한 고리가 되지 않기 위해 여러 기술적 보조 장치가 필요하다는 의견도 나온다. 사람은 늘 바쁘고 피곤하고 순간적으로 속을 수 있기 때문이다.&nbsp; 김 대표는 “실제 의사결정 순간에 개입하는 보조 장치가 필요하다. 예를 들어 ▲위험도가 높은 통화나 메시지에 대한 실시간 경고 ▲금전 이체 직전의 지연과 재확인 ▲별도 채널을 통한 본인 검증 ▲권한 분리 같은 장치들이 기본값이 돼야 한다”며 “보안은 사람에게 ‘더 조심하라’고 요구하는 방식보다 사람이 실수해도 큰 사고로 이어지지 않게 설계하는 방식으로 가야 한다. AI 시대일수록 인간을 탓하는 보안은 한계가 더 빨리 드러날 것”이라고 강조했다.&nbsp; 라바웨이브가 경고하는 미래의 위협은 더욱 서늘하다. 바로 ‘합성 정체성’ 기반의 실시간 사칭이다. 단순히 가짜 영상 한 편을 보내는 수준을 넘어, 목소리·말투·관계 정보를 학습한 AI 에이전트가 실시간으로 대화하며 피해자를 속이는 방식이다. 이러한 범죄는 시스템의 취약점이 아닌 ‘인간의 신뢰’ 체계 자체를 무너뜨린다. 김 대표는 “앞으로의 보안은 시스템을 지키는 일만큼이나, ‘지금 내가 믿고 있는 상대가 진짜인가’를 검증하는 일이 훨씬 중요해질 것”이라고 전망했다. 디지털 범죄는 이제 개인의 주의력만으로 막을 수 있는 임계점을 넘었다. ▲정책 ▲연구 ▲현장의 대응 기술이 하나로 맞물릴 때 비로소 우리는 AI가 주는 편리함을 온전히 누릴 자격을 얻게 될 것이다. 한편 라바웨이브는 리얼미터와 함께 딥페이크 기술을 악용해 2026 지방선거 후보자에 대한 악의적 불법 콘텐츠를 탐지하는 솔루션을 제공함으로써 후보자에게는 허위·비방 콘텐츠로부터 공정한 선거가, 유권자에게는 안전한 정보를 바탕으로 투표권 행사가 가능하도록 할 계획이다.<a href="https://economist.co.kr/article/view/ecn202603180061">-기사 원문 보기</a>&nbsp;ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.Create a Secure Cyberspace for Everyone &nbsp;&nbsp;

생성형 AI로 진입장벽 낮아진 디지털 피싱…‘대량생산’되는 범죄 공포

개인도 안심하긴 이르다…진화하는 디지털 피싱 범죄

올해로 12회째를 맞는 ‘이코노미스트 테크 포럼’이 24일 오후 서울 중구 명동 ‘커뮤니티하우스 마실’에서 열렸다. 두번째 연사로 나온 김준엽 라바웨이브 대표가 ‘공격자 관점에서 본 AI 시대 보안의 실제 사각지대'에 대해 강연을 하고 있다. 이코노미스트가 주최하는 이번 테크 포럼(Tech Forum)은 ‘AI 시대의 새로운 보안 패러다임’이라는 주제로 AI 도입과 데이터 활용 증가로 인해 발생하는 새로운 형태의 보안 취약점을 점검하고 기존의 경계 기반 방어 모델을 넘어선 차세대 보안 솔루션을 논의하기 위해 기획됐다. <a href="https://economist.co.kr/article/view/ecn202603240063">-기사 원문 보기</a>&nbsp;ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.Create a Secure Cyberspace for Everyone &nbsp;