올해로 12회째를 맞는 ‘이코노미스트 테크 포럼’이 24일 오후 서울 중구 명동 ‘커뮤니티하우스 마실’에서 열렸다. 두번째 연사로 나온 김준엽 라바웨이브 대표가 ‘공격자 관점에서 본 AI 시대 보안의 실제 사각지대'에 대해 강연을 하고 있다. 이코노미스트가 주최하는 이번 테크 포럼(Tech Forum)은 ‘AI 시대의 새로운 보안 패러다임’이라는 주제로 AI 도입과 데이터 활용 증가로 인해 발생하는 새로운 형태의 보안 취약점을 점검하고 기존의 경계 기반 방어 모델을 넘어선 차세대 보안 솔루션을 논의하기 위해 기획됐다. <a href="https://economist.co.kr/article/view/ecn202603240063">-기사 원문 보기</a>&nbsp;ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.Create a Secure Cyberspace for Everyone &nbsp;

문애란

‘공격자 관점에서 본 AI 시대 보안의 실제 사각지대'에 대해 강연

김준엽 대표, 공격자 관점에서 본 AI 시대 보안의 문제점은?

'노출 이미지' 합성 사이트 버젓이 활개…"성인 인증도 없어"&nbsp;[앵커]가해 중학생들이 사용한 프로그램은 온라인에서 쉽게 검색되는 AI 딥페이크 사이트였습니다.&nbsp;누구나 손쉽게 접근할 수 있습니다.&nbsp;정부가 접속 차단에 나섰지만 새로 만들어지는 속도를 따라가지 못하고 있습니다.김서하 기자입니다.&nbsp;[기자]가해 학생들은 인터넷 검색으로 찾은 AI 딥페이크 사이트를 이용했습니다. ADVERTISEMENT 직접 검색해 보니 비슷한 사이트가 줄줄이 나옵니다.한 사이트는 접속이 차단돼 있지만 바로 아래 사이트는 접속돼 선정적인 사진이 뜹니다.별도의 성인 인증도 없이 딥페이크 합성 기능을 이용할 수 있습니다.취재진은 바로 방송미디어통신심의위원회에 신고했습니다.&nbsp;[방송미디어통신심의위원회 관계자 : 인지를 저희가 그동안 못해서…이거는 딱 봐도 문제가 있는 사이트이고 조치가 되도록 저희가 좀 확인을 해보겠습니다.]&nbsp;피해자가 명확히 확인된 성착취물을 우선하다 보니 딥페이크 사이트를 선제적으로 찾아내는 데는 한계가 있습니다.그사이 새로운 딥페이크 사이트가 계속 생기고 있습니다.이 사이트에 제 사진을 직접 넣어보겠습니다.사진을 넣고 버튼을 누르자 20초 만에 옷차림이 바뀐 이미지가 만들어집니다.나체 이미지 등 음란물 생성은 차단돼 있다고 하지만 우회하는 기술 역시 거래되고 있습니다.&nbsp;[김준엽/디지털 범죄 대응기업 '라바웨이브' 대표 : (AI는) 안전 정책 필터 때문에 안 만들어 주니까 이미 그런 필터가 해제되어 있는 딥누드들이 한꺼번에 다 세팅이 끝나 있는 사이트 템플릿들을 판매를 또 하기도 하거든요.]&nbsp;이미 만들어진 걸 찾아 지우고 차단하는 방식은 한계가 있습니다.대형 플랫폼과 AI제작사가 스스로 유통을 막도록 제도화하는 게 급합니다.이와 별개로 전문가들은 AI 음란물 제작 행위가 학교 친구의 삶을 무너뜨리고 자신도 강력한 형사처벌로 씻을 수 없는 상처를 입게 된다는 분명한 사실을 어린 시절부터 교육해야 한다고 강조합니다.&nbsp;[영상취재 방극철 조용희 영상편집 유형도] <a href="https://news.jtbc.co.kr/article/NB12310763">-기사 원문 보기</a>&nbsp;ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.Create a Secure Cyberspace for Everyone

가해 중학생들이 사용한 프로그램은 온라인에서 쉽게 검색되는 AI 딥페이크 사이트였습니다. 

JTBC 보도에서도 소개된 라바웨이브의 디지털 범죄 대응 전문성

[이코노미스트 원태영 기자]어느 날 갑자기 화면 속 지인이 내게 말을 건다.&nbsp;&nbsp;목소리도, 미세한 표정도 평소와 다름없지만 그 정체는 인공지능(AI)이 만든 가짜 ‘딥페이크’(Deepfake)다. 영화 속 이야기가 아니다. 지금 이 순간에도 누군가의 일상을 무너뜨리고 있는 디지털 피싱의 현주소다. 과거의 피싱이 어설픈 말투와 조잡한 이미지로 ‘운 좋게’ 걸려들 피해자를 기다렸다면, 이제는 AI라는 강력한 엔진을 달고 정교한 타겟팅 공격을 퍼붓고 있다. 기술이 발전할수록 범죄의 가성비는 좋아지고 피해자의 절망은 깊어지는 역설적인 시대. 디지털 범죄 대응 전문 기업 ‘라바웨이브’의 시각을 통해 우리가 마주한 위협과 생존 전략을 짚어봤다. 전통적인 보안 업계의 화두는 늘 ‘어떻게 막을 것인가’였다. 하지만 라바웨이브의 시각은 다르다.&nbsp;‘공격자가 뚫지 못하는 방어는 없다’는 냉정한 현실 인식에서 출발한다. &nbsp;공격자가 뚫지 못하는 방어는 없다 김준엽 라바웨이브 대표는 “완벽한 방어를 ‘절대 뚫리지 않는 상태’로 정의하는 것은 환상에 가깝다”며 “진정한 의미의 완벽한 방어란 침해를 즉시 알아차리고 확산을 막아 피해를 최소화하며, 복구까지 이어지는 구조를 갖추는 것”이라고 강조한다. 특히 ‘몸캠피싱’이나 디지털 성범죄처럼 1분 1초가 피해 규모를 결정짓는 사건의 경우, 예방만큼이나 중요한 것이 ‘즉시 대응’이라는 설명이다. 보안이 사고를 막는 성벽이라면, 대응은 사고 발생 시 피해자를 구출하고 불을 끄는 소방관의 역할인 셈이다.&nbsp;최근 디지털 범죄가 급증하는 근본적인 원인은 ‘생산성의 비약적 향상’에 있다. 과거에는 전문 해커나 숙련된 범죄자가 수작업으로 진행해야 했던 과정들이 이제는 생성형 AI를 통해 자동화되고 있다. 김 대표는 “요즘은 공격 자체가 더 영리해졌다기보다, 범죄의 생산성이 훨씬 높아졌다고 보는 게 맞다”며 “예전에는 사람이 오래 붙어서 작업해야 했던 ▲피싱 문구 작성 ▲피해자 맞춤형 시나리오 구성 ▲다국어 번역 ▲이미지·음성 위조 ▲상담형 유도 대화 같은 과정이 AI로 훨씬 빨라졌다”고 설명했다. 그는 “특히 생성형 AI는 범죄자 입장에서 진입장벽을 크게 낮췄다”며 “전문성이 조금 부족해도 그럴듯한 메시지와 콘텐츠를 대량으로 만들 수 있게 됐다. 무서운 건 정교함 자체보다, 이 모든 과정이 ‘대량화’되고 있다는 점”이라고 덧붙였다. 딥페이크 범죄를 100% 가려내는 것은 현재 기술적으로 불가능에 가깝다는 것이 중론이다. 탐지 기술이 나오면 이를 우회하는 기술이 곧바로 뒤따르기 때문이다. 라바웨이브가 카이스트 사이버보안연구센터와 공동 개발한 ‘딥페이크 원천 예방 기술’에 주목하는 이유가 여기에 있다. 딥페이크 원천 예방 기술은 사람의 눈으로는 인지할 수 없는 수준의 미세한 방해 요소(노이즈)를 원본 이미지에 추가해 일반 사용자가 볼 때는 차이를 느낄 수 없지만 AI 모델에게는 치명적인 혼란을 일으켜 딥페이크 생성을 못 하도록 설계됐다. 이렇게 보호 처리된 이미지를 생성형 AI가 학습하거나 변환하려 할 경우, 결과물은 심각하게 왜곡되거나 콘텐츠로서의 기능을 상실해 딥페이크 제작 자체가 불가능해진다. 이 기술은 사후 탐지 중심이었던 대응을 한 단계 앞당겼다는 데 있다. 김 대표는 “그동안 유포된 뒤에 진위 여부를 가려내는 데 시간과 비용이 많이 들었다면, 이 기술을 통해 피해자는 ‘내가 피해자라는 사실’을 뒤늦게 증명하느라 시간을 소모하지 않아도 되고, 플랫폼이나 수사기관도 판단 속도를 높일 수 있다”며 “범죄자는 늘 검증이 늦는 지점을 노리는데, 그 약점을 줄여주는 기술이라는 점에서 충분히 판을 바꿀 수 있다고 생각한다. 결국 탐지보다 한 발 앞선 예방은 범죄자의 성공 확률 자체를 떨어뜨린다”고 설명했다. 딥페이크 원천 예방 기술 선보여 물론 범죄자의 서버를 추적하는 과정은 결코 녹록지 않다. 해커들은 프록시 서버를 경유하고 인프라를 잘게 쪼개 흔적을 지운다. 여기서 AI는 흩어진 ‘약한 신호’들을 연결해 하나의 그림을 완성하는 역할을 한다. ▲비슷한 운영 패턴 ▲재사용된 인프라 흔적 ▲유사한 이동 경로를 먼저 묶어주면 사람이 훨씬 빠르게 핵심 포인트를 짚을 수 있다. 하지만 기술력만으로는 한계가 있다. 정책과 연구가 현장의 범죄 속도를 따라잡지 못하면 범죄자는 늘 한발 앞서가게 된다. 김 대표는 “▲지금 실제로 어떤 수법이 먹히고 있는지 ▲어디서 피해가 급증하는지 ▲수사기관과 기업이 어느 지점에서 막히는지를 빠르게 구조화해서 연구와 제도로 연결해야 한다”고 밝혔다. AI 시대에 인간이 보안의 가장 약한 고리가 되지 않기 위해 여러 기술적 보조 장치가 필요하다는 의견도 나온다. 사람은 늘 바쁘고 피곤하고 순간적으로 속을 수 있기 때문이다.&nbsp; 김 대표는 “실제 의사결정 순간에 개입하는 보조 장치가 필요하다. 예를 들어 ▲위험도가 높은 통화나 메시지에 대한 실시간 경고 ▲금전 이체 직전의 지연과 재확인 ▲별도 채널을 통한 본인 검증 ▲권한 분리 같은 장치들이 기본값이 돼야 한다”며 “보안은 사람에게 ‘더 조심하라’고 요구하는 방식보다 사람이 실수해도 큰 사고로 이어지지 않게 설계하는 방식으로 가야 한다. AI 시대일수록 인간을 탓하는 보안은 한계가 더 빨리 드러날 것”이라고 강조했다.&nbsp; 라바웨이브가 경고하는 미래의 위협은 더욱 서늘하다. 바로 ‘합성 정체성’ 기반의 실시간 사칭이다. 단순히 가짜 영상 한 편을 보내는 수준을 넘어, 목소리·말투·관계 정보를 학습한 AI 에이전트가 실시간으로 대화하며 피해자를 속이는 방식이다. 이러한 범죄는 시스템의 취약점이 아닌 ‘인간의 신뢰’ 체계 자체를 무너뜨린다. 김 대표는 “앞으로의 보안은 시스템을 지키는 일만큼이나, ‘지금 내가 믿고 있는 상대가 진짜인가’를 검증하는 일이 훨씬 중요해질 것”이라고 전망했다. 디지털 범죄는 이제 개인의 주의력만으로 막을 수 있는 임계점을 넘었다. ▲정책 ▲연구 ▲현장의 대응 기술이 하나로 맞물릴 때 비로소 우리는 AI가 주는 편리함을 온전히 누릴 자격을 얻게 될 것이다. 한편 라바웨이브는 리얼미터와 함께 딥페이크 기술을 악용해 2026 지방선거 후보자에 대한 악의적 불법 콘텐츠를 탐지하는 솔루션을 제공함으로써 후보자에게는 허위·비방 콘텐츠로부터 공정한 선거가, 유권자에게는 안전한 정보를 바탕으로 투표권 행사가 가능하도록 할 계획이다.<a href="https://economist.co.kr/article/view/ecn202603180061">-기사 원문 보기</a>&nbsp;ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.Create a Secure Cyberspace for Everyone &nbsp;&nbsp;

생성형 AI로 진입장벽 낮아진 디지털 피싱…‘대량생산’되는 범죄 공포

개인도 안심하긴 이르다…진화하는 디지털 피싱 범죄

<h2>&nbsp;</h2><h2>정부, 보이스피싱 비대면 지급정지·피해구제 신청 프로세스 도입 보이스피싱, 신고 즉시 지급정지 가능…몸캠피싱은 사법절차로 '골든타임' 놓쳐</h2>&nbsp;(서울=뉴스1) 이철 기자 = 보이스피싱으로 억울하게 계좌가 지급정지된 피해자가 비대면으로 피해구제와 이의신청을 할 수 있게 된 가운데, '몸캠피싱' 범죄 피해자에게도 이같은 구제 정책이 적용돼야 한다는 지적이 나왔다.&nbsp;6일 디지털 범죄 대응 기업 라바웨이브에 따르면, 최근 금융감독원은 보이스피싱 피해자가 은행 영업점을 방문하지 않고도 모바일 앱으로 지급정지와 피해구제 신청 서류를 제출할 수 있도록 금융권 업무 프로세스를 개선했다.몸캠피싱 범죄은 데이팅 앱과 랜덤채팅으로 가해자가 접근해 영상통화를 유도하고 '화질 개선'을 명목으로 악성 앱 설치를 유도한다.이후 신체 영상, 이미지와 지인 연락처를 탈취해 유포한다는 협박을 통해 금전을 갈취하는 전형적인 전기통신금융사기에 해당하는 범죄다.그러나 정부의 이번 발표에는 '중고거래 사기, 몸캠 피싱 등 보이스피싱이 아닌 다른 범죄 피해는 이번 비대면 신청 대상이 아니다'라는 단서가 붙어 신체 영상 유포 협박으로 금전 갈취를 당하는 몸캠피싱 피해자가 제외됐다는 것이 회사 측의 지적이다.&nbsp;현행 '전기통신금융사기 피해 방지 및 피해금 환급에 관한 특별법'(통신사기피해환급법)은 사기이용계좌에 대한 즉각적 지급정지와 피해금 환급 절차를 규정하는 국내 유일한 특별법이다.다만 적용 대상이 보이스피싱에 한정돼 있고 '재화의 공급 또는 용역의 제공을 가장한 행위'는 원칙적으로 제외하도록 규정돼 있다.몸캠피싱은 피해자가 스스로 송금 버튼을 눌렀다는 이유로 '개인 간 상거래 분쟁' 또는 '재화·용역 거래를 가장한 사기'로 분류돼 지급정지 대상에서 배제된다.전문가들은 지급정지 제도의 적용 대상이 15년째 보이스피싱에 한정돼 있어 진화하는 사기 수법을 법이 따라가지 못해 피해 구제의 골든타임을 놓친다고 우려했다.특히 현행법에서는 몸캠피싱을 당하더라도 피해자 지위가 인정되지 않는다. 이에 따라 피해자가 은행에 지급정지를 요청해도 시중 은행은 '보이스피싱이 아니므로 조치할 수 없다'고 거부하게 된다. 그 사이 피해금은 대포통장을 거쳐 가상자산·해외계좌로 이미 세탁돼 구제 가능성은 희박해진다.&nbsp;결국 보이스피싱은 신고 즉시 지급정지가 가능하지만, 몸캠피싱은 형사 고소, 수사 착수, 계좌추적 영장 등 사법절차를 진행해야 계좌 동결이 가능하다.또 몸캠피싱 피해자는 신체 영상 유포 공포로 인해 신고 자체를 지연·포기하는 경향이 뚜렷하다. 실제로 몸캠피싱은 국내에서 피해자의 극단적 선택으로 이어진 사례가 다수 보고된 범죄임에도 법은 이를 '금융사기'로 다루지 않고 '개별 협박·공갈' 사건으로만 취급한다.김준엽 라바웨이브 대표는 "영상 유포 협박이라는 극심한 공포 속에서 금전적 피해까지 겪는 피해자들에게 피해 회복의 제도적 통로를 마련하는 것은 매우 현실적이고 시급한 조치"라며 "몸캠피싱 범죄에 이용되는 대포계좌의 무분별한 발급에 대한 책임지는 자세 없이 개정안 통과에 반대하는 금융권이 변화해야 한다"고 촉구했다.<a href="https://www.news1.kr/industry/distribution/6218800">-기사 원문 보기</a>&nbsp;ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.Create a Secure Cyberspace for Everyone &nbsp;