플랜티넷, '딥페이크 성범죄' AI기반 실시간 차단기술 ㆍ플랜티넷의 주가가주식시장에서 연일 강세를 기록 중이다. 딥페이크 성범죄가 기승을 부리는 가운데 경찰이 국민 불안을 불식시키고자 특별 집중 단속에 들어간다는 소식이 전해진 영향으로 풀이된다.
인터넷 유해 콘텐츠 차단기술기업 플랜티넷은 2020년 NSHC와 손잡고 '제2의 n번방 재발방지 기술'을 공동개발 업무협약을 체결한 사실이 있다. 플랜티넷은 AI 기반 유해 동영상 실시간 차단 기술과, 텔레그램ㆍ카카오톡 등 메신저 유해링크 차단 기술, 랜덤채팅 앱 차단 기술 등을 활용해 NSHC와 함께 불법 콘텐츠 유통문제를 해결하는 데 힘을 모으고 있다.
28일 주식시장과 경찰청 국가수사본부에 따르면 이날부터 내년 3월 31일까지 7개월간 딥페이크 성범죄 관련 특별 집중 단속을 실시한다. 딥페이크란 딥러닝(Deep Learning)과 '가짜'를 의미하는 페이크(Fake)의 합성어로 기존 사진ㆍ영상을 다른 사진ㆍ영상에 겹쳐서 만들어 내는 인공지능(AI)을기반으로 한 이미지 합성기술을 의미한다.
딥페이크 성범죄 발생 건수는 2021년 156건에서 2022년 160건, 2023년 180건, 2024년(7월 기준) 297건으로 크게 증가하는 추세다. 특히 일부 누리소통망에서는 참여자들끼리 특정 지인을 대상으로 한 허위영상물을 공유하는 이른바 '겹지방'이 성행하는 등 시간이 흐를수록 범행 수법이 구체화·체계화되는 상황이다.
이에 경찰은 시ㆍ도경찰청 사이버성폭력수사팀을 중심으로 딥페이크 제작부터 유포까지 철저히 추적, 검거함으로써 피의자 등을 발본색원할 방침이다. 또한 경찰청은 시ㆍ도경찰청과 긴밀히 협업하는 가운데 ▲딥페이크 탐지 소프트웨어를 활용한 분석 ▲국제공조 등 수사에 필요한 사항을 적극 지원한다.
딥페이크 대상이 아동ㆍ청소년일 경우 청소년성보호법을 적용하여 더욱 엄격하게 대응할 방침이다. 국수본은 "합성을 위해 고도의 기술이 필요했던 과거와 달리 인공지능기술 발전과 함께 이제 는 누구나 인터넷 검색만으로 딥페이크봇 등에 접속해 허위영상물등을 제작할 수 있다"며 "이에 따라 지인이나유명인의 일상사진이나 영상을 대상으로 나체사진을 합성하는 등 딥페이크 성범죄의 위협이 크게 증대되고 있다"고 설명했다.
그러면서 "딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄"라며 "국민의 적극적인 신고·제보를 당부드린다"고 강조했다.
이러한 소식이 전해지며 인터넷 유해 콘텐츠 차단기술기업 플랜티넷이 주목을 받고 있다. 플랜티넷은 2020년 NSHC와 손잡고 제2의 'n번방' 재발방지 기술을 공동개발하는 협약을 체결한 사실이 있다.
플랜티넷이 개발한 AI 기반 유해 동영상 실시간 차단 기술과, 텔레그램·카카오톡 등메신저 유해 링크 차단 기술, 랜덤채팅 앱 차단 기술 등을 활용한다.
무엇보다 n번방의 텔레그램 가입과 내부 자료 유통이 다크웹을 통해 이뤄진 점을 포착하고 각 사가 보유한 다크웹 관련 핵심 기술과 역량을 최대한 개방ㆍ활용해 관련 필터링 솔루션을 만드는 데 전방위적으로 협력하기로 했다.
플랜티넷, 국내 최초 텔레그램 등 유해콘텐츠 차단…경찰 유관기관과 협업 논의 중
국내 최초 텔레그램 등 소셜미디어(SNS)를 비롯한 인터넷망을 통한 유해 콘텐츠 차단 서비스를 제공하고 있는 플랜티넷이 경찰 유관기관과 협업을 논의 중인 것으로 확인됐다.
플랜티넷은 유해 콘텐츠를 판별하고 차단할 수 있는 플랫폼 구축을 위한 협업을 논의 중으로 지난해 경찰대와 차세대 치안플랫폼 개발을 위한 업무협약 이후 관련 사업의 확대를 위한 작업으로 해석된다.
28일 본지 취재를 종합하면 플랜티넷은 경찰 유관기관과 유해 콘텐츠 판별·차단 플랫폼 구축을 위한 협업을 논의 중이다.
플랜티넷 관계자는 “유해 영상이 가진 고유 특징(DNA)을 추출해 이 영상을 변형시킨 이미지나 영상을 원본과 대조해 유해 영상임을 판별하고 차단할 수 있는 기술 개발 과제를 수행 중으로 향후 경찰 유관기관과 협업을 할 예정”이라고 말했다.
최근 딥페이크를 이용해 얼굴과 신체 이미지 등을 합성한 음란물 유포 범죄가 사회적 문제로 떠올랐다. 수도권 여러 대학에서 여학생을 상대로 한 딥페이크 영상물이 텔레그램 단체 채팅방을 통해 퍼져나간 사실이 알려지며 논란이 일었다. 일부 커뮤니티에선 딥페이크 영상이 유포된 학교라며 중·고등학교 리스트가 거론되기도 했다.
사안의 심각성이 부각되며 윤석열 대통령은 27일 국무회의 모두발언에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”라며 “관계 당국에서는 철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아 주기 바란다”라고 주문했다.
여·야·정 모두 딥페이크 음란물 범죄 대응을 위한 정책 수립을 추진 중이다.
플랜티넷은 국내 최초 인터넷망을 통한 유해 사이트 필터링 서비스를 상용화한 기업으로 네트워크 차단방식의 인터넷 유해 콘텐츠차단서비스를 제공한다.
플랜티넷은 최근 ‘AI 테크랩’ 조직을 신설하고 AI 활용 유해 콘텐츠 차단 기술을 고도화하기 위한 작업에 돌입했다.
불법차단물 유포방지, 온라인그루밍 탐지(텔레그램, 카카오톡) 및 차단, 인공지능(AI) 기술 활용한 콘텐츠 판별 등을 하는 것으로 알려져 있다. 정부 기관 디지털 범죄 방지 공동연구개발기관 선정업체로서 N번방 사건 이후 매출이 증가하기도 했다.
예컨대 인터넷서비스제공자(ISP)에 유해물차단서비스를 제공 중이며, LG유플러스의 ‘자녀폰 지킴이’와 교육청 패드 보급사업에서 유해 콘텐츠 방지 솔루션인 ‘엔블락’ 등을 제공 중이다.
여기에 플랜티넷 홈페이지에 따르면, 국내 3대 ISP사업자 뿐 아니라 MSO사업자, 케이블인터넷 사업자를 통해 제공하고 있다. 또한 대만의 중화전신, 베트남의 VNPT 등 해외 굴지의 통신사를 고객사로 보유하고 있다
플랜티넷은
국내 최초 인터넷 망을 통한 유해 사이트 필터링 서비스를 상용화한 업체. 네트워크 차단방식의 인터넷 유해콘텐츠차단서비스 사업을 영위하고 있으며, IT기술을 활용한 신사업을 추진중. 자회사인 플랜티엠을 통해 매장 내 배경음악/영상서비스, 디지털사이니지 등 미디어콘텐츠 사업을 영위하고 있으며, 자회사 알바트로스인베스트먼트를 통해 벤처투자사업도 영위.
최대주주는 김태주 외(23.65%)