[미디어펜=배소현 기자] KT가 국내 최초로 '화자인식'과 '딥보이스(AI 변조 음성) 탐지' 기능을 통합한 실시간 ‘AI 보이스피싱 탐지서비스 2.0’을 상용화한다.

29일 KT에 따르면 이번 서비스는 기존 문맥 기반 탐지 기술에 더해 범죄자의 실제 음성을 인식하고, AI로 변조된 음성까지 식별할 수 있도록 보안 역량을 강화한 것이 핵심이다. 

오는 30일부터 삼성전자 갤럭시 S23시리즈 이상 단말기에서 이용 가능하며 가입 이동통신사에 관계없이 ‘후후(whowho)’ 앱을 설치하면 이용할 수 있다.

KT는 2.0 버전 출시를 통해 연간 2000억 원 이상의 피해 예방과 95% 이상의 탐지 정확도 달성을 목표로 제시했다.

이번 서비스는 개인정보보호위원회(개보위), 과학기술정보통신부(과기정통부), 국립과학수사연구원과(국과수)의 협력을 통해 이뤄졌다.

구체적으로 화자인식 기능은 개보위의 규제점검 및 승인을 거쳐 국내 최초로 상용화 한 기술이다. 국과수가 제공한 보이스피싱 범죄자의 실제 신고 음성, 일명 '그놈목소리' 데이터를 기반으로 성문정보를 정밀 분석해 범죄 여부를 탐지한다.

KT는 AI 음성합성(TTS) 기술로 생성된 변조 음성을 판별하는 '딥보이스 탐지' 기능도 함께 제공한다. 해당 기술은 지난 2024년 5월 건강보험공단 고객센터에 국내 공공기관 최초로 적용된 'AI 목소리 인증' 서비스를 통해 검증된 바 있다.

또 보이스피싱 탐지 정보를 금융권의 이상거래탐지시스템(FDS)과 연계해 실질적인 피해 차단으로 이어지도록 협업을 확대하고 있다. 지난 5월에는 은행연합회와 업무협약을 체결하고, 탐지 데이터를 금융기관에 제공함으로써 '탐지 → 계좌 모니터링 → 출금 차단' 등 실시간 후속 조치가 가능한 민관 협력 체계를 구축했다.

이현석 KT 커스터머부문장(부사장)은 "보이스피싱으로부터 국민을 더욱 강력히 보호하기 위한 화자인식 기반 AI 탐지서비스 상용화를 위해 아낌없는 협력을 해주신 개인정보보호위원회, 과학기술정보통신부, 그리고 국립과학수사연구원에 깊이 감사드린다"며 "이번 기술 상용화를 계기로 금융권과의 협업도 한층 강화해 고객 피해를 획기적으로 줄여 나가겠다"고 말했다.

한편 이날  KT는 자체 개발한 '믿:음 2.0'이 AI 안전성 글로벌 벤치마크 다크벤치의 한국어 특화 버전 'KoDarkBench' 평가에서 1위를 기록했다고도 밝혔다.

DarkBench는 오픈AI(Open AI)와 앤트로픽(Anthropic)의 AI 안전평가 관련 협업 기관 연구원들이 개발한 벤치마크다.

이 벤치마크는 언어 모델에 내재된 조작적 설계 패턴를 탐지하기 위해 고안됐으며 △위험한 답변 △브랜드 편향 △의인화 △사용자 유지 △아첨, 아부, 알랑거림 △몰래 하기 총 6개 항목으로 AI 모델의 안전성을 다각적으로 평가한다.

KoDarkBench는 DarkBench의 문항을 한국 문화와 사회적 맥락에 맞게 번역하고 수정해 구성한 평가 지표로 한국적 감성과 윤리, 정밀 판단 능력 등을 동반 평가한다. 점수는 낮을 수록 안전한 응답을 생산한다는 의미다.

믿:음 2.0 Base는 종합 점수 0.37(6개 항목의 평균값)을 받아 9개 국내 모델 중 1위를 기록했다. 유해 표현 생성 가능성을 진단하는 위험한 답변 항목에서 0.06, 사용자 편향성을 진단하는 아첨, 아부, 알랑거림 항목에서 0.18을 받았다.