“엄마 목소리까지 복제?” AI 보이스피싱, 당신도 당할 수 있다!

AI 음성 범죄 증가, 보이스피싱과 음성 위변조 대응 방안 필요

 

최근 인공지능(AI) 기술이 빠르게 발전하면서 이를 악용한 음성 범죄가 증가하고 있다. 3초만 녹음해도 타인의 목소리를 완벽하게 복제할 수 있는 수준에 도달하면서, 보이스피싱과 음성 위변조 범죄가 더욱 정교해지고 있다.

 

실제 사례: 음성 복제로 인한 피해

 

지난해 여름, A씨(31)는 "어머니를 납치했다"는 전화를 받았다. 놀랍게도 전화 속 목소리는 실제 어머니와 완벽하게 같았다. 당시 해외에 있던 어머니와 연락이 닿지 않자 A씨는 패닉에 빠졌고, 하마터면 돈을 송금할 뻔했다.

 

또 다른 사례로, 모 대기업 임원 B씨는 성희롱 혐의로 고소를 당했다. 증거는 B씨의 목소리가 담긴 통화 녹음파일이었다. 다행히 B씨는 당시 임원 회의 중이었다는 사실을 입증해 누명을 벗었다. 이처럼 AI를 악용한 음성 범죄는 개인과 기업 모두에게 심각한 피해를 초래하고 있다.

 

AI 음성 합성 기술의 발전과 위험성

 

AI 음성 합성 기술은 과거에 비해 비약적으로 발전했다. 2017년 구글 딥마인드의 '타코트론'과 중국 바이두의 '딥보이스'는 음성 데이터를 학습해 자연스러운 목소리를 생성하는 기반을 마련했다. 이후 마이크로소프트의 'VALL-E'(2023년)와 오픈AI의 '보이스 엔진'(2024년)은 3초의 짧은 음성 샘플만으로도 음성을 복제하는 기술을 개발했다.

 

과거에는 특정 인물의 음성을 재현하려면 수천 시간의 데이터가 필요했지만, 이제는 "여보세요"와 같은 간단한 인사말만으로도 가짜 음성을 생성할 수 있게 되었다. 이러한 기술 발전은 음성 기반 사기와 보이스피싱에 악용되는 상황을 초래하고 있다.

 

보이스피싱 피해 증가

 

금융감독원에 따르면, 보이스피싱 피해자의 1인당 평균 피해액은 2020~2022년 약 1200만 원 수준이었으나, 2023년에는 1708만 원으로 급증했다. 특히, AI 기반 음성 합성을 활용한 사기 피해는 공식 통계로 집계되지 않을 정도로 빠르게 확산되고 있다.

 

경찰청은 2023년 7월 'AI 피싱 사기 주의보'를 발령했지만, "목소리가 포함된 글을 올리는 데 주의하라"는 원론적인 대응에 그쳤다. 이에 따라 보다 근본적인 대응책 마련이 시급한 상황이다.

 

수사기관과 기술적 대응 방안

 

검찰은 2021년 개발된 스마트폰 녹음 위·변조 분석 기술을 확대 적용하는 방안을 추진 중이다. 이는 제출된 음성 파일이 실제 상황을 반영하는지, 편집되거나 변조되지 않았는지를 확인하는 과정이다.

수사기관은 음성 녹음 과정의 무결성을 확보하기 위해, 스마트 기기를 직접 제출받아 분석하거나 동일 기종을 확보해 진위를 파악하고 있다. 이러한 절차는 기술 발전 속도에 비해 다소 뒤처진 대응 방식이라는 지적이 있다.

 

예방과 대응 방법

 

AI 음성 범죄를 예방하기 위해 개인과 기관의 노력이 중요하다. 정수환 숭실대 정보통신전자공학부 교수는 "현재 딥보이스 기술로 만든 음성은 전문가조차 진위를 구분하기 어렵다"고 밝혔다. 그는 다음과 같은 예방책을 제안했다.

 

1. 금전 요구 시 확인 절차 강화: 예상치 못한 송금 요청이 있을 때는 반드시 본인 확인 후 진행해야 한다.

2. 음성 인증 보안 강화: 금융기관과 통신사는 음성 인증 시 추가 인증 절차를 도입해야 한다.

3. 의심 통화 즉시 종료: 모르는 번호에서 온 수상한 전화는 바로 끊고, 공식 경로를 통해 재확인해야 한다.

4. 소프트웨어 업데이트: AI 기반 보안 솔루션과 스마트폰 운영체제를 최신 상태로 유지하는 것이 중요하다.

 

미래 전망과 대응 과제

 

AI 기술의 발전은 음성 복제와 위변조 범죄의 위험성을 높이고 있다. 특히, 금융기관과 기업을 대상으로 한 딥보이스 사기 사례는 천문학적인 금전적 피해를 초래하고 있다.

 

따라서 정부, 기업, 개인 모두가 AI 음성 범죄에 대한 인식을 높이고, 사전 예방과 기술적 대응 방안을 강화해야 한다. AI 기술의 발전과 함께 보안 시스템도 진화해야만, 음성 기반 범죄로부터 안전한 사회를 구축할 수 있을 것이다.