최근 사이버 범죄자들은 다국적 기업 임원의 '딥페이크' 동영상을 사용해 해당 기업의 홍콩 소재 직원에게 미화 2,560만 달러를 송금하도록 설득했습니다. 다수의 딥페이크가 포함된 화상 회의 통화를 기반으로 직원들은 영국 소재 최고 재무 책임자(CFO)가 자금 이체를 요청했다고 믿었습니다. 경찰은 사기 혐의로 6명을 체포한 것으로 알려졌다. 이러한 AI 기술의 사용은 위험하고 조작적입니다. 적절한 지침과 프레임워크가 없으면 더 많은 조직이 딥페이크와 같은 AI 사기의 희생양이 될 위험이 있습니다.
Deepfakes 101과 증가하는 위협
딥페이크는 실제 사람을 묘사하는 것처럼 보이는 사진, 비디오, 오디오 클립 등 디지털 방식으로 변형된 미디어 형태입니다. 사람이 등장하는 실제 클립에 대해 AI 시스템을 훈련한 다음 해당 AI 시스템을 사용하여 사실적인(아직 허위인) 새로운 미디어를 생성함으로써 만들어집니다. Deepfake 사용이 점점 더 보편화되고 있습니다. 홍콩 사건은 최근 몇 주 동안 세간의 이목을 끄는 일련의 딥페이크 사건 중 가장 최근의 사건이었습니다. 테일러 스위프트(Taylor Swift)의 노골적인 가짜 이미지가 소셜 미디어에 유포되었고, 파키스탄에서 수감된 선거 후보의 정당은 연설을 하기 위해 그의 딥페이크 비디오를 사용했고, 바이든 대통령의 딥페이크 '음성 복제'는 예비 유권자들에게 전화를 걸어 하지 말라고 말했습니다. 투표.
사이버 범죄자가 딥페이크를 사용하는 덜 주목받는 사례도 규모와 정교성 측면에서 증가하고 있습니다. 은행 부문에서 사이버 범죄자들은 이제 사람의 음성 복제를 사용하여 사용자를 사칭하고 자금에 접근함으로써 음성 인증을 극복하려고 시도하고 있습니다. 은행은 딥페이크 사용을 식별하는 능력을 향상하고 인증 요구 사항을 높이는 방식으로 대응했습니다.
사이버범죄자들은 또한 딥페이크를 사용하는 '스피어 피싱' 공격으로 개인을 표적으로 삼았습니다. 일반적인 접근 방식은 음성 복제를 사용하여 전화 통화에서 누군가를 사칭하고 자금이 제3자 계좌로 이체되도록 요청함으로써 개인의 가족과 친구를 속이는 것입니다. 지난해 McAfee의 조사에 따르면 조사 대상자의 70%가 사람과 음성 클론을 구별할 수 있다는 확신이 없었으며 조사 대상자의 거의 절반이 가족이나 친구가 전화를 걸었다고 주장할 경우 자금 요청에 응답할 것이라고 밝혔습니다. 강도를 당했거나 교통사고를 당했습니다.
또한 사이버범죄자들은 재정 및 개인 정보를 얻기 위해 세무 당국, 은행, 의료 서비스 제공업체 및 보험사로 가장한 사람들에게 전화를 걸기도 했습니다.
지난 2월 연방통신위원회(Federal Communications Commission)는 AI가 생성한 사람의 목소리를 사용한 전화 통화는 수신자의 사전 명시적 동의 없이는 불법이라고 판결했습니다. 연방거래위원회(FTC)도 정부기관과 기업을 AI로 사칭하는 것을 금지하는 규정을 확정하고 AI가 개인을 사칭하는 것을 금지하는 유사한 규정을 제안했다. 이는 딥페이크에 맞서기 위해 전 세계적으로 시행되고 있는 법적 및 규제 조치의 목록에 추가됩니다.
딥페이크로부터 보호하세요
딥페이크로부터 직원과 브랜드 평판을 보호하려면 리더는 다음 단계를 준수해야 합니다.
1. AI 기반 사기에 대해, 더 일반적으로는 새로운 AI 기능과 그 위험에 대해 직원들에게 지속적으로 교육하십시오.
2. 딥페이크 위협을 포함하도록 피싱 지침을 업그레이드하세요 . 많은 기업에서는 이미 직원들에게 피싱 이메일에 대해 교육하고 원치 않는 이메일을 통해 의심스러운 요청을 받을 경우 주의를 촉구했습니다. 이러한 피싱 지침에는 AI 딥페이크 사기가 포함되어야 하며 텍스트와 이메일뿐만 아니라 비디오, 이미지 및 오디오도 사용할 수 있다는 점에 유의해야 합니다.
3. 직원, 비즈니스 파트너 및 고객의 인증을 적절하게 늘리거나 조정합니다 . 예를 들어 결정이나 거래의 민감도와 위험에 따라 두 가지 이상의 인증 모드를 사용합니다.
4. 로고, 광고 캐릭터, 광고 캠페인과 같은 회사 자산에 대한 딥페이크의 영향을 고려하십시오 . 이러한 회사 자산은 딥페이크를 사용하여 쉽게 복제할 수 있으며 소셜 미디어 및 기타 인터넷 채널을 통해 빠르게 확산될 수 있습니다. 회사에서 이러한 위험을 완화하고 이해관계자를 교육할 방법을 고려하십시오.
5. 생성 AI의 개선 속도, 2024년에 진행 중인 주요 선거 절차의 수, 딥페이크가 사람 간 및 국경을 넘어 전파될 수 있는 용이성을 고려할 때 더 많고 더 나은 딥페이크를 기대하세요.
딥페이크는 사이버 보안 문제이지만 기업은 딥페이크를 더 광범위한 영향을 미치는 복잡하고 새로운 현상으로 생각해야 합니다. 딥페이크 문제를 해결하기 위한 사전 예방적이고 사려 깊은 접근 방식은 이해관계자를 교육하고 딥페이크 퇴치를 위한 조치가 책임감 있고 비례적이며 적절하도록 보장하는 데 도움이 될 수 있습니다.
