美國母親因利用 deepfake 誣陷女兒啦啦隊對手被捕

雖然 deepfake 這項技術讓人看到了不小的潛力，但它同時也蘊藏著巨大的濫用風險。據 Philadelpha Inquirer 和 Patriot-News 報導，日前美國賓州一位名叫 Raffaela Spone 的母親，因為利用 deepfake 誣陷女兒啦啦隊競爭對手的行為而被捕。根據執法部門的說法，Spone 透過 AI 合成了受害者吸菸、飲酒、裸露的影像，並將其發送給了啦啦隊的教練，希望讓自己的女兒因此獲益。

實際上，最早在去年七月時警方就接到了報案，一名受害者聲稱從匿名號碼收到了騷擾訊息，在那之後又陸續出現了數個類似的案例。警方在對發訊的號碼進行追蹤後，找到了一個電話推銷網站，然後透過 IP 地址順藤摸瓜，最終確定了 Spone 的身分。在對其手機進行搜查之後，警方果然找到了和騷擾號碼有關的證據。

目前 Spone 正面臨網路騷擾兒童等相關指控，警方並未對她的女兒採取行動，因為他們相信其對母親的行為並不知曉。這樁案子再度提醒了人們 deepfake 的潛在危害性，發展相應的甄別系統顯然已成為一個非常重要的課題了。