多國爆deepfake音頻干擾選舉
香港文匯報訊 人工智能（AI）不僅製作「深度偽造」（deepfake）影片，音頻也是重災區。《金融時報》報道，在英國、印度和尼日利亞等國，近期都出現試圖用「深偽」音頻影響選舉的事件。專家稱AI音頻軟件眾多，且免費提供多數服務，製作「深偽」音頻非常容易。部分軟件製造商正採取措施，嘗試暗中標記「深偽」音頻供人識別。
報道指出，包括ElevenLabs和Resemble AI等AI軟件，都能平價製作「深偽」音頻。新聞網站評估軟件NewsGuard發現一個TikTok賬號上，有多段用AI生成、模擬美國前總統奧巴馬聲音的「深偽」音頻傳播謠言，相關音頻已播放超過一億次。調查發現其使用的ElevenLabs軟件可以免費使用基本功能，訂閱也只需每月最低1美元（約7.81港元）、最高330美元（約2,578港元）。
多間AI研發企業都設法打擊虛假信息，微軟發布聲明，呼籲用戶舉報任何濫用微軟名下AI音頻工具的行為，若利用AI模擬他人聲音，製作者需得到對方批准。ElevenLabs也製作一款偵測軟件，用於識別音頻是否由其系統製作。Resemble還嘗試在音頻中插入聽不見的特殊標籤，用特定軟件分析音頻波紋即可甄別。
