邀請您加好友,再請您幫我點開加好友哦。
聽到這樣的電話內容,千萬別相信這是警方首次查獲詐騙集團結合AI語音《機器人》犯案。
AI語音《機器人》先撥打你的電話,然後跟你對話。
對話之後,它是認為看你的反應,又適合的答案給你設計一套劇本的對話表。
AI語音《機器人》依回應內容、語音情緒,判定對方是否有興趣,再發送簡訊,以提高詐騙效率。
有40名被害人報案,累計財損達1億元。
幾個月期間,我們就發現這家人頭設立的一個投資公司,它已經發了6000多萬的簡訊。
我們在跟電信公司這邊合作的部分就是,發現這家公司跟電信公司是申請了155個門號。
這155個門號我們去清查之後,也是覺得可疑的地方是說,這家公司是沒有員工的。
隨著AI技術進步,真假難辨,在美國近期也開始出現越來越多AI語音詐騙案例。
我看到她的孫子的名字在電話號碼上,她聽到她說的一聲聲音就像他一樣,說他遇到一場意外。
他就說,奶奶,我破了我的鼻子。
我女兒的聲音在哭泣,我叫媽媽,幫幫我!
這位媽媽差點被AI女兒聲音求助,騙走100萬美元。
受害人紛紛表示,很難描述電話中的聲音有多麼真實。
因為現在的AI聲音複製技術,讓聲音可以變得非常像。
騙子只需要一點材料,可能只是一個無辜的影片,你發到TikTok或Instagram,使用AI,你的聲音可以被複製。
AI語音生成軟體可以分析年齡、性別和口音的不同,並搜尋龐大的聲音資料庫,找到相似的聲音,然後重新生成。
通常從YouTube、TikTok、Instagram等地方就可以獲取音訊樣本。
我站在你面前,不是作為專家,而是作為關心的民族。
一家AI公司就另有音訊工具,將好萊塢巨星雷奧納多在一場氣候高峰會上的演說,仿製其他名人的聲音,重新配音。
我經常用幻想的角色來解決幻想的問題。
我相信人類在同樣的方式看著氣候改變,就像是幻想。
聽起來就像鋼鐵人小羅伯道尼、微軟創辦人比爾蓋茲幫李奧納多來配音。
在技術突飛猛進下,以前複製一個人的聲音,需要從被複製者身上獲取大量樣本,現在只需要幾秒鐘就可以生成出一個接近你的聲音。
甚至現在最新的技術,只要我的聲音五秒鐘,就可以讓一個程式碼學我的聲音來錄音、來錄影,來做各式各樣的回應。
要讓AI孫燕姿可以像孫燕姿一樣唱歌的做法也非常簡單,就是我必須讓電腦,必須讓AI去聽很多孫燕姿唱歌的紀錄、音樂還有樂曲,
讓電腦可以學會她的意洋頓挫跟她的發音呼氣的方式,那麼AI就可以學會用孫燕姿的方式來唱歌。
在美國這類的語音複製服務,每個月只需要五美元,任何人都可以使用,也讓過去被認為安全的聲紋系統存在明顯漏洞。
為報澳洲記者,就用AI模擬自己的聲音,順利進入了澳洲社福中心和澳洲稅務局,使用的聲紋安全系統。
還有一個可能的情況是,未來一代AI代理人應用越來越廣,該如何辨別真假又是另一個課題。
未來很可能你在網路上面聊天,或者你在網路上面聽演講,或者是聽一場課堂,你其實大概都沒有辦法保證這個人到底是不是真的人,還是他是一個AI。
我認為這其實還是會為未來帶來很多的風險,像我自己最近都開始跟我的家人約定好,
如果你接到一個聽起來像我,講話的方式也像我,內容也像我的人,不要輕易相信他就是我,我們會約定好一個家族密語,確認他能夠回答這個問題的答案,他才是我。
9 人回報・1 則回應・3 年前