邀請您加好友 再請您幫我點開加好友喔 聽到這樣的電話內容 千萬別相信 這是警方首次查獲詐騙集團 結合AI語音機器人犯案 AI語音機器人 先撥打你的電話 然後跟你對話 對話之後 他是認為看你的反應 最適合的答案 給你設計一個 一套劇本的對話表 AI機器人依回應內容 語音情緒 判定對方是否有興趣 再發送簡訊 以提高詐騙效率 有40名被害人報案 累計財損達1億元 幾個月期間 我們就發現 這家人頭設立的一個投資公司 它已經發了 6千多萬則的一個簡訊 那我們在跟電信公司這邊 合作的部分就是 發現這家公司跟電信公司 是申請了155個門號 那這155個門號 我們去清查之後 也是覺得可疑的地方是說 它這家公司是沒有員工的 隨著AI技術進步 真假難辨 在美國近期也開始出現 越來越多 AI語音詐騙案例 這位媽媽 差點被AI女兒聲音求助 騙走100萬美元 受害人紛紛表示 很難描述電話中的聲音 有多麼真實 因為現在的AI聲音複製技術 讓聲音可以變得非常像 AI語音生成軟體 可以分析年齡 性別和口音的不同 並搜尋龐大的聲音資料庫 找到相似的聲音 然後重新生成 通常從YouTube TikTok Instagram等地方 就可以獲取音訊樣本 一家AI公司就利用音訊工具 將好萊塢巨星李奧納多 在一場氣候高峰會上的演說 仿製其他名人的聲音 重新配音 聽起來就像鋼鐵人小蘿蔔道尼 微軟創辦人比爾蓋茲 幫李奧納多來配音 在技術突飛猛進下 以前複製一個人的聲音 需要從被複製者身上獲取大量樣本 現在只需要幾秒鐘 就可以生成出一個接近你的聲音 甚至現在最新的技術 只要我的聲音五秒鐘 就可以讓一個程式碼 學我的聲音來錄音 來錄影 來做各式各樣的回應 要讓AI孫燕姿 可以像孫燕姿一樣唱歌的做法 非常簡單 就是我必須讓電腦 必須讓AI 去聽很多孫燕姿唱歌的紀錄 音樂還有樂曲 讓電腦可以學會她的一陽頓挫 跟她的發音呼氣的方式 那麼AI就可以學會 用孫燕姿的方式來唱歌 在美國這類的語音複製服務 每個月只需要五美元 任何人都可以使用 也讓過去被認為安全的聲紋系統 存在明顯漏洞 《衛報》澳洲記者 就用AI模擬自己的聲音 進入了澳洲社福中心 和澳洲稅務局 使用的聲紋安全系統 我只用了四分鐘的聲音 來產生我的假聲音 謝謝 你被證明了 還有一個可能的情況是 未來一代AI代理人 應用越來越廣 該如何辨別真假 又是另一個課題 未來很可能你在網路上面聊天 或者你在網路上面聽演講 或者是聽一場課堂 你其實大概都沒有辦法保證 這個人到底是不是真的人 還是他是一個AI 那我認為這其實 還是會為未來帶來很多的風險 像我自己最近都開始 跟我的家人約定好 如果你接到一個聽起來像我 講話的方式也像我 內容也像我的人 不要輕易相信他就是我 我們會約定好一個家族密語 確認他能夠回答這個問題 能夠回答這個問題的答案 他才是我 迎接時代來臨 眼睛看到 耳朵聽見的 不一定能為憑 最好再三確認 以測安全

喂? 嘿? 對,請問你哪裡找? 你是不是接過陌生電話被推銷產品或是像這種? 喂? 電話接通完全沒聲音這可要小心了 恐怕是有人要趁機竊取你的聲音 可以立刻AI複製跟你一模一樣 先聽一下我剛才克隆了姚蜜的聲音 太可怕了 現在任何人都可以克隆任何人的聲音 別以為不可能 詐騙集團利用AI軟體 透過打騷擾電話複製聲音再拿去詐騙親友 過程可能只需要短短五秒鐘 詐騙犯只需要多給你打幾個騷擾電話 他們就可以生成你的專屬語音包 連足球劇情C羅都開口說中文 中英文轉換 這也是AI變造結果 AI還原音色語調連換氣都能學 幾乎真假難辨 尤其是像一些贅詞啊 一些那種音調啊 那其實很容易學的 大概七八句十句大概就可以學起來 只要騷擾電話防不勝防 避免聲音變詐騙集團蒐集 陌生來電別接 奇怪問卷別做 接通電話先別說話 但可以完全預防嗎 比如說如果有些陌生電話 可能就不跟他多講 直接把它掛掉 真的聽起來很像的 那可能要再次確認 AI科技每天都在進步 短短五秒騷擾電話 就可能偷走聲音去詐騙 讓人防不勝防 最保險的就是再打電話確認 以免下個受害的就是你 記者 葉宗盈 王書宏 高雄報導

喂﹐先生您好,我是加利比銀行的,可以給您提供一張100萬額度的信用卡,還款期限為半年,請問您需要嗎﹐啊,不用,不用,沒有需要﹐我們還在做客戶調查問卷,佔用您一分鐘時間回答幾個問題,可以給您手機充值300元,您看可以嗎﹐只佔用您一分鐘﹐那行吧,你說吧﹐請問您是從事什麼職業的﹐上班﹐您生活在哪個城市呢﹐瀋陽﹐請您簡短介紹一下您的工作內容好嗎﹐簡單幾句話﹐ 就是在一般大公司打工混日子﹐忘了請教您怎麼稱呼﹐我姓田﹐那您的全名怎麼稱呼﹐田浩﹐謝謝﹐再見﹐等會,您這300元先花費﹐我當然知道他叫什麼﹐他的信息﹐他父母的信息﹐他親朋好友的信息﹐我都有﹐我只是叫他的聲音而已﹐然後我把他的聲音導入 AI軟件裏讓AI學習﹐這類軟件不止一種功能大同小異﹐學好之後﹐我讓他說什麼﹐他就會用田浩的聲音說出來﹐比如我錄製一段聲音說﹐喂媽,我田浩﹐那小二虎生病了,需要手術﹐你趕緊給我轉50萬﹐到醫院賬戶裏啊﹐我一會給你發﹐你快點啊﹐我現在﹐我得馬上去辦手續了﹐然後我把我的錄音導入軟件﹐選擇田浩的聲音模型 再跟電話裏的聲音對比一下﹐那行吧﹐你說吧﹐就是在一般大公司打工混日子唄﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音﹐換成各種要錢的聲音﹐我會給你發﹐你快點啊﹐我現在﹐我就馬上辦手續去了﹐再跟電話裏的聲音對比一下﹐那行吧﹐你說吧﹐就是在一般大公司打工混日子唄﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音� 換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音

喂? 嘿? 對,請問你哪裡是啊? 你是不是接過陌生電話被推銷產品或是像這種 喂? 電話接通完全沒聲音這可要小心了 恐怕是有人要趁機竊取你的聲音 可以立刻AI複製跟你一模一樣 先聽一下我剛才克隆了姚蜜的聲音 太可怕了 現在任何人都可以克隆任何人的聲音 別以為不可能 詐騙集團利用AI軟體 透過打騷擾電話複製聲音再拿去詐騙親友 過程可能只需要短短五秒鐘 詐騙犯只需要多給你打幾個騷擾電話 他們就可以生成你的專屬語音包 連足球劇情C羅都開口說中文 中英文轉換這也是AI變造結果 AI還原音色語調連換氣都能學 幾乎真假難辨 尤其是像一些贅詞啊 一些那種音調啊 那其實很容易學的 大概七八句十句大概就可以學起來 只要騷擾電話防不勝防 避免聲音被詐騙集團蒐集 陌生來電別接 奇怪問卷別做 接通電話先別說話 但可以完全預防嗎 比如說如果有些陌生電話 可能就跟他或跟他多講 直接把他掛掉 真的聽起來很像的 那可能要再次確認 AI科技每天都在進步 短短五秒騷擾電話 就可能偷走聲音去詐騙 讓人防不勝防 最保險的就是 再打電話確認 以免下個受害的就是你 記者 葉宗盈 王書宏 高雄報導 我是徐國豪 在中視新聞首次坐上主播台 體會到播報新聞所需要的穩健台風 以及掌握突發即時新聞的隨機應變 為觀眾播報最即時的新聞 就是展現專業的時刻 更多新聞請鎖定中視新聞YouTube頻道 記得按讚 訂閱 分享 並開啟小鈴鐺喔

喂﹐先生您好,我是加利比銀行的,可以給您提供一張100萬額度的信用卡,還款期限為半年,請問您需要嗎﹐啊,不用,不用,沒有需要﹐我們還在做客戶調查問卷,佔用您一分鐘時間回答幾個問題,可以給您手機充值300元,您看可以嗎﹐只佔用您一分鐘﹐那行吧,你說吧﹐請問您是從事什麼職業的﹐上班﹐您生活在哪個城市呢﹐瀋陽﹐請您簡短介紹一下您的工作內容好嗎﹐簡單幾句話﹐ 就是在一般大公司打工混日子﹐忘了請教您怎麼稱呼﹐我姓田﹐那您的全名怎麼稱呼﹐田浩﹐謝謝﹐再見﹐等會,您的300元花費﹐我當然知道他叫什麼﹐他的信息﹐他父母的信息﹐他親朋好友的信息﹐我都有﹐我只是叫他的聲音而已﹐然後我把他的聲音導入 AI軟件裏讓AI學習﹐這類軟件不止一種功能大同小異﹐學好之後﹐我讓他說什麼﹐他就會用田浩的聲音說出來﹐比如我錄製一段聲音說﹐喂媽,我田浩﹐那小二虎生病了﹐需要手術﹐你趕緊給我轉50萬﹐到醫院賬戶裏﹐我一會給你發﹐你快點﹐我現在﹐我得馬上去辦手續了﹐然後我把我的錄音導入軟件﹐選擇田浩的聲音模型 ﹐再跟電話裏的聲音對比一下﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音﹐換成各種要錢的聲音 ﹐如果我用這個技術﹐換成各種要錢的聲音 你能保證他們不給我轉錢嗎﹐

喂﹐先生您好,我是加利比銀行的,可以給您提供一張100萬額度的信用卡,還款期限為半年,請問您需要嗎﹐啊,不用,不用,沒有需要﹐我們還在做客戶調查問卷,佔用您一分鐘時間回答幾個問題,可以給您手機充值300元,您看可以嗎﹐只佔用您一分鐘﹐那行吧,你說吧﹐請問您是從事什麼職業的﹐上班﹐您生活在哪個城市呢﹐瀋陽﹐請您簡短介紹一下您的工作內容好嗎﹐簡單幾句話﹐ 就是在一般大公司打工混日子﹐忘了請教您怎麼稱呼﹐我姓田﹐那您的全名怎麼稱呼﹐田浩﹐謝謝﹐再見﹐等會,您的300元花費﹐我當然知道他叫什麼﹐他的信息﹐他父母的信息﹐他親朋好友的信息﹐我都有﹐我只是叫他的聲音而已﹐然後我把他的聲音導入 AI軟件裏讓AI學習﹐這類軟件不止一種功能大同小異﹐學好之後﹐我讓他說什麼﹐他就會用田浩的聲音說出來﹐比如我錄製一段聲音說﹐喂媽,我田浩﹐那小二虎生病了﹐需要手術﹐你趕緊給我轉50萬﹐到醫院賬戶裏﹐我一會給你發﹐你快點﹐我現在﹐我得馬上去辦手續了﹐然後我把我的錄音導入軟件﹐選擇田浩的聲音模型 ﹐再跟電話裏的聲音對比一下﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音﹐換成各種要錢的聲音 ﹐如果我用這個技術﹐換成各種要錢的聲音 你能保證他們不給我轉錢嗎﹐

詐騙再進化，國內出現不法份子疑似使用AI深偽技術仿聲成一名男子，向他的母親行騙。刑事局不排除犯罪集團從不明電話、市調電話等管道，利用民眾接電話取得聲紋等特徵。資安專家也表示，只需要講話5秒鐘，就能把聲音仿造到7成像 內湖警方推測，不法集團結合深偽技術用AI仿聲行騙。 刑事局預防科偵查員趙雲說：「我們不排除詐騙集團會利用市調電話或是推銷電話，來藉此收集民眾的聲音，進行AI聲音偽造。」 刑事局不排除詐騙集團是由不明來電、市調電話，這類管道取得民眾聲紋。 資安專家劉彥伯表示，「持續講話5秒鐘，像我現在在講話，基本上5秒就可以做一個模仿。」

接電話千萬別先開口！只需3秒 就可能成AI語音詐騙目標 2023-3-22世界日報新聞 如果你接聽一個陌生號碼的電話，一定要讓對方先說。電話另一端的人可能會錄下你的聲音片段，然後用它來模仿你。 這是美國聯邦貿易委員會(Federal Trade Commission)給大家的建議，該委員會警告消費者要當心騙子，這些騙子會偷偷錄下人們的聲音，然後偽裝成受害者的聲音，向受害者的親屬要錢。 在ChatGPT和微軟Vall-E等人工智能工具興起之際，美國聯邦貿易委員會描述了這樣一種情況。Vall-E是微軟今年1月展示的一種將文本轉換為語音的工具。Vall-E目前還沒有向公眾開放，但其他公司，如alike AI和ElevenLabs，已經推出了類似的工具。使用任何人的聲音樣本，這項技術可以準確地將書面句子轉換成令人信服的音頻。 聯邦貿易委員會消費者教育專家阿爾瓦羅·普伊格（Alvaro Puig）在該機構的網站上寫道：「你接到一個電話。電話里有人驚慌失措，說是你的孫子。他說他撞壞了車，進了監獄，有大麻煩了。需要你寄錢來幫忙。你深吸一口氣，然後思考可能是詐騙，但這聽起來就像他。」 只需3秒鐘 專家稱，犯罪分子正在利用廣泛使用的「語音克隆」工具來欺騙受害者，讓他們相信自己的親人遇到了麻煩，急需現金。它所需要的只是某人的一小段聲音，有時可以在互聯網上找到，如果沒有，也可以通過錄制垃圾電話來收集，再加上一個語音克隆應用程序，比如ElevenLabs的人工智能語音軟件VoiceLab。 加州大學伯克利分校的數字法醫學教授哈尼·法里德（Hany Farid）表示:「如果你在TikTok上錄制了一段聲音視頻，那就足夠了。」 他對此類騙局越來越多並不感到驚訝。「這是一個連續體的一部分。我們從垃圾電話開始，然後是電子郵件釣魚詐騙，然後是短信釣魚詐騙。所以這是這些騙局的自然演變。」 「不要相信聲音」 根據美國聯邦貿易委員會的說法，這在現實中意味著，你不能再相信那些聽起來與你朋友和家人的聲音完全相同的聲音。 「不要相信聲音，」聯邦貿易委員會警告說。「打電話給那個本該聯繫你的人，覈實一下這個故事。用一個你知道是他們的電話號碼。如果你聯繫不到你愛的人，試著通過其他家庭成員或他們的朋友與他們取得聯繫。」 Vall-E製造商微軟提到了這個問題，在一篇演示該技術的論文中，微軟發表了一份免責聲明，稱「濫用該模型可能會帶來潛在風險，比如欺騙語音識別或模仿特定的說話者。」該論文指出，如果該工具向公眾推出，它「應該包括一份協議，以確保說話者批准使用他們的聲音。」 今年1月，ElevenLabs在推特上寫道:「我們也看到了越來越多的語音克隆濫用案例。」 出於這個原因，該公司表示，身份驗證對於清除惡意內容至關重要，而且這項技術只需要付費才能使用。 如何保護自己 不法分子利用語音克隆軟件模仿聲音進行犯罪，提高警惕是很重要的。首先，如果你接聽一個未知號碼的電話，讓打電話的人先說話。如果你只說「你好？你是誰？」他們可以用那個音頻樣本來冒充你。 法里德說當他接到所謂的家庭成員(比如他的妻子)打來的電話時，他會問她一個他們已經知道的暗號。 這是對付高科技問題的低技術手段。美國聯邦貿易委員會還警告消費者不要相信來自未知方的來電，並建議人們以另一種方式覈實自稱來自朋友或家人的來電，例如撥打已知號碼的人或聯繫共同的朋友。 此外，當有人要求通過電匯、禮品卡或加密貨幣付款時，這些也可能是危險信號。 美國聯邦貿易委員會表示:「騙子要求你付款或匯款，讓你的錢很難拿回來。」#北美　#詐騙　#AI　

喂﹐先生您好,我是加利比銀行的,可以給您提供一張100萬額度的信用卡,還款期限為半年,請問您需要嗎﹐啊,不用,不用,沒有需要﹐我們還在做客戶調查問卷,佔用您一分鐘時間回答幾個問題,可以給您手機充值300元,您看可以嗎﹐只佔用您一分鐘﹐那行吧,你說吧﹐請問您是從事什麼職業的﹐上班﹐您生活在哪個城市呢﹐瀋陽﹐請您簡短介紹一下您的工作內容好嗎﹐簡單幾句話﹐ 就是在一般大公司打工混日子﹐忘了請教您怎麼稱呼﹐我姓田﹐那您的全名怎麼稱呼﹐田浩﹐謝謝﹐再見﹐等會,您的300元花費﹐我當然知道他叫什麼﹐他的信息﹐他父母的信息﹐他親朋好友的信息﹐我都有﹐我只是叫他的聲音而已﹐然後我把他的聲音導入 AI軟件里讓AI學習﹐這類軟件不止一種功能大同小異﹐學好之後﹐我讓他說什麼﹐他就會用田浩的聲音說出來﹐比如我錄製一段聲音說﹐喂媽,我田浩,那小二虎生病了,需要手術﹐你趕緊給我轉50萬﹐到醫院賬戶里﹐我一會給你發﹐你快點啊﹐我現在﹐我得馬上去辦手續了﹐然後我把我的錄音導入軟件﹐選擇田浩的聲音模型 ﹐再跟電話里的聲音對比一下﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音﹐換成各種要錢的聲音 你能保證﹐發給你七八十歲的爸媽﹐你能保證﹐他們不給我轉錢嗎?

這些視頻也千萬不要亂在網上發自拍。 這是一個史上最恐怖的新型騙局。 以往騙子騙到你,可能是因為你傻。 但現在只需要你接通電話三秒鐘, 就只要這三秒鐘,騙子都不需要說一句話, 就能讓你重責傾家蕩產。 如今這個騙局已經在全國肆虐。 視頻不長,請一定要認真看完。 這段時間發生了一件離奇的詐騙事件。 福建的郭先生接到了好友的視頻通話。 開視頻的是本人,聲音也沒問題。 郭先生沒多想,幫了這位朋友提出的忙。 可當轉賬完成後,郭先生發過去一句, 事情都辦妥了,他的好友去回覆了一個問號。 注意了,郭先生的好友確實不知情。 好,那問題出在了哪裡? 明明開了視頻,人是這個人,聲音是這個聲音, 難道這世界上還有兩個一模一樣的人嗎? 來看一下這條視頻。 右上角的畫面里是本人, 而左下角畫面里出現的, 則是用AI技術生成的假人。 這個技術恐怖在什麼地方呢? 它可以近乎完美的複製一個一模一樣的你。 樣子一樣,聲音也一樣, 即使你遮擋臉部,畫面也沒有任何破綻。 有官方號說,AI假人一般不會眨眼, 但請相信我,千萬別拿這個當標準去判斷。 因為不會眨眼的問題,詐騙犯馬上就會解決。 也就是說各位, 以前我們講眼見為真,耳聽為實, 但從今天開始你再也無法確定了。 想像一下, 今天你的母親突然對你發起了視頻通話, 淚流雨下的說, 孩子,你爸出車禍了, 現在在醫院需要10萬塊錢, 你趕緊轉賬過來吧。 即使樣子一樣,聲音一樣, 但是這根本不是你的母親, 而是一位在背後操控的詐騙犯。 這不是我危言聳聽, 而是正在發生的恐怖騙局。 就在今年年初,微軟推出的語音模型, 只需要3秒就能複製任何人的聲音。 詐騙犯鎖定目標後, 只需要給你多打幾通騷擾電話, 而你只要接上電話, 說上那麼一兩句, 他們就可以完美複製你的聲音。 然後呢, 你的家人就會突然接到你的電話。 為什麼號碼不一樣啊? 隨便編個自己被搶劫了, 或者手機掉到的理由就可以了。 關鍵是, 你的家人確認這聲音就是你啊。 此時呢, 只要在編造一些緊急情況, 誘騙你最親近的人上當, 輕而易舉, 獲取你的聲音現在只需要3秒, 而獲取你的樣貌更加簡單。 你在網上朋友圈公開的視頻照片, 都是騙子現成的素材。 甚至網絡上早已有人專門接單, 只需要一張乾淨的正面照, 利用AI技術就可以生成一個 眼睛嘴巴都會動, 口型也對得上如假包換的你。 這樣一來, 詐騙犯甚至根本不需要盜取你的某姓, 因為只要臉一樣聲音一樣, 你說你今天有個什麼意外情況啊, 因為我的同學朋友的某姓有什麼不合理, 有什麼破綻嗎? 而且獲取你的照片之後, 詐騙犯也不一定非得詐騙你的家人, 他們完全可以用AI換臉技術, 把你和大尺度視頻合成在一起, 要麼你答應給錢, 否則這些明明就是你的不雅視頻, 就會被發給你身邊的親朋好友, 到時候他是百口莫辯了。 以上還只是AI詐騙套路的冰山一角, AI時代來了, 就未必是人類的話時代, 卻一定是詐騙犯的話時代。 從今天開始, 一定要保護好你的個人信息, 而將來, 如果你也遇到你的家人, 遇到緊急情況, 向你電話或視頻求助, 應該怎麼辦呢? 相信我啊, 不要聽那些所謂的畫面鑒別方法, 所有破綻一定會逐一被詐騙犯改進的。 這種情況下, 假設你越篤定不眨眼就是假, 反過來說就是你越相信眨眼就一定真, 那只要詐騙犯一改進, 你就更容易掉進陷阱。 在我看來, 絕對有效的鑒別方法只有一個, 為一個只有你們知道的秘密。 答對了是真, 答錯了是假, 我說清楚了嗎?