邀請您加好友,再請您幫我點開加好友哦。 聽到這樣的電話內容,千萬別相信這是警方首次查獲詐騙集團結合AI語音《機器人》犯案。 AI語音《機器人》先撥打你的電話,然後跟你對話。 對話之後,它是認為看你的反應,又適合的答案給你設計一套劇本的對話表。 AI語音《機器人》依回應內容、語音情緒,判定對方是否有興趣,再發送簡訊,以提高詐騙效率。 有40名被害人報案,累計財損達1億元。 幾個月期間,我們就發現這家人頭設立的一個投資公司,它已經發了6000多萬的簡訊。 我們在跟電信公司這邊合作的部分就是,發現這家公司跟電信公司是申請了155個門號。 這155個門號我們去清查之後,也是覺得可疑的地方是說,這家公司是沒有員工的。 隨著AI技術進步,真假難辨,在美國近期也開始出現越來越多AI語音詐騙案例。 我看到她的孫子的名字在電話號碼上,她聽到她說的一聲聲音就像他一樣,說他遇到一場意外。 他就說,奶奶,我破了我的鼻子。 我女兒的聲音在哭泣,我叫媽媽,幫幫我! 這位媽媽差點被AI女兒聲音求助,騙走100萬美元。 受害人紛紛表示,很難描述電話中的聲音有多麼真實。 因為現在的AI聲音複製技術,讓聲音可以變得非常像。 騙子只需要一點材料,可能只是一個無辜的影片,你發到TikTok或Instagram,使用AI,你的聲音可以被複製。 AI語音生成軟體可以分析年齡、性別和口音的不同,並搜尋龐大的聲音資料庫,找到相似的聲音,然後重新生成。 通常從YouTube、TikTok、Instagram等地方就可以獲取音訊樣本。 我站在你面前,不是作為專家,而是作為關心的民族。 一家AI公司就另有音訊工具,將好萊塢巨星雷奧納多在一場氣候高峰會上的演說,仿製其他名人的聲音,重新配音。 我經常用幻想的角色來解決幻想的問題。 我相信人類在同樣的方式看著氣候改變,就像是幻想。 聽起來就像鋼鐵人小羅伯道尼、微軟創辦人比爾蓋茲幫李奧納多來配音。 在技術突飛猛進下,以前複製一個人的聲音,需要從被複製者身上獲取大量樣本,現在只需要幾秒鐘就可以生成出一個接近你的聲音。 甚至現在最新的技術,只要我的聲音五秒鐘,就可以讓一個程式碼學我的聲音來錄音、來錄影,來做各式各樣的回應。 要讓AI孫燕姿可以像孫燕姿一樣唱歌的做法也非常簡單,就是我必須讓電腦,必須讓AI去聽很多孫燕姿唱歌的紀錄、音樂還有樂曲, 讓電腦可以學會她的意洋頓挫跟她的發音呼氣的方式,那麼AI就可以學會用孫燕姿的方式來唱歌。 在美國這類的語音複製服務,每個月只需要五美元,任何人都可以使用,也讓過去被認為安全的聲紋系統存在明顯漏洞。 為報澳洲記者,就用AI模擬自己的聲音,順利進入了澳洲社福中心和澳洲稅務局,使用的聲紋安全系統。 還有一個可能的情況是,未來一代AI代理人應用越來越廣,該如何辨別真假又是另一個課題。 未來很可能你在網路上面聊天,或者你在網路上面聽演講,或者是聽一場課堂,你其實大概都沒有辦法保證這個人到底是不是真的人,還是他是一個AI。 我認為這其實還是會為未來帶來很多的風險,像我自己最近都開始跟我的家人約定好, 如果你接到一個聽起來像我,講話的方式也像我,內容也像我的人,不要輕易相信他就是我,我們會約定好一個家族密語,確認他能夠回答這個問題的答案,他才是我。

詐騙再進化，國內出現不法份子疑似使用AI深偽技術仿聲成一名男子，向他的母親行騙。刑事局不排除犯罪集團從不明電話、市調電話等管道，利用民眾接電話取得聲紋等特徵。資安專家也表示，只需要講話5秒鐘，就能把聲音仿造到7成像 內湖警方推測，不法集團結合深偽技術用AI仿聲行騙。 刑事局預防科偵查員趙雲說：「我們不排除詐騙集團會利用市調電話或是推銷電話，來藉此收集民眾的聲音，進行AI聲音偽造。」 刑事局不排除詐騙集團是由不明來電、市調電話，這類管道取得民眾聲紋。 資安專家劉彥伯表示，「持續講話5秒鐘，像我現在在講話，基本上5秒就可以做一個模仿。」

喂? 嘿? 對,請問你哪裡找? 你是不是接過陌生電話被推銷產品或是像這種? 喂? 電話接通完全沒聲音這可要小心了 恐怕是有人要趁機竊取你的聲音 可以立刻AI複製跟你一模一樣 先聽一下我剛才克隆了姚蜜的聲音 太可怕了 現在任何人都可以克隆任何人的聲音 別以為不可能 詐騙集團利用AI軟體 透過打騷擾電話複製聲音再拿去詐騙親友 過程可能只需要短短五秒鐘 詐騙犯只需要多給你打幾個騷擾電話 他們就可以生成你的專屬語音包 連足球劇情C羅都開口說中文 中英文轉換 這也是AI變造結果 AI還原音色語調連換氣都能學 幾乎真假難辨 尤其是像一些贅詞啊 一些那種音調啊 那其實很容易學的 大概七八句十句大概就可以學起來 只要騷擾電話防不勝防 避免聲音變詐騙集團蒐集 陌生來電別接 奇怪問卷別做 接通電話先別說話 但可以完全預防嗎 比如說如果有些陌生電話 可能就不跟他多講 直接把它掛掉 真的聽起來很像的 那可能要再次確認 AI科技每天都在進步 短短五秒騷擾電話 就可能偷走聲音去詐騙 讓人防不勝防 最保險的就是再打電話確認 以免下個受害的就是你 記者 葉宗盈 王書宏 高雄報導

更新一下最近關於AI的資訊，講一些「不好」的要特別注意的，近兩個月AI技術突飛猛進，包括之前人臉置換Deepfake ，到現在要Clone 一個人的「聲紋」進行詐騙只需要五分鐘訓練即可生成一個以假亂真的對話，現在已經有詐騙集團將ChatGPT引入客服系統，可想而知未來詐騙一定更難以被識破。 先說明一下如何破解Deepfake ，如果未來真的接到Deepfake 詐騙，可以請對方「摸鼻子」，甚至離開螢幕往後退，因為Deepfake 雖然可以進行人臉置換但卻缺乏人類可對應的生物特徵（很重要）。 如果是關於聲紋的部分，暫時的作法就是多和對方進行互動式交談，嘗試發出一些特殊聲音。 這對於長輩來說很重要，因為長輩較沒有能力辨識這些新的AI詐騙技術。 另一個我比較擔心的事情，現在有一種大數據模型可以收集使用者「語意」習慣，簡單的說就是透過使用者常用的關鍵詞，特殊斷句、特定錯字等使用習慣，透過大數模擬一個人用字遣詞，以假亂真的生成文章。 最近我的FB常常出現很多新的交友邀請，有時候一天超過200位（一看就是假帳號），IM等社群軟體常常受到撞庫攻擊，這些很明顯都是在收集使用者的行為模型，各位學長姐要特別留意，AI的時代，如果不認識就儘量不要接受好友邀請，如果收到邀請可以問一下她/他是誰，請他自我介紹，不要只是查看共同朋友，以上分享。

喂﹐先生您好,我是加利比銀行的,可以給您提供一張100萬額度的信用卡,還款期限為半年,請問您需要嗎﹐啊,不用,不用,沒有需要﹐我們還在做客戶調查問卷,佔用您一分鐘時間回答幾個問題,可以給您手機充值300元,您看可以嗎﹐只佔用您一分鐘﹐那行吧,你說吧﹐請問您是從事什麼職業的﹐上班﹐您生活在哪個城市呢﹐瀋陽﹐請您簡短介紹一下您的工作內容好嗎﹐簡單幾句話﹐ 就是在一般大公司打工混日子﹐忘了請教您怎麼稱呼﹐我姓田﹐那您的全名怎麼稱呼﹐田浩﹐謝謝﹐再見﹐等會,您這300元先花費﹐我當然知道他叫什麼﹐他的信息﹐他父母的信息﹐他親朋好友的信息﹐我都有﹐我只是叫他的聲音而已﹐然後我把他的聲音導入 AI軟件裏讓AI學習﹐這類軟件不止一種功能大同小異﹐學好之後﹐我讓他說什麼﹐他就會用田浩的聲音說出來﹐比如我錄製一段聲音說﹐喂媽,我田浩﹐那小二虎生病了,需要手術﹐你趕緊給我轉50萬﹐到醫院賬戶裏啊﹐我一會給你發﹐你快點啊﹐我現在﹐我得馬上去辦手續了﹐然後我把我的錄音導入軟件﹐選擇田浩的聲音模型 再跟電話裏的聲音對比一下﹐那行吧﹐你說吧﹐就是在一般大公司打工混日子唄﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音﹐換成各種要錢的聲音﹐我會給你發﹐你快點啊﹐我現在﹐我就馬上辦手續去了﹐再跟電話裏的聲音對比一下﹐那行吧﹐你說吧﹐就是在一般大公司打工混日子唄﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音� 換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音﹐換成各種要錢的聲音

喂? 嘿? 對,請問你哪裡是啊? 你是不是接過陌生電話被推銷產品或是像這種 喂? 電話接通完全沒聲音這可要小心了 恐怕是有人要趁機竊取你的聲音 可以立刻AI複製跟你一模一樣 先聽一下我剛才克隆了姚蜜的聲音 太可怕了 現在任何人都可以克隆任何人的聲音 別以為不可能 詐騙集團利用AI軟體 透過打騷擾電話複製聲音再拿去詐騙親友 過程可能只需要短短五秒鐘 詐騙犯只需要多給你打幾個騷擾電話 他們就可以生成你的專屬語音包 連足球劇情C羅都開口說中文 中英文轉換這也是AI變造結果 AI還原音色語調連換氣都能學 幾乎真假難辨 尤其是像一些贅詞啊 一些那種音調啊 那其實很容易學的 大概七八句十句大概就可以學起來 只要騷擾電話防不勝防 避免聲音被詐騙集團蒐集 陌生來電別接 奇怪問卷別做 接通電話先別說話 但可以完全預防嗎 比如說如果有些陌生電話 可能就跟他或跟他多講 直接把他掛掉 真的聽起來很像的 那可能要再次確認 AI科技每天都在進步 短短五秒騷擾電話 就可能偷走聲音去詐騙 讓人防不勝防 最保險的就是 再打電話確認 以免下個受害的就是你 記者 葉宗盈 王書宏 高雄報導 我是徐國豪 在中視新聞首次坐上主播台 體會到播報新聞所需要的穩健台風 以及掌握突發即時新聞的隨機應變 為觀眾播報最即時的新聞 就是展現專業的時刻 更多新聞請鎖定中視新聞YouTube頻道 記得按讚 訂閱 分享 並開啟小鈴鐺喔

喂﹐先生您好,我是加利比銀行的,可以給您提供一張100萬額度的信用卡,還款期限為半年,請問您需要嗎﹐啊,不用,不用,沒有需要﹐我們還在做客戶調查問卷,佔用您一分鐘時間回答幾個問題,可以給您手機充值300元,您看可以嗎﹐只佔用您一分鐘﹐那行吧,你說吧﹐請問您是從事什麼職業的﹐上班﹐您生活在哪個城市呢﹐瀋陽﹐請您簡短介紹一下您的工作內容好嗎﹐簡單幾句話﹐ 就是在一般大公司打工混日子﹐忘了請教您怎麼稱呼﹐我姓田﹐那您的全名怎麼稱呼﹐田浩﹐謝謝﹐再見﹐等會,您的300元花費﹐我當然知道他叫什麼﹐他的信息﹐他父母的信息﹐他親朋好友的信息﹐我都有﹐我只是叫他的聲音而已﹐然後我把他的聲音導入 AI軟件裏讓AI學習﹐這類軟件不止一種功能大同小異﹐學好之後﹐我讓他說什麼﹐他就會用田浩的聲音說出來﹐比如我錄製一段聲音說﹐喂媽,我田浩﹐那小二虎生病了﹐需要手術﹐你趕緊給我轉50萬﹐到醫院賬戶裏﹐我一會給你發﹐你快點﹐我現在﹐我得馬上去辦手續了﹐然後我把我的錄音導入軟件﹐選擇田浩的聲音模型 ﹐再跟電話裏的聲音對比一下﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音﹐換成各種要錢的聲音 ﹐如果我用這個技術﹐換成各種要錢的聲音 你能保證他們不給我轉錢嗎﹐

喂﹐先生您好,我是加利比銀行的,可以給您提供一張100萬額度的信用卡,還款期限為半年,請問您需要嗎﹐啊,不用,不用,沒有需要﹐我們還在做客戶調查問卷,佔用您一分鐘時間回答幾個問題,可以給您手機充值300元,您看可以嗎﹐只佔用您一分鐘﹐那行吧,你說吧﹐請問您是從事什麼職業的﹐上班﹐您生活在哪個城市呢﹐瀋陽﹐請您簡短介紹一下您的工作內容好嗎﹐簡單幾句話﹐ 就是在一般大公司打工混日子﹐忘了請教您怎麼稱呼﹐我姓田﹐那您的全名怎麼稱呼﹐田浩﹐謝謝﹐再見﹐等會,您的300元花費﹐我當然知道他叫什麼﹐他的信息﹐他父母的信息﹐他親朋好友的信息﹐我都有﹐我只是叫他的聲音而已﹐然後我把他的聲音導入 AI軟件裏讓AI學習﹐這類軟件不止一種功能大同小異﹐學好之後﹐我讓他說什麼﹐他就會用田浩的聲音說出來﹐比如我錄製一段聲音說﹐喂媽,我田浩﹐那小二虎生病了﹐需要手術﹐你趕緊給我轉50萬﹐到醫院賬戶裏﹐我一會給你發﹐你快點﹐我現在﹐我得馬上去辦手續了﹐然後我把我的錄音導入軟件﹐選擇田浩的聲音模型 ﹐再跟電話裏的聲音對比一下﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音﹐換成各種要錢的聲音 ﹐如果我用這個技術﹐換成各種要錢的聲音 你能保證他們不給我轉錢嗎﹐

接電話千萬別先開口！只需3秒 就可能成AI語音詐騙目標 2023-3-22世界日報新聞 如果你接聽一個陌生號碼的電話，一定要讓對方先說。電話另一端的人可能會錄下你的聲音片段，然後用它來模仿你。 這是美國聯邦貿易委員會(Federal Trade Commission)給大家的建議，該委員會警告消費者要當心騙子，這些騙子會偷偷錄下人們的聲音，然後偽裝成受害者的聲音，向受害者的親屬要錢。 在ChatGPT和微軟Vall-E等人工智能工具興起之際，美國聯邦貿易委員會描述了這樣一種情況。Vall-E是微軟今年1月展示的一種將文本轉換為語音的工具。Vall-E目前還沒有向公眾開放，但其他公司，如alike AI和ElevenLabs，已經推出了類似的工具。使用任何人的聲音樣本，這項技術可以準確地將書面句子轉換成令人信服的音頻。 聯邦貿易委員會消費者教育專家阿爾瓦羅·普伊格（Alvaro Puig）在該機構的網站上寫道：「你接到一個電話。電話里有人驚慌失措，說是你的孫子。他說他撞壞了車，進了監獄，有大麻煩了。需要你寄錢來幫忙。你深吸一口氣，然後思考可能是詐騙，但這聽起來就像他。」 只需3秒鐘 專家稱，犯罪分子正在利用廣泛使用的「語音克隆」工具來欺騙受害者，讓他們相信自己的親人遇到了麻煩，急需現金。它所需要的只是某人的一小段聲音，有時可以在互聯網上找到，如果沒有，也可以通過錄制垃圾電話來收集，再加上一個語音克隆應用程序，比如ElevenLabs的人工智能語音軟件VoiceLab。 加州大學伯克利分校的數字法醫學教授哈尼·法里德（Hany Farid）表示:「如果你在TikTok上錄制了一段聲音視頻，那就足夠了。」 他對此類騙局越來越多並不感到驚訝。「這是一個連續體的一部分。我們從垃圾電話開始，然後是電子郵件釣魚詐騙，然後是短信釣魚詐騙。所以這是這些騙局的自然演變。」 「不要相信聲音」 根據美國聯邦貿易委員會的說法，這在現實中意味著，你不能再相信那些聽起來與你朋友和家人的聲音完全相同的聲音。 「不要相信聲音，」聯邦貿易委員會警告說。「打電話給那個本該聯繫你的人，覈實一下這個故事。用一個你知道是他們的電話號碼。如果你聯繫不到你愛的人，試著通過其他家庭成員或他們的朋友與他們取得聯繫。」 Vall-E製造商微軟提到了這個問題，在一篇演示該技術的論文中，微軟發表了一份免責聲明，稱「濫用該模型可能會帶來潛在風險，比如欺騙語音識別或模仿特定的說話者。」該論文指出，如果該工具向公眾推出，它「應該包括一份協議，以確保說話者批准使用他們的聲音。」 今年1月，ElevenLabs在推特上寫道:「我們也看到了越來越多的語音克隆濫用案例。」 出於這個原因，該公司表示，身份驗證對於清除惡意內容至關重要，而且這項技術只需要付費才能使用。 如何保護自己 不法分子利用語音克隆軟件模仿聲音進行犯罪，提高警惕是很重要的。首先，如果你接聽一個未知號碼的電話，讓打電話的人先說話。如果你只說「你好？你是誰？」他們可以用那個音頻樣本來冒充你。 法里德說當他接到所謂的家庭成員(比如他的妻子)打來的電話時，他會問她一個他們已經知道的暗號。 這是對付高科技問題的低技術手段。美國聯邦貿易委員會還警告消費者不要相信來自未知方的來電，並建議人們以另一種方式覈實自稱來自朋友或家人的來電，例如撥打已知號碼的人或聯繫共同的朋友。 此外，當有人要求通過電匯、禮品卡或加密貨幣付款時，這些也可能是危險信號。 美國聯邦貿易委員會表示:「騙子要求你付款或匯款，讓你的錢很難拿回來。」#北美　#詐騙　#AI　

喂﹐先生您好,我是加利比銀行的,可以給您提供一張100萬額度的信用卡,還款期限為半年,請問您需要嗎﹐啊,不用,不用,沒有需要﹐我們還在做客戶調查問卷,佔用您一分鐘時間回答幾個問題,可以給您手機充值300元,您看可以嗎﹐只佔用您一分鐘﹐那行吧,你說吧﹐請問您是從事什麼職業的﹐上班﹐您生活在哪個城市呢﹐瀋陽﹐請您簡短介紹一下您的工作內容好嗎﹐簡單幾句話﹐ 就是在一般大公司打工混日子﹐忘了請教您怎麼稱呼﹐我姓田﹐那您的全名怎麼稱呼﹐田浩﹐謝謝﹐再見﹐等會,您的300元花費﹐我當然知道他叫什麼﹐他的信息﹐他父母的信息﹐他親朋好友的信息﹐我都有﹐我只是叫他的聲音而已﹐然後我把他的聲音導入 AI軟件里讓AI學習﹐這類軟件不止一種功能大同小異﹐學好之後﹐我讓他說什麼﹐他就會用田浩的聲音說出來﹐比如我錄製一段聲音說﹐喂媽,我田浩,那小二虎生病了,需要手術﹐你趕緊給我轉50萬﹐到醫院賬戶里﹐我一會給你發﹐你快點啊﹐我現在﹐我得馬上去辦手續了﹐然後我把我的錄音導入軟件﹐選擇田浩的聲音模型 ﹐再跟電話里的聲音對比一下﹐怎麼樣﹐他是用田浩的聲音模仿我的語氣說出的這段話﹐如果我用這個技術﹐偽裝成你的聲音﹐換成各種要錢的聲音 你能保證﹐發給你七八十歲的爸媽﹐你能保證﹐他們不給我轉錢嗎?