詐騙再進化，國內出現不法份子疑似使用AI深偽技術仿聲成一名男子，向他的母親行騙。刑事局不排除犯罪集團從不明電話、市調電話等管道，利用民眾接電話取得聲紋等特徵。資安專家也表示，只需要講話5秒鐘，就能把聲音仿造到7成像 內湖警方推測，不法集團結合深偽技術用AI仿聲行騙。 刑事局預防科偵查員趙雲說：「我們不排除詐騙集團會利用市調電話或是推銷電話，來藉此收集民眾的聲音，進行AI聲音偽造。」 刑事局不排除詐騙集團是由不明來電、市調電話，這類管道取得民眾聲紋。 資安專家劉彥伯表示，「持續講話5秒鐘，像我現在在講話，基本上5秒就可以做一個模仿。」

+ Deepfake 深偽技術 Q:甚麼是「Deepfake」? A:一種透過人工智慧深度學習的技術,歹徒 製造出逼眞的虛假影像和音訊,將人們的 臉孔和聲音合成到完全捏造的場景中。 歹徒可能冒充公衆人物、政府官員或其他 知名人士,以製造虚假信息、進行詐騙或 破壞他人形象。 AI深為詐騙手法破解之道 人的側臉、脖子等部位,現今軟體不會偵測分析及套用到, 因此側面影像會產生模糊狀,臉部跟脖子也會產生色差 如果忽然有親友、同事要求視訊,或是 生活中未見過的人、自稱檢警的公務人 員視訊,且在通話中要求民眾匯錢,民 衆可以要求對方轉頭、變換姿勢、露出 牙齒或在臉前揮手,就可以藉由影像破 綻分辨出對方是否使用深AI技術變臉, 避免受騙 內政部 慶 刑事警察局 警政署 CRIMINAL INVESTIGATION BUREAU 如遇到可疑的情況 請撥打165反詐專線

邀請您加好友 再請您幫我點開加好友喔 聽到這樣的電話內容 千萬別相信 這是警方首次查獲詐騙集團 結合AI語音機器人犯案 AI語音機器人 先撥打你的電話 然後跟你對話 對話之後 他是認為看你的反應 最適合的答案 給你設計一個 一套劇本的對話表 AI機器人依回應內容 語音情緒 判定對方是否有興趣 再發送簡訊 以提高詐騙效率 有40名被害人報案 累計財損達1億元 幾個月期間 我們就發現 這家人頭設立的一個投資公司 它已經發了 6千多萬則的一個簡訊 那我們在跟電信公司這邊 合作的部分就是 發現這家公司跟電信公司 是申請了155個門號 那這155個門號 我們去清查之後 也是覺得可疑的地方是說 它這家公司是沒有員工的 隨著AI技術進步 真假難辨 在美國近期也開始出現 越來越多 AI語音詐騙案例 這位媽媽 差點被AI女兒聲音求助 騙走100萬美元 受害人紛紛表示 很難描述電話中的聲音 有多麼真實 因為現在的AI聲音複製技術 讓聲音可以變得非常像 AI語音生成軟體 可以分析年齡 性別和口音的不同 並搜尋龐大的聲音資料庫 找到相似的聲音 然後重新生成 通常從YouTube TikTok Instagram等地方 就可以獲取音訊樣本 一家AI公司就利用音訊工具 將好萊塢巨星李奧納多 在一場氣候高峰會上的演說 仿製其他名人的聲音 重新配音 聽起來就像鋼鐵人小蘿蔔道尼 微軟創辦人比爾蓋茲 幫李奧納多來配音 在技術突飛猛進下 以前複製一個人的聲音 需要從被複製者身上獲取大量樣本 現在只需要幾秒鐘 就可以生成出一個接近你的聲音 甚至現在最新的技術 只要我的聲音五秒鐘 就可以讓一個程式碼 學我的聲音來錄音 來錄影 來做各式各樣的回應 要讓AI孫燕姿 可以像孫燕姿一樣唱歌的做法 非常簡單 就是我必須讓電腦 必須讓AI 去聽很多孫燕姿唱歌的紀錄 音樂還有樂曲 讓電腦可以學會她的一陽頓挫 跟她的發音呼氣的方式 那麼AI就可以學會 用孫燕姿的方式來唱歌 在美國這類的語音複製服務 每個月只需要五美元 任何人都可以使用 也讓過去被認為安全的聲紋系統 存在明顯漏洞 《衛報》澳洲記者 就用AI模擬自己的聲音 進入了澳洲社福中心 和澳洲稅務局 使用的聲紋安全系統 我只用了四分鐘的聲音 來產生我的假聲音 謝謝 你被證明了 還有一個可能的情況是 未來一代AI代理人 應用越來越廣 該如何辨別真假 又是另一個課題 未來很可能你在網路上面聊天 或者你在網路上面聽演講 或者是聽一場課堂 你其實大概都沒有辦法保證 這個人到底是不是真的人 還是他是一個AI 那我認為這其實 還是會為未來帶來很多的風險 像我自己最近都開始 跟我的家人約定好 如果你接到一個聽起來像我 講話的方式也像我 內容也像我的人 不要輕易相信他就是我 我們會約定好一個家族密語 確認他能夠回答這個問題 能夠回答這個問題的答案 他才是我 迎接時代來臨 眼睛看到 耳朵聽見的 不一定能為憑 最好再三確認 以測安全

邀請您加好友,再請您幫我點開加好友哦。 聽到這樣的電話內容,千萬別相信這是警方首次查獲詐騙集團結合AI語音《機器人》犯案。 AI語音《機器人》先撥打你的電話,然後跟你對話。 對話之後,它是認為看你的反應,又適合的答案給你設計一套劇本的對話表。 AI語音《機器人》依回應內容、語音情緒,判定對方是否有興趣,再發送簡訊,以提高詐騙效率。 有40名被害人報案,累計財損達1億元。 幾個月期間,我們就發現這家人頭設立的一個投資公司,它已經發了6000多萬的簡訊。 我們在跟電信公司這邊合作的部分就是,發現這家公司跟電信公司是申請了155個門號。 這155個門號我們去清查之後,也是覺得可疑的地方是說,這家公司是沒有員工的。 隨著AI技術進步,真假難辨,在美國近期也開始出現越來越多AI語音詐騙案例。 我看到她的孫子的名字在電話號碼上,她聽到她說的一聲聲音就像他一樣,說他遇到一場意外。 他就說,奶奶,我破了我的鼻子。 我女兒的聲音在哭泣,我叫媽媽,幫幫我! 這位媽媽差點被AI女兒聲音求助,騙走100萬美元。 受害人紛紛表示,很難描述電話中的聲音有多麼真實。 因為現在的AI聲音複製技術,讓聲音可以變得非常像。 騙子只需要一點材料,可能只是一個無辜的影片,你發到TikTok或Instagram,使用AI,你的聲音可以被複製。 AI語音生成軟體可以分析年齡、性別和口音的不同,並搜尋龐大的聲音資料庫,找到相似的聲音,然後重新生成。 通常從YouTube、TikTok、Instagram等地方就可以獲取音訊樣本。 我站在你面前,不是作為專家,而是作為關心的民族。 一家AI公司就另有音訊工具,將好萊塢巨星雷奧納多在一場氣候高峰會上的演說,仿製其他名人的聲音,重新配音。 我經常用幻想的角色來解決幻想的問題。 我相信人類在同樣的方式看著氣候改變,就像是幻想。 聽起來就像鋼鐵人小羅伯道尼、微軟創辦人比爾蓋茲幫李奧納多來配音。 在技術突飛猛進下,以前複製一個人的聲音,需要從被複製者身上獲取大量樣本,現在只需要幾秒鐘就可以生成出一個接近你的聲音。 甚至現在最新的技術,只要我的聲音五秒鐘,就可以讓一個程式碼學我的聲音來錄音、來錄影,來做各式各樣的回應。 要讓AI孫燕姿可以像孫燕姿一樣唱歌的做法也非常簡單,就是我必須讓電腦,必須讓AI去聽很多孫燕姿唱歌的紀錄、音樂還有樂曲, 讓電腦可以學會她的意洋頓挫跟她的發音呼氣的方式,那麼AI就可以學會用孫燕姿的方式來唱歌。 在美國這類的語音複製服務,每個月只需要五美元,任何人都可以使用,也讓過去被認為安全的聲紋系統存在明顯漏洞。 為報澳洲記者,就用AI模擬自己的聲音,順利進入了澳洲社福中心和澳洲稅務局,使用的聲紋安全系統。 還有一個可能的情況是,未來一代AI代理人應用越來越廣,該如何辨別真假又是另一個課題。 未來很可能你在網路上面聊天,或者你在網路上面聽演講,或者是聽一場課堂,你其實大概都沒有辦法保證這個人到底是不是真的人,還是他是一個AI。 我認為這其實還是會為未來帶來很多的風險,像我自己最近都開始跟我的家人約定好, 如果你接到一個聽起來像我,講話的方式也像我,內容也像我的人,不要輕易相信他就是我,我們會約定好一個家族密語,確認他能夠回答這個問題的答案,他才是我。

這樣 有活屍 這樣 你真的認為跟你聊天的是你認識的那個我嗎? 看了一開頭的這個幻影回笑 你是不是跟我一樣蛤貓都豎起來了? 我告訴你 尤其是女孩更要注意了 詐騙集團很有可能拿你這一張臉 通過 AI 的技術生成不雅飾品 放到非法網站去牟利 他們不只賺這個錢 甚至回過頭來再敲詐你 如果你不轉贊給他 就威脅你把這段不雅的影片 發送給你的好友、你的公司等等 你想想 你的身體特徵除了你媽跟你老公知道之外 他們會相信你這不是你本人 那其他人呢? 你該如何自證清白? 這真的是細思極恐 那騙子如何做到的呢? 首先要收集你的照片 使用 AI 的技術去進行合成 那麼臉部的訊息從何而來的? 第一 社交媒體上的照片以及朋友圈裡面 家人跟朋友當中的合照 第二 使用不明的免費 Wi-Fi 一旦你輸入手機號碼去登錄 手機的資料就很可能被黑客收集了 第三 中獎後拉票的網址 這個網址你一打開 就是很多很多的申請 你一旦授權了 這些資料全部都被詐騙集團所掌握了 再來 就是要獲取你的聲音啦 你們有沒有常常接到 有人打電話來 你好 我們公司現在正在做什麼什麼活動 講了很久 後來發現 對方莫名其妙把電話掛了 這很有可能 就是在收集我們的聲音 還有一些電話是打來不說話的 其實就是在等我們主動開口 獲取你的聲音之後 再根據我們的音色 聲線特點跟口音 就可以直接模擬你的聲音 你講的話越多 AI模擬的就越詳盡 這個就是AI的專業 好了 既然有了你爸媽的聯絡方式 再用AI生成一張跟你一模一樣的臉 一模一樣的聲音 再加上一些緊急的特殊狀況 爸 我出車禍了 在醫院急需三萬塊 或是傻笑的跟你說 媽 我在日本玩 錢不夠 我好愛你 可不可以匯錢給我 對於年輕人 都不一定能夠躲得過 何況是老人家呢 他們能夠防得住嗎 AI詐騙的技術 真的是日行月異 你跟我 都有可能成為下一個受害者 那麼如何識破AI的騙局呢 第一 如果對方開視訊 你可以提示他 臉上有髒東西 手在面部移動的時候 如果臉部有變形或者扭曲 那就是有問題 二 向對方提問 只有你們兩個知道的問題 如果對方答不上來 或是吞吞吐吐的 就可以馬上掛斷了 第三 如果要交付金錢的部分 一定要現場支付 四 如果發現對方是騙子 而且錢已經轉給對方了 第一件事情一定是先報警 這個動作越早做 越有可能儘速的凍結這筆錢 AI技術真的非常強大 我們不僅要了解這件事情的真相 更要知道如何來防範 Kiki姐建議 現在開始最好跟你身邊的人 討論一個暗號 譬如 一加一 等於泡菜鍋 那像這種答案 哪怕是再強大的技術 也解答不了這種拐彎的問題 好了 影片看完了 也別一個人知道而已 把它發給你身邊的人吧

AI生物信息詐騙：要的不是你的錢而是你這個人 最新「求助型騙局」： 「停止幫助陌生人使用手機！」 「短短30分鐘就能讓你傾家蕩產！」 這不是普通的電信詐騙--它比電詐還狠得多。 它不需要你轉賬、不需要你輸密碼、甚至不需要你相信騙子：只要你「好心幫個忙」。 最近一種新型的「求助騙局」出現在商場、地鐵站、菜市場、和公共場所。 騙子通常偽裝成彬彬有禮的中老年人，說自己不會用手機，需要查詢養老金、查補貼、點錯了頁面，請你幫個忙操作一下手機。 🔹重點來了： 你一接過手機，它通常是—— ～屏幕亮著 ～正在進行「視像通話」 ～或後台已開啟「錄屏」或「人臉識別」功能 視頻另一端的人正在監視你，而你以為自己在幫人，實際上「你正被採集生物信息」。 這不是普通詐騙：這是「AI生物信息詐騙」 他們要的不是你的錢，而是你這個人。 只要你做了以下任何一件事： ～觸摸對方手機(指紋) ～唸了數字、驗證碼(確認語音) ～面向着手機屏幕說話、操作(人臉動態) 恭喜你，你的「三大核心生物信息」： 🔹指紋+ 語音+ 人臉——就可能已經被盜 🔹現今的AI技術就可以直接生成一個和你一模一樣的「數位克隆」。 接下來發生的事情會令人膽寒： 騙子會利用你的「數位克隆」去做什麼？ ～申請網貸 ～申請消費信貸 ～套現、提取信用額度 ～自動通過人臉識別、語音驗證 短短30分鐘內，你能貸的、能借的、能轉的，全部清空。 等你收到平台賬單時，你才發現：不是錢沒了，而是背了一身債, 而且金額可能高達數十萬、甚至上百萬。 牢記這三條「救命法則」： 🔹第一 ～永遠不要幫任何陌生人操作手機 ～不觸摸、不點擊、不查看、不唸讀任何內容 ～即使他說「只點一下」 🔹第二 ～接到陌生視訊通話：立即掛斷 ～永遠不要配合任何「對著鏡頭說話」的請求 🔹第三 ～將此訊息分享給老人、孩子、心軟、善良、愛幫人的朋友 ～他們現在專門盯著好人 ～騙子在科技上升級了 最後提醒：千萬別抱持著「我不會那麼倒楣」或「我這麼聰明，不會中招」的想法。騙子抓的, 正是你這種自信和善良的人。

張片集團是怎麽用這種AI的身為技術來變臉 可以讓你幻象另外一張臉 變成甚至變明星的臉 來看一下這個技術是怎麽達到的 開啟這個軟體之後 你可以看到它的畫面有四個畫面 第一個是它會截取你的原本的面部 臉是長什麽樣子 然後中間這個呢 它是會分析你臉上的一些數據 就是例如說你的眼距呀 或是它會抓你臉上的一些點 第三個的話就是選你要套用的是什麽樣的人 像我們現在套用的是明星姬努李維 那第四個就是把你的臉像跟要套用的這個模型結合 之後輸出的這個樣子 大家可以看到我的臉像就變成姬努李維的臉 那接下來我們要教民衆來去識別一下 用什麽樣的技巧可以知道對方是使用了這個身為的技術 因為這個技術它只能套用在你的臉部上面 所以例如說像是你的側面 還有脖子這邊就不會套用到 所以你可以看到側臉的部分其實是會模糊的 然後你的臉跟你的脖子的色差也是會蠻嚴重的 再來因為它只是針對你的臉部 所以像手指這種就沒有辦法套用到模型 所以如果當你的手在臉前揮的話 就會有快要透明的效果 然後也會導致你的臉部的面部是扭曲的 好,我現在來試一個女生的樣子好了 好,一樣套上之後我就變成了另外一張臉了,對不對 那再給大家看一下就是在側臉的部分 也確實是會有扭曲的現象 那如果手指在眼前揮的話 你就會看到那個臉部突然就一陣一陣模糊 然後手指不見這樣子 他們在裡面呢,自己有創建了很多不同的臉部的模型 像這樣子我就看起來好像不同國家的人 然後性別也不一樣了 那一樣看到這個側面 這個側臉的部分就會是模糊的 所以如果民眾跟對方有視訊講話的機會的話 可以利用這一些技巧 就是例如說要求對方做一些不同的姿勢啊 或者是要求他揮手啊 用這種方式來判別他是不是有套用這個 AI變臉的身為技術 近來國內也有類似的詐騙受害案件 本局在此呼籲國人對於詐騙集團 運用新型態的身為技術 以聲音及影像進行詐騙的手段 需要特別留心,謹慎辨識

早上睡醒的收到一個Line,很久都不會聯絡過的一個好友的這個Line。 然後他就發了一個11年9月免費申請紓困8000塊,給你一個網址,然後問你9月你申請了嗎? 沒申請過可以領8000,我已經確定入帳,趕快去領,然後貼一個他已經領到錢的截圖給你看。 然後如果你點這個網址點下去,他是跑到一個寫衛生福利簿怎麼樣,然後你就可以直接去申請,還有線上客服呢。 我本來想說我現在沒事呢,我想說早上收到這個訊息,我來看看我能不能也領個8000塊。 你申請下去呢,他要你的姓名、身份證字、online ID,還有你的住址,很明顯這個是在要你的個人資料。 你不管點哪一個超連結,什麼位置圖啊,你私權政策啊,都是讓你填個人訊息。 然後你再看這個網址,這個網址不是政府單位的網址,他後面雖然寫個gov.com,但是政府網址的。 應該是要gov.tw才是政府單位的網址,他如果前面都是別的東西,加上gov.com。 一般人看到這個gov就覺得是政府的了,他政府單位的是.gov.tw,所以詐騙的人會以假亂真,會告訴你紓困怎麼樣,要給你錢,都是要騙你的。 我們再到衛福部他的網站,你看他這邊是不是.gov.tw,這是衛福部,這是他的公告資料,111年8月7號他已經公告了。 衛福部澄清因應擴大緊急紓困,去年110年6月30日就截止了,現在根本沒有任何的紓困或補助計劃,不會有任何的簡訊或電話通知民眾紓困。 各位如果收到這種訊息,一定要小心,不要被騙,因為現在沒有白吃的午餐,千萬不要把你的個資送出去,要小心。

在網路上傳播的影片的逐字稿。內容如下： 就算你沒有說話,你給他一段文字,他也能直接地合成。 近期,國內外警方都接到利用AI換臉技術實施電信詐騙的報案。 據報導,甚至還有人試圖用這個技術,詐騙某知名數字貨幣交易所。 想象一下,你和你的生意夥伴正在視頻聊天,暢談合作項目,對方要求你給他匯款。 但實際上,你的生意夥伴正在睡大覺,和你視頻聊天的只是一個盜用了他的臉的騙子,是不是細思極恐? 但是,AI換臉詐騙也並不是毫無破綻,只要多加留意,學會兩招,就可以輕鬆戳破他的話題。 第一,如果你在視頻聊天時,擔心對方有AI換臉詐騙的可能,你可以要求對方將一根手指或者其他物體放在臉前來回移動。 第二,你可以要求對方將臉左轉或右轉,然後觀察他的側臉。 這兩個小技巧對識別AI換臉詐騙非常有效,這是因為犯罪分子訓練AI算法時,使用的基本都是正面照片。 所以,AI程序無法處理好突然在臉前出現的物體,也無法處理好側臉。 此時,對方如果是AI換臉的話,他的面部就會出現扭曲變形。你學會了嗎?

在網路上傳播的影片的逐字稿。內容如下： 就算你沒有說話,你給他一段文字,他也能直接地合成。 近期,國內外警方都接到利用AI換臉技術實施電信詐騙的報案。 據報導,甚至還有人試圖用這個技術,詐騙某知名數字貨幣交易所。 想象一下,你和你的生意夥伴正在視頻聊天,暢談合作項目,對方要求你給他匯款。 但實際上,你的生意夥伴正在睡大覺,和你視頻聊天的只是一個盜用了他的臉的騙子,是不是細思極恐? 但是,AI換臉詐騙也並不是毫無破綻,只要多加留意,學會兩招,就可以輕鬆戳破他的話題。 第一,如果你在視頻聊天時,擔心對方有AI換臉詐騙的可能,你可以要求對方將一根手指或者其他物體放在臉前來回移動。 第二,你可以要求對方將臉左轉或右轉,然後觀察他的側臉。 這兩個小技巧對識別AI換臉詐騙非常有效,這是因為犯罪分子訓練AI算法時,使用的基本都是正面照片。 所以,AI程序無法處理好突然在臉前出現的物體,也無法處理好側臉。 此時,對方如果是AI換臉的話,他的面部就會出現扭曲變形。你學會了嗎?