※ 本文為 Knuckles 轉寄自 ptt.cc 更新時間: 2024-04-01 23:43:07
看板 Gossiping
作者 標題 [新聞] OpenAI認了「人聲複製新工具」太危險
時間 Mon Apr 1 14:39:55 2024
1.媒體來源:東森新聞雲
2.記者吳美依
3.完整新聞標題:
OpenAI認了「人聲複製新工具」太危險 不宜全面開放
4.完整新聞內文:
https://cdn2.ettoday.net/images/7351/d7351915.jpg
![[圖]](https://cdn2.ettoday.net/images/7351/d7351915.jpg)
美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」，只需要短短15
秒的說話聲音樣本，就能複製出此人聲音。不過，該公司也認定這項語音複製工具風險太大
，不適合全面發布。
秒的說話聲音樣本，就能複製出此人聲音。不過，該公司也認定這項語音複製工具風險太大
，不適合全面發布。
「Voice Engine」於2022年首次研發，初始版本被使用在ChatGPT內建文字轉語音功能。其
生成結果不受聲音樣本語種限制，若說的是英文，這項技術可使用你的聲音，生成西班牙語
、法語等其他語言結果。不過，考量到存在濫用風險，現階段僅提供合作夥伴使用，尚未對
外開放。
生成結果不受聲音樣本語種限制，若說的是英文，這項技術可使用你的聲音，生成西班牙語
、法語等其他語言結果。不過，考量到存在濫用風險，現階段僅提供合作夥伴使用，尚未對
外開放。
《衛報》報導，OpenAI延遲推出「Voice Engine」，是為了在至關重要的全球大選年，最大
限度地減少假消息出現的可能性。
OpenAI在一篇貼文中表示，目前「Voice Engine」的生成結果都有浮水印，以利追蹤生成式
音檔的來源。與合作夥伴的使用條款也規定，必須取得原始說話者的明確知情同意，更不允
許開發人員讓個人用戶自行創造聲音檔案。
音檔的來源。與合作夥伴的使用條款也規定，必須取得原始說話者的明確知情同意，更不允
許開發人員讓個人用戶自行創造聲音檔案。
OpenAI表示，「目前選擇預覽而非廣泛發布這項技術」，是為了強化社會面對「更具說服力
的生成式模型」的能力，呼籲逐步淘汰語音認證，作為登入銀行帳戶或其他敏感資訊的安全
措施，制定在AI領域使用個人聲音的保護政策，以及推廣理解AI能力與限制、包括欺騙性內
容的公眾教育。
的生成式模型」的能力，呼籲逐步淘汰語音認證，作為登入銀行帳戶或其他敏感資訊的安全
措施，制定在AI領域使用個人聲音的保護政策，以及推廣理解AI能力與限制、包括欺騙性內
容的公眾教育。
OpenAI寫道，「我們希望針對負責任地使用合成聲音，以及社會如何適應這些新功能，展開
一場對話」，並且根據對話結果及小規模測試，對於是否、如何大規模使用這項技術，做出
更明智的決定。
一場對話」，並且根據對話結果及小規模測試，對於是否、如何大規模使用這項技術，做出
更明智的決定。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://www.ettoday.net/news/20240401/2710876.htm
OpenAI認了「人聲複製新工具」太危險 不宜全面開放 | ETtoday國際新聞 | ETtoday新聞雲
![[圖]]()
美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」，只需要短短15秒的說話聲音樣本，就能複製出此人聲音。不過，該公司也認定這項語音複製工具風險太大，不適合全面發布。(OpenAI,ChatGPT,Voice Engine) ...
![[圖]](https://cdn2.ettoday.net/images/7351/e7351915.jpg)
6.備註:
o'-'o
--
▄▄▅▄▄ ▄▄▅▄▄ ▂▂▃▂ ▁▁▂▁ ▲▲▅▅▃▃ .-——-﹏﹏
▊▎ ▄▄▄▄ ▊▎ Trinity ◢| \ ▼▼ ◤/ ▁▁▲▲◆◆ ◢\ ▇▅▅ ☆☆∕▄▄▅▄▄ \
▄▄▄▄▄▄▄▄ ▲▲◤◤◣◣◣ ▼▼ ( ◢◢◢◢▲▲▲▲ ▲▲◤◤▼▼◣◣※ ▄▄◥◥▼▼▼▼▼▼
▄▄▄▃▃▄▄▄▄▃▄▄ Make-Up ◢◢● ●▲▲ ▍▆▆ ▆▆▏ ▲▲● ●◣◣ ▲▲▲▲⊙ ⊙▅▅◆◆
▊▎ ▄▄▊▎ ▼▼▲▲ ▂ ▲▲◢◢ ▊▲▲ ～～ ▍▍ ▏ ▲▲ ▼ ▲▲◣◣ ▲▲/▇/▲▲ ▼▼
▃▃ ▃▃ Work Club ▲▲▲▲▅▅◢◢ ▲▲ ▍▲▲▆▆▄▄▎▎ ▼▼●●▆▆▆▼▼▍ ▲▲▆▆┴▅▅▃▃▲▲
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.230.149.98 (臺灣)
※ 作者: Israfil 2024-04-01 14:39:55
※ 文章代碼(AID): #1c2bQ-1I (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1711953598.A.052.html
推 : 統神早就有了 不愧是神1F 101.10.46.205 台灣 04/01 14:40
推 : 放心 肯定快氾濫了2F 59.125.79.58 台灣 04/01 14:40
→ : 台灣政治人物以後說過啥話都可以不用認了3F 125.227.40.62 台灣 04/01 14:40
→ : 沒事本來就有了 還是更猛?4F 42.73.180.78 台灣 04/01 14:40
推 : 當有第一個出現，大量出現是遲早的事5F 58.80.21.170 日本 04/01 14:41
噓 : 翻譯: 多給點錢就開放這功能6F 118.160.206.139 台灣 04/01 14:41
→ : 你隨便到github上都能找到成熟的相7F 111.254.92.146 台灣 04/01 14:41
→ : 連我媽 都以為AI是我 本尊是假的^^8F 103.59.108.73 台灣 04/01 14:41
→ : 似軟體，講得什麼先進東西一樣笑死9F 111.254.92.146 台灣 04/01 14:41
→ : 幾百年前就已經超級氾濫的東西
→ : 幾百年前就已經超級氾濫的東西
推 : 柯南11F 211.23.129.170 台灣 04/01 14:42
推 : 詐騙的極致12F 223.140.228.107 台灣 04/01 14:42
推 : 統神都一堆了 sb13F 36.224.120.249 台灣 04/01 14:43
推 : 配音員全面失業14F 39.9.103.227 台灣 04/01 14:43
推 : 早就有了15F 27.67.123.245 越南 04/01 14:44
推 : 詐騙集團一定會弄到手16F 203.190.20.137 台灣 04/01 14:44
→ : 我準備開間 生前複製 公司把 志玲嘉嘉數位化17F 36.231.82.47 台灣 04/01 14:44
→ : 拜託，都一堆用ai 外國歌手聲音唱中文歌了18F 49.217.192.22 台灣 04/01 14:45
→ : 木村拓哉金城武也數位化做成AI19F 36.231.82.47 台灣 04/01 14:46
→ : 來不及了 詐騙集團都弄到手了20F 111.240.129.145 台灣 04/01 14:47
推 : 風險太大XDD21F 49.159.219.21 台灣 04/01 14:47
→ : 這個用在老人死去後遺產分配上用22F 220.135.207.212 台灣 04/01 14:47
推 : 選前: 貪汙錄音證據 抓到了23F 140.112.175.204 台灣 04/01 14:47
→ : 這件事情 哪一年美國選舉會出現呢?
→ : 這件事情 哪一年美國選舉會出現呢?
→ : 即使是不孝子也能靠AI變造口述遺囑25F 220.135.207.212 台灣 04/01 14:48
推 : 柯南表示 :26F 122.118.170.194 台灣 04/01 14:48
推 : 一堆開源早就到處流竄了27F 114.26.86.19 台灣 04/01 14:48
→ : 這東西真的會影響的 是聲紋辨識的保安系統28F 103.59.108.73 台灣 04/01 14:48
推 : 不開放=我可以用 你們不能用～29F 1.136.104.158 澳大利亞 04/01 14:48
→ : 拿到大量財產30F 220.135.207.212 台灣 04/01 14:48
推 : 詐騙集團要爽到射精了31F 49.216.110.11 台灣 04/01 14:48
推 : 已經夠氾濫了32F 223.136.118.184 台灣 04/01 14:48
→ : 人耳聽起來像 跟聲紋比對系統相比 太粗糙33F 103.59.108.73 台灣 04/01 14:49
→ : 大陸網路卡通早就一堆明星AI配音了34F 114.26.86.19 台灣 04/01 14:49
→ : 很快就會在政治上 出現了35F 42.79.244.160 台灣 04/01 14:49
噓 : 內文根本沒說不開放 而且已經給他們36F 118.160.206.139 台灣 04/01 14:49
推 : 有錢的還不是照用 變普通人用不到而已37F 101.10.67.35 台灣 04/01 14:49
→ : 目前用最多聲紋比對的 就各國的類FBI CIA38F 103.59.108.73 台灣 04/01 14:49
→ : 的合作夥伴使用了 簡單來說就是要錢39F 118.160.206.139 台灣 04/01 14:50
→ : 以後就影像照片音檔都不能當證據的時代40F 223.137.12.43 台灣 04/01 14:50
推 : 詐騙集團爽到翻來覆去41F 114.137.247.221 台灣 04/01 14:50
→ : 法院目前也是蠻多接受聲紋比對的^^42F 103.59.108.73 台灣 04/01 14:50
推 : 15秒？？？43F 111.240.209.185 台灣 04/01 14:51
推 : 以後很難證明你媽是你媽了44F 223.137.193.246 台灣 04/01 14:52
推 : 以後要假新聞滿天飛了45F 42.79.7.60 台灣 04/01 14:52
→ : 陳菊avi真的要上市了46F 223.137.150.71 台灣 04/01 14:52
→ : 林百里.rar47F 36.239.247.42 台灣 04/01 14:53
推 : 黨被錄影的都是Deepfake被錄音都OpenAI48F 223.137.70.26 台灣 04/01 14:53
推 : 台灣詐騙新創產業再創高峰49F 42.71.124.185 台灣 04/01 14:53
推 : 雖然，但是，這東西早就有了，GitHub上面50F 27.247.66.249 台灣 04/01 14:53
→ : 隨便找都有
→ : 隨便找都有
推 : 詐騙集團的終極工具52F 39.12.9.252 台灣 04/01 14:53
→ : 假圖片假音檔假影片都有了 看你以後怎鬥53F 211.20.117.1 台灣 04/01 14:53
推 : 早就有了54F 42.72.145.96 台灣 04/01 14:55
推 : 看來是收費功能55F 101.136.104.176 台灣 04/01 14:56
推 : 詐騙集團新工具56F 36.229.99.197 台灣 04/01 14:58
→ : 花了那麼多錢 敵不過道德風險57F 110.28.34.163 台灣 04/01 14:59
推 : 詐騙集團表示興奮58F 61.220.127.70 台灣 04/01 15:00
推 : 早就來不及了吧59F 60.250.201.82 台灣 04/01 15:00
推 : 統神AI60F 114.137.79.106 台灣 04/01 15:01
推 : 台灣早就用過這詐騙了61F 220.129.25.98 台灣 04/01 15:05
推 : 連打電話都無法辨識真假啦62F 42.71.46.58 台灣 04/01 15:06
推 : 不是早就有了63F 123.194.149.99 台灣 04/01 15:09
![[圖]](https://imgur.disp.cc/3W/A5OJsbe.jpg)
→ : 視訊都有假的了何況聲音65F 39.10.48.249 台灣 04/01 15:12
→ : 我怎記得就算openai不開放 仿間一堆這66F 42.77.236.134 台灣 04/01 15:13
推 : 貝克街的亡靈就有了 還在那新工具67F 49.218.95.130 台灣 04/01 15:13
→ : 種工具68F 42.77.236.134 台灣 04/01 15:13
推 : 台灣詐騙集團必備69F 42.79.159.110 台灣 04/01 15:14
推 : 矽谷群俠演過了70F 111.255.101.125 台灣 04/01 15:16
推 : 早就流通了吧 話說配音員是不是要失業71F 210.242.25.55 台灣 04/01 15:20
推 : 聲紋解鎖要全部作廢了72F 124.8.37.118 台灣 04/01 15:23
→ : 不意外，以前沒見到人前都是假的。73F 175.181.113.10 台灣 04/01 15:23
→ : 後
→ : 後
推 : 很快對岸就會有公司放出來了75F 27.242.102.165 台灣 04/01 15:29
推 : 詐騙集團肯定拿來大用特用76F 61.216.55.178 台灣 04/01 15:31
推 : 這應該是複製聲紋了 如果沒對應的破解77F 36.226.90.148 台灣 04/01 15:32
→ : 等於會無法確定到底是本人還AI講的話
→ : 等於會無法確定到底是本人還AI講的話
推 : 同人里番已經用的很爽了 啊嘶~79F 49.216.104.26 台灣 04/01 15:33
→ : 詐騙新工具80F 60.248.119.235 台灣 04/01 15:35
推 : 配音員應該還好 主播這種比較危險81F 101.10.67.35 台灣 04/01 15:36
推 : 不可能的任務就玩過了82F 101.10.14.116 台灣 04/01 15:38
→ : 詐騙集團 嘿嘿嘿83F 36.229.130.195 台灣 04/01 15:42
→ : 台灣詐騙集團已經準備開高薪挖角AI人才84F 118.171.1.247 台灣 04/01 15:44
→ : 以後錄音可能也不能當證據了85F 111.253.194.5 台灣 04/01 15:52
推 : 不用請歌手唱現場，改請AI。86F 42.73.127.54 台灣 04/01 15:56
→ : 我以為詐騙集團已經開始用了87F 42.72.37.15 台灣 04/01 15:58
→ : 現在才想到？88F 114.137.207.22 台灣 04/01 16:03
推 : 越想越恐怖89F 114.136.92.118 台灣 04/01 16:04
→ : ai統神曲目多到可以出合輯了才在講不安90F 42.73.213.18 台灣 04/01 16:04
→ : 全
→ : 全
推 : 詐騙神器92F 223.138.18.99 台灣 04/01 16:24
推 : 詐騙升級93F 42.72.49.184 台灣 04/01 16:26
→ : 現在才小心也太遲鈍，網路上都一堆A94F 114.33.43.57 台灣 04/01 16:34
→ : i翻唱了，被拿來犯罪是遲早的事
→ : i翻唱了，被拿來犯罪是遲早的事
推 : 熊哥哥的聲音都早就被玩到壞掉了96F 42.78.54.8 台灣 04/01 16:38
推 : 你不出 其他人也會出97F 1.172.0.79 台灣 04/01 16:39
推 : 柯南那個都是真的98F 223.137.228.154 台灣 04/01 16:39
推 : 早晚會一堆公司做得出來 擋也沒用99F 49.216.192.237 台灣 04/01 16:43
推 : 詐騙又取得重大突破了科科100F 207.174.28.181 美國 04/01 16:44
推 : 哥哥的心焦U真的好頂 還有瘸瘸的101F 118.166.153.39 台灣 04/01 16:45
噓 : This is Tony Your homie102F 42.73.50.238 台灣 04/01 16:48
推 : 詐騙大勝利103F 49.217.193.227 台灣 04/01 16:48
推 : 台語有辦法嗎？104F 122.121.227.136 台灣 04/01 16:52
推 : 可以用AI叫hey! Siri105F 42.77.118.104 台灣 04/01 16:59
→ : misson impossible 第幾集？106F 101.137.18.43 台灣 04/01 17:07
→ : AI影像目前還很假 但聲音就不知道了107F 60.250.51.145 台灣 04/01 17:17
推 : 有錄音為證，傳位于四子108F 123.195.0.100 台灣 04/01 17:18
→ : 以後就是人造人時代了...人類會被AI取代109F 101.0.236.184 台灣 04/01 17:24
推 : 詐騙集團表示110F 49.215.22.118 台灣 04/01 17:27
推 : 遲早的111F 114.46.111.139 台灣 04/01 17:28
→ : 以後只能講台語
→ : 以後只能講台語
推 : 詐騙集團：商機來囉…113F 49.217.192.123 台灣 04/01 17:39
→ : 已經有一堆開源的114F 61.230.246.215 台灣 04/01 17:41
推 : 晚了115F 27.67.123.245 越南 04/01 17:43
推 : AI遲早會毀了世界秩序116F 223.136.147.75 台灣 04/01 18:00
→ : Mission Impossible3, what is rab117F 223.137.142.99 台灣 04/01 18:12
→ : bit foot?
→ : bit foot?
推 : 詐騙好幫手119F 223.136.66.248 台灣 04/01 18:31
→ : 合作夥伴才能用，感覺更危險120F 114.27.29.230 台灣 04/01 18:38
推 : 來不及了121F 219.85.228.111 台灣 04/01 18:48
推 : AI孫燕姿表示122F 220.143.75.156 台灣 04/01 18:52
推 : 有這個選舉會被拿來抹黑123F 223.141.138.63 台灣 04/01 18:53
推 : 阿不就變聲器124F 126.156.183.132 日本 04/01 19:05
推 : 沈睡的小五郎125F 124.218.229.88 台灣 04/01 19:32
推 : 這東西不算違法肖像權嗎？126F 223.136.98.174 台灣 04/01 19:55
→ : b站都已經教你怎麼搞了你新聞現在才出127F 111.83.54.218 台灣 04/01 20:45
推 : 數位世界會不會因此崩掉？還是成長128F 111.254.102.156 台灣 04/01 21:12
→ : AI有沒有認為政治人物很危險?129F 36.228.152.39 台灣 04/01 21:20
→ : 詐騙早就拿來用了 還要你開放喔 笑死130F 218.35.130.171 台灣 04/01 21:21
推 : 詐騙集團準備好了131F 223.137.4.135 台灣 04/01 21:29
推 : 世界進入失序的開始132F 39.15.17.217 台灣 04/01 22:16
推 : 統神已經唱遍所有熱門金曲了134F 111.83.245.47 台灣 04/01 22:30
→ : 看看咱們台灣人135F 36.228.92.130 台灣 04/01 22:31
推 : 銀行肯定是等到遍地開花才會開始動作啊136F 218.35.163.91 台灣 04/01 23:16
→ : ，所以就直接放出來吧
→ : ，所以就直接放出來吧
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 837
作者 Israfil 的最新發文:
![]()
桃園市某高中11月19日在桃園某農場舉辦2天1夜的新生成長營，不過卻引發不少學生不滿， 因為當時因為下雨，女學生集體打地鋪，讓學生傻眼，直呼「根本就是難民營」。對此，校 方表示，因露營當晚又濕又冷天 …183F 89推 11噓![]()
湖南益陽多名學生家長近日反映，校內流行起一種死亡遊戲，藉由憋氣、壓胸口等行為，讓 人迅速達到缺氧窒息感。該遊戲被學生們稱之為「夢回大唐」或「死亡三秒」。不過多名家 長指出，孩子們玩到休克住院，令他們相 …118F 67推 8噓![]()
美國內華達州西北部的「金字塔湖」（Pyramid Lake）出現驚人一幕，只見湖水變成迷幻的 深綠色，還湧出大規模漩渦，就連外太空也看得到。不過，這卻是因為劇毒的「節球藻」（ Nodularia s …57F 37推- 22F 8推 1噓
- 21F 15推 1噓
點此顯示更多發文記錄
![[圖]](https://img.disp.cc/u/o/1uXG/ZDdiYjRhYTA.jpg)
4樓 時間: 2024-04-02 16:19:45 (台灣)
→
04-02 16:19 TW
就算是啞巴...一直在電話聲...啊啊啊...四十叭水準也會被騙...哈哈哈.
回列表(←)
分享