※ 本文轉寄自 ptt.cc 更新時間: 2023-10-18 18:58:40
看板 C_Chat
作者 標題 [情報] OpenAI正打造AI圖偵測器 精確度達99%
時間 Wed Oct 18 16:08:35 2023
揪出AI造假圖片！OpenAI透露正打造偵測工具 精確度99%
https://udn.com/news/story/6811/7513624
![[圖]](https://i4.disp.cc/t/0/pgw.udn.com.tw_gw_ph10159c381d1c02d438f3a8cefe499473.jpg)
開發出聊天機器人ChatGPT的OpenAI正在打造一種工具，可偵測由AI生成的影像或照片，而
且具有很高的精確度。
OpenAI技術長穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判斷一張照片是否是利用A
I生成可達到「99%的可靠」。她說，這項工具在規劃公開發表前正在進行內部測試，沒有具
體時間表。
I生成可達到「99%的可靠」。她說，這項工具在規劃公開發表前正在進行內部測試，沒有具
體時間表。
穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會
時提及上述說法。OpenAI旗下除了有ChatGPT，也擁有影像生成工具DALL-E。
目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具，但結果可能不精確。舉例來說，
OpenAI在1月時推出一種類似的工具，號稱可以判斷哪些文字段落是由AI生成，然而在7月就
已下架，原因是「不可靠」。
OpenAI在1月時推出一種類似的工具，號稱可以判斷哪些文字段落是由AI生成，然而在7月就
已下架，原因是「不可靠」。
OpenAI表示，正努力改善這款軟體，並致力於開發能判斷由AI生成的音檔或圖檔的方式。
關於這類偵測AI生成內容的工具需求正在增加，因為AI工具可被用來對全球事件進行操作或
製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰，承諾不創造侵害創作
者智慧財產權的內容。
----
人類繪師救星要來了嗎？
那個1%的誤判
不知道是AI圖判斷成非AI圖
還是把非AI圖判斷成AI圖
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.82.128.223 (臺灣)
※ 作者: KotoriCute 2023-10-18 16:08:35
※ 文章代碼(AID): #1bBvA5ln (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1697616517.A.BF1.html
推 : 放入coser照片掃描不知會怎樣1F 10/18 16:10
推 : 用魔法才能打敗魔法 只有ai才能抓ai圖2F 10/18 16:10
※ 編輯: KotoriCute (111.82.128.223 臺灣), 10/18/2023 16:11:24推 : ai正在打造反ai偵測生成圖片3F 10/18 16:11
推 : 再用這個工具訓練不會被辨識出來的AI -> LOOP4F 10/18 16:11
推 : 99%其實拿來當證據還不太適合5F 10/18 16:11
推 : AI內戰6F 10/18 16:11
→ : 意思是你可以抓出99個沽名釣譽的騙子，同時把一個無辜7F 10/18 16:12
→ : 其實ai早變成免費素材生成工具了 原本就會畫的更愛8F 10/18 16:12
→ : 的老實繪師的名譽也一起毀掉9F 10/18 16:12
推 : 可是之前判斷文章的就失敗了10F 10/18 16:12
推 : 抱歉了1啪的繪師 請你轉行ㄅ11F 10/18 16:13
推 : 下一步就是ai生圖還會避免被偵測12F 10/18 16:13
→ : 本來就說自己會用的不受影響，但一定有宣稱自己沒用的13F 10/18 16:13
推 : 真.AI警察14F 10/18 16:13
→ : 然後狂粉和黑粉就會辛勤的全部幫你測過一輪15F 10/18 16:13
推 : 以後訓練生圖的AI就會把會不會被偵測放進參數16F 10/18 16:14
→ : 1% 繪師表示:17F 10/18 16:14
推 : 該學習如何串通AI了嗎18F 10/18 16:14
推 : 99%是要笑死人，99.9999%可能還比較保險一點。19F 10/18 16:14
→ : 反偵測，反反偵測，反反反偵測，沒完沒了20F 10/18 16:14
推 : 芙莉蓮表示:21F 10/18 16:14
推 : 靈魂檢測機22F 10/18 16:15
→ : 99%還是要開寶箱23F 10/18 16:15
→ : "宣稱"24F 10/18 16:17
推 : 平均100張就會放一張，以AI產能來說偏弱耶25F 10/18 16:17
→ : GAN(?26F 10/18 16:18
推 : 下一款是反AI偵測繪圖 我知道27F 10/18 16:18
推 : 什麼繪師一輩子只畫一張圖？28F 10/18 16:20
→ : 算錯一張又怎樣
→ : 算錯一張又怎樣
推 : 算錯一張後是黑粉的事，看黑粉想要怎麼燒30F 10/18 16:21
推 : 1%的直接畫一張放過程就好了吧31F 10/18 16:21
推 : 一張就夠毀人名譽了好嗎32F 10/18 16:21
→ : 忘記之前多少繪師被獵巫喔
→ : 甚麼信誓旦旦的20年老粉專業繪師
→ : 忘記之前多少繪師被獵巫喔
→ : 甚麼信誓旦旦的20年老粉專業繪師
→ : 另外還有對抗攻擊，真的夠黑的黑粉認識會拿你的圖加上35F 10/18 16:22
→ : 一些人眼看不到的細節，全部做成會讓AI警報大響的圖片
→ : 一些人眼看不到的細節，全部做成會讓AI警報大響的圖片
→ : 算錯一張就夠毀你名聲了好嗎37F 10/18 16:23
→ : 這東西最多就是當個玩具(而且已經會被有心人玩出事)38F 10/18 16:24
→ : 如果拿他當判官，那後果不堪設想
→ : 如果拿他當判官，那後果不堪設想
→ : AI內戰40F 10/18 16:24
→ : AI摧毀繪師 反AI也摧毀繪師41F 10/18 16:25
→ : 聽起來不錯42F 10/18 16:25
推 : 竟然用我的魔法對付我.jpeg43F 10/18 16:25
推 : 之前不就一堆AI警察拿著AI偵測結果四處獵巫44F 10/18 16:25
→ : 每個繪師的圖都被丟進去跑 跑出來誤暴就開始出征
→ : 每個繪師的圖都被丟進去跑 跑出來誤暴就開始出征
→ : 更早前還有更好笑的，知名網站用人工方法篩AI46F 10/18 16:26
推 : 很多AI繪圖都內建浮水印跟meta資料了47F 10/18 16:26
→ : 然後他們人工篩掉一個繪師的帳號，繪師不服去抗議48F 10/18 16:26
→ : 並且也附上證據，結果該網站審查過後回應：
→ : 我們知道你有證據，但是你可以人力化成這麼像AI的圖片
→ : 並且也附上證據，結果該網站審查過後回應：
→ : 我們知道你有證據，但是你可以人力化成這麼像AI的圖片
→ : 這主要還是對抗AI生圖來造謠或換臉用的啦51F 10/18 16:27
→ : 我們覺得你應該檢討一下自己的問題52F 10/18 16:27
推 : 反AI圖偵測也正在研究53F 10/18 16:27
→ : 二次元什麼的沒人在乎54F 10/18 16:27
→ : 人工審查都可以搞這種笑話了，有「工具」後還得了55F 10/18 16:27
噓 : Ai生人修圖呢？ ai生背景人畫主題呢？ai生然後人描56F 10/18 16:27
→ : 圖呢？
→ : 人畫圖然後用ai改姿勢呢？換衣服呢？
→ : 圖呢？
→ : 人畫圖然後用ai改姿勢呢？換衣服呢？
→ : 現實上是新聞那些問題比較嚴重，次文化比較沒人在乎59F 10/18 16:28
→ : 現在這種環境不就被一群AI狂粉樂子人搞出來的60F 10/18 16:28
→ : 反正那些次文化圈子中的有心人會自己引火亂燒61F 10/18 16:29
→ : AI警察搞的吧62F 10/18 16:29
推 : AIAI警察63F 10/18 16:29
推 : 那拿普通圖來i2i一張低denoising的 會算AI圖嗎64F 10/18 16:31
→ : 不過要是你手機自拍一下(手機自動AI修圖)然後被判定是AI生成65F 10/18 16:31
→ : 你以後拍照也會被人家說這是AI生成不是拍到的 你拍的是假訊息
→ : 你以後拍照也會被人家說這是AI生成不是拍到的 你拍的是假訊息
→ : AI狂信者才不管你這麼多 問就是砸蒸汽機67F 10/18 16:31
推 : 怎麼有人腦補得這麼嗨啊XD68F 10/18 16:32
→ : 天天拿AI在那邊搞事，然後再來說怎麼你們都不爽AI69F 10/18 16:32
推 : 偵測工具也是ai發展的一環啊 不好嗎70F 10/18 16:32
→ : 畢竟現在手機幫你修圖連月亮都幫你自動P上細節這類的太常見了71F 10/18 16:32
→ : 怎麼會有人反對偵測工具@@72F 10/18 16:32
→ : 因為前面幾個偵測工具 最大用途就是給73F 10/18 16:33
→ : 樂子人拿去出征繪師阿
→ : 樂子人拿去出征繪師阿
→ : 用魔法打敗魔法75F 10/18 16:33
推 : 不符繪畫常規 瘋狂影射潑髒水就好了 哪需要這些76F 10/18 16:34
推 : 偵測工具當然是必要的研究題目，但是99%的偵測工具77F 10/18 16:34
→ : 真的沒什麼用，嚴格上還是必須靠人審查，但對自我要求
→ : 不嚴格的警察來說就是超好用的點火道具
→ : 真的沒什麼用，嚴格上還是必須靠人審查，但對自我要求
→ : 不嚴格的警察來說就是超好用的點火道具
→ : 上次連出示圖層都還被說有繪畫嘗試的不可能這樣80F 10/18 16:35
推 : 生成式網路對抗81F 10/18 16:35
→ : 以前只是可以潑髒水，現在99%是真的可以唬到一堆民眾82F 10/18 16:35
→ : 百分百83F 10/18 16:36
→ : 再來就是反偵測 然後是反反偵測 反反反偵測 反反反反84F 10/18 16:36
→ : 畢竟有些人的觀點就是 99%你是個大騙子 那何必相信你85F 10/18 16:36
→ : 以前其實準確率就99%了啦 對不額外跑後製的圖來說86F 10/18 16:36
推 : 就算真的被拿去出征也不是偵測工具的錯啊......87F 10/18 16:37
→ : 偵測工具是無辜的
→ : 這是ai發展中必然的產物
→ : 偵測工具是無辜的
→ : 這是ai發展中必然的產物
→ : 樓主底下說的"人類繪師的救星"這句90F 10/18 16:38
→ : 工具當然無辜 但過去的例子這種不會成為救星
→ : 工具當然無辜 但過去的例子這種不會成為救星
推 : 以後如果有圖片被拿來攻擊，第一個要檢查的可能是能否92F 10/18 16:38
→ : 證明這張圖是繪師產出後「完全無修改」的版本
→ : 因為對於一個正確率「只」有99%的模型來說
→ : 對抗攻擊有無數種手法可以拿來玩到不著痕跡
→ : 證明這張圖是繪師產出後「完全無修改」的版本
→ : 因為對於一個正確率「只」有99%的模型來說
→ : 對抗攻擊有無數種手法可以拿來玩到不著痕跡
→ : 再講下去蒸汽機警察就要出動了吧...96F 10/18 16:41
→ : 工具準嗎，再來這只是給一些人確立個目標去超越而已97F 10/18 16:41
→ : 下一步就是利用AI開發能繞過偵測是否是AI畫的圖的工具98F 10/18 16:45
推 : 比較好奇他判斷的依據是啥99F 10/18 16:45
→ : 算出來又再畫再輸出的他是有甚麼方法判斷
→ : 算出來又再畫再輸出的他是有甚麼方法判斷
推 : 現代AI你大概很難弄出人類看得懂的判斷依據XD101F 10/18 16:47
→ : 判斷依據一定是史詩級的條件 人類要懂洗洗睡102F 10/18 16:48
推 : 反正我相信ai大人的判斷103F 10/18 16:48
→ : 最多只能跟你說 哪些區域比對起來比較像AI生成不像人畫的104F 10/18 16:48
推 : 之前看一篇文章還有防AI的浮水印呢XD105F 10/18 16:50
推 : 好的1%可憐蟲106F 10/18 16:50
推 : 請相信是繪師自己畫的 不然要相信繪師說是AI畫的嗎107F 10/18 16:51
推 : 防AI浮水印是個有效果但是沒有實質意義的東西108F 10/18 16:51
推 : 結果那1%被認證會不會被AI警察網暴的更慘109F 10/18 16:51
推 : 放整形圖會不會被偵測是AI110F 10/18 16:53
→ : 不知道為什麼推文只想到繪師 覺得這工具主要還是針對真人111F 10/18 16:56
推 : 會有人挑戰AI率99%的手繪油畫嗎112F 10/18 16:56
→ : 的AI模擬畫像 因為那真的是很容易成為犯罪或謠言製造工具113F 10/18 16:57
→ : 有沒有可能是因為這裡是C洽版 當然先討論繪師阿114F 10/18 16:57
→ : 因為跟這裡直接相關的就是批鬥畫師啊115F 10/18 16:59
推 : 用AI找你的AI116F 10/18 16:59
推 : 99%如果是指模型的準確度蠻唬爛的，搞不好只是驗證用117F 10/18 16:59
→ : 的資料集99%而已
→ : 的資料集99%而已
→ : AI圖犯罪隱患跟這邊的主題又沒啥關係119F 10/18 16:59
→ : 絕對不會被抓的AI圖VS絕對會抓出AI圖的AI120F 10/18 17:00
推 : 之前防ai那個主要是肉眼可見 而且很容易去除121F 10/18 17:01
→ : 比你加上去還快 不過還是有優點的
→ : 比你加上去還快 不過還是有優點的
→ : 神仙對決 沒有凡人介入的空間123F 10/18 17:02
→ : ai圖加上防ai圖浮水印拿去測會說不是ai圖124F 10/18 17:02
推 : 一定會有YouTuber 交叉測試 AI狼人殺125F 10/18 17:04
推 : 反ai所以要拿ai來辨識ai圖126F 10/18 17:04
→ : 繪師真正面對的問題還是商業市場需求與創作被拿去訓練127F 10/18 17:07
→ : 而不是AI警察 那只是社群平台的一種固有行為 主題換成AI
→ : 罷了 所以這也無關什麼繪師救星
→ : 而不是AI警察 那只是社群平台的一種固有行為 主題換成AI
→ : 罷了 所以這也無關什麼繪師救星
推 : 沒100%別拿出來害人好嗎130F 10/18 17:10
推 : 然後再製造一個反AI辨識AI圖片生成器131F 10/18 17:27
推 : 沒100%的話那個名譽被你毀掉的畫師就能把你告到脫褲132F 10/18 17:33
推 : AI警察 (AI)133F 10/18 17:33
推 : 真正拿出來用大概8成準確度就能偷笑了134F 10/18 17:37
→ : 發現AI會找到不是AI的圖 於是再發明驗證AI圖找到AI圖的135F 10/18 17:38
→ : AI
→ : AI
→ : 你居然用我的咒語對付我？137F 10/18 17:50
推 : 這個偵測器最大的用途之一：138F 10/18 17:52
→ : 讓AI圖進化到無法被辨認= =
→ : 讓AI圖進化到無法被辨認= =
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 203
作者 KotoriCute 的最新發文:
- 《魷魚遊戲2》讓劇評「大失所望」？影迷痛罵：等3年不是在等這種東西 《魷魚遊戲》2021年首播時掀起熱潮，第2季共7集26日已在Netflix全球190國上架，第3季 預計2025年上半年公開。 第 …142F 71推
- 《BZZZT》獨立遊戲開發者抱怨中國玩家：沒中文就給負評很討厭 中國大陸玩家在 Steam 平台上最著名的行為之一，無疑就是「負評轟炸」。不管是遊戲 內容、設定，還是其他因素，只要觸怒當地玩家，就可 …217F 111推 5噓
- 頑皮狗首席角色設計畫《劍星》伊芙，官方轉發卻引爭議：「臉太醜了吧」 由金亨泰 Shift Up 開發，今年在 PS5 發售的獨佔作《劍星》（Stellar Blade）受到不少 玩家喜歡，尤其女主角 …139F 74推 7噓
- 11F 6推 3噓
![]()
公主連結廣播節目由每個月4次改為每個月2次 看來這遊戲真的到生涯末期 限定卡池連發也很有當時彈射收掉前既視感 之前對岸多次精準爆料日服公連消息的內鬼也提到 現在日服公連每日活躍人數已不到巔峰的1/1 …74F 46推 1噓
點此顯示更多發文記錄
回列表(←)
分享