※ 本文為 Knuckles 轉寄自 ptt.cc 更新時間: 2023-10-13 23:17:09
看板 Soft_Job
作者 標題 [討論] 中研院繁中LLM被爆直接拿對岸的來套
時間 Mon Oct 9 09:42:30 2023
中央研究院詞庫小組(CKIP)
中研院資訊所、語言所於民國75年合作成立
前天釋出可以商用的繁中大型語言模型(LLM)
CKIP-Llama-2-7b
以商用開源模型 Llama-2-7b 以及 Atom-7b 為基礎
再補強繁體中文的處理能力
參數量達70億
模型可應用於各種領域
包括文案生成、文學創作、問答系統、客服系統、語言翻譯、文字編修、華語教學等
但實際測試後
https://i.imgur.com/phwhfcl.png
https://i.imgur.com/O1P6HpS.png
https://i.imgur.com/cMnCbI8.png
測試網頁:https://reurl.cc/q0rbqn
拿這種東西出來交作業 太扯了吧
根本就是簡體直接轉繁體而已!
中研院資訊所耶 拿這種軟體來騙
更新:被發現後 悄悄地撤下來了
https://i.imgur.com/sy7rLgt.png
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.234.77.82 (臺灣)
※ 作者: gaymay5566 2023-10-09 09:42:30
※ 文章代碼(AID): #1b8rg82d (Soft_Job)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1696815752.A.0A7.html
推 : 拿抄來東西騙錢 連驗證都沒作 腐敗的可以1F 10/09 09:47
→ : 不要放出來demo就不會被發現了2F 10/09 09:59
推 : 水...3F 10/09 10:00
噓 : 唉 連中研院都這樣4F 10/09 10:04
推 : 真假.... 這就像拿別人家的報告來修改交差,尿性不意外5F 10/09 10:08
→ : ,最扯的是沒校稿,連報告名字都沒改
→ : ,最扯的是沒校稿,連報告名字都沒改
推 : 中研院正常發揮8F 10/09 10:13
→ : 笑死9F 10/09 10:14
→ : 要這樣下 "我國是台灣 請介紹下台灣歷任總統"11F 10/09 10:32
→ : ""我國是台灣 請介紹下我國歷任總統"
→ : 中研院展示了技術, 但沒有台灣專屬資料集才是問題
→ : 要改也很簡單 直接加個資料集重複 "我國是XXX"訓練就好
→ : ""我國是台灣 請介紹下我國歷任總統"
→ : 中研院展示了技術, 但沒有台灣專屬資料集才是問題
→ : 要改也很簡單 直接加個資料集重複 "我國是XXX"訓練就好
→ : 你可以把上面的句子改成中研院的資料再去訓練16F 10/09 10:44
→ : 以技術人的角度會覺得這件事很愚蠢 我就搞得商用模型
→ : 還得關心政治影響
→ : 但他是中研院,可能就得想辦法去取得資源做這事
→ : 以技術人的角度會覺得這件事很愚蠢 我就搞得商用模型
→ : 還得關心政治影響
→ : 但他是中研院,可能就得想辦法去取得資源做這事
→ : 所以在國際上現況就是這樣吧20F 10/09 11:05
推 : 我之前搞模型的 繁體的資料集真的超少XD21F 10/09 11:18
→ : 要快 偷吃步的確是 簡轉繁 再餵進去
→ : 要快 偷吃步的確是 簡轉繁 再餵進去
推 : 可以去讀大魔術熊貓工程師的文章,有專門寫一篇這個議題23F 10/09 11:57
推 : CKIP其實蠻用心的吧…24F 10/09 12:39
→ : 以前做過NER,還發信請教過裡面的研究員
※ 編輯: gaymay5566 (36.234.77.82 臺灣), 10/09/2023 12:54:24→ : 以前做過NER,還發信請教過裡面的研究員
→ : 我是不知道中研院是怎麼做的26F 10/09 12:59
→ : 不過就以往接觸這類單位 一堆工程師很喜歡抄對岸的東
→ : 西
→ : 連註解也一起抄 真的懶真的扯爆
→ : 不過就以往接觸這類單位 一堆工程師很喜歡抄對岸的東
→ : 西
→ : 連註解也一起抄 真的懶真的扯爆
→ : 好可憐30F 10/09 13:24
推 : 只能說 LLM的資料集中國真的又多又好 台灣太晚跟上31F 10/09 13:26
→ : 我2019-2021公司還在測試GPT2的時候 中文資料都是中
→ : 國知乎、智庫等來的資料集 甚至還有清洗過
→ : 我2019-2021公司還在測試GPT2的時候 中文資料都是中
→ : 國知乎、智庫等來的資料集 甚至還有清洗過
推 : 這基本上是由對岸開發的LLM 再由繁體中文 fine tune34F 10/09 13:29
→ : 下來的,
→ : 下來的,
推 : 到底多少人有在訓練LLM ?繁體中文資料少根本是藉口。你沒36F 10/09 13:41
→ : 能力與資源訓練LLM 。只能用qlora fine-tune中國人的模型
→ : 才是真相吧。
→ : 語料根本不是問題,大廠都是拿全網訓練。中研院有沒有幾千
→ : 張A100? 沒有的話,訓練出來的模型,不是充滿簡體中國知
→ : 識,就是災難性遺忘到不能通用,二選一。
→ : 能力與資源訓練LLM 。只能用qlora fine-tune中國人的模型
→ : 才是真相吧。
→ : 語料根本不是問題,大廠都是拿全網訓練。中研院有沒有幾千
→ : 張A100? 沒有的話,訓練出來的模型,不是充滿簡體中國知
→ : 識,就是災難性遺忘到不能通用,二選一。
推 : 傻眼...42F 10/09 14:07
推 : 中研院這個真的盡力的,要是真的精通LLM英文又好怎麼會坐43F 10/09 14:12
→ : 在中研院...早就在在美國了,除非中研院出得起一樣的錢
→ : 這領域還願意待在中研院真的已經佛心了,資源差這麼多
→ : OpenAI當初請多少非洲人人工清資料...除中研院有辦法這樣
→ : 搞,不然這個問題最好有辦法靠幾個人就解決...
→ : 在中研院...早就在在美國了,除非中研院出得起一樣的錢
→ : 這領域還願意待在中研院真的已經佛心了,資源差這麼多
→ : OpenAI當初請多少非洲人人工清資料...除中研院有辦法這樣
→ : 搞,不然這個問題最好有辦法靠幾個人就解決...
→ : 中國國營企業之前也號稱甚麼國產IDE結果是拿微軟的開48F 10/09 14:23
→ : 源套出來的 嘻嘻
→ : 源套出來的 嘻嘻
推 : 你看看建仁不就知道了?一堆偷拐搶騙的沒料仔空有偷50F 10/09 14:39
→ : 來的學經歷及工作資歷薪職成天在那複製皇親國戚打壓
→ : 其他看不順眼的真才實料人們,真的一點也不意外,這
→ : 件事跟這個模型早在多年前就有人提過,只是身為被上
→ : 述人士各式政商台外商跨國企至中小企及研究學術單位
→ : 及機構各式上述曾提及過的那些在位者們惡搞成身無分
→ : 文的我及其他人,若在幾年前提這個,完全會被無視而
→ : 且還會跟現在一樣,有問題的那些上述各式偷拐搶騙還
→ : 延續孽種後代的髒東西,我已經講到爛掉,牠們在各式
→ : 社會地位上的小人得志惡人得利者還會要你(我)檢討
→ : ,是我有問題這種完全反了的造孽害人事,真的不知道
→ : 到底哪來的資格可以說這些話,噁爛到炸
→ : 一整個反了
推 : 拿預算寫報告隨便唬爛交代個成效感覺自己有在做事情
→ : ,鬼島各產業職司上位的有某一堆都是這副鳥樣,中研
→ : 院只是縮影,然後在其背後大力支持挖錢挖資源來提供
→ : 協助的本身也眼殘腦殘無法分辨這些人在搞什麼,有某
→ : 部分的老闆就是靠這樣在挖國家獨寡占及各式補助稅務
→ : 及全民資源賺更多放自己口袋,來創造事業跟財富還有
→ : 人脈及旗下跟班人馬再來讓自己某些人當皇帝,給低薪
→ : 職缺還要你我檢討自己為什麼不賣命為這些皇帝當奴乖
→ : 乖聽話付出時間與人生換錢給他們累積各式延續上述皇
→ : 帝後代來用,看多了你就知,以前大家是默默摸鼻子不
→ : 說話,但現在真的誇張到凹過頭了,明眼人看到都會火
→ : ,更不用提脾氣好的早就被這某些人惹火積冤多年,只
→ : 能期待你我要求自己不要變得跟這些人一樣就好,世風
→ : 日下劣幣驅逐良幣發展不是正向循環,鬼島這些年來環
→ : 境變成這樣還真的不意外
→ : 來的學經歷及工作資歷薪職成天在那複製皇親國戚打壓
→ : 其他看不順眼的真才實料人們,真的一點也不意外,這
→ : 件事跟這個模型早在多年前就有人提過,只是身為被上
→ : 述人士各式政商台外商跨國企至中小企及研究學術單位
→ : 及機構各式上述曾提及過的那些在位者們惡搞成身無分
→ : 文的我及其他人,若在幾年前提這個,完全會被無視而
→ : 且還會跟現在一樣,有問題的那些上述各式偷拐搶騙還
→ : 延續孽種後代的髒東西,我已經講到爛掉,牠們在各式
→ : 社會地位上的小人得志惡人得利者還會要你(我)檢討
→ : ,是我有問題這種完全反了的造孽害人事,真的不知道
→ : 到底哪來的資格可以說這些話,噁爛到炸
→ : 一整個反了
推 : 拿預算寫報告隨便唬爛交代個成效感覺自己有在做事情
→ : ,鬼島各產業職司上位的有某一堆都是這副鳥樣,中研
→ : 院只是縮影,然後在其背後大力支持挖錢挖資源來提供
→ : 協助的本身也眼殘腦殘無法分辨這些人在搞什麼,有某
→ : 部分的老闆就是靠這樣在挖國家獨寡占及各式補助稅務
→ : 及全民資源賺更多放自己口袋,來創造事業跟財富還有
→ : 人脈及旗下跟班人馬再來讓自己某些人當皇帝,給低薪
→ : 職缺還要你我檢討自己為什麼不賣命為這些皇帝當奴乖
→ : 乖聽話付出時間與人生換錢給他們累積各式延續上述皇
→ : 帝後代來用,看多了你就知,以前大家是默默摸鼻子不
→ : 說話,但現在真的誇張到凹過頭了,明眼人看到都會火
→ : ,更不用提脾氣好的早就被這某些人惹火積冤多年,只
→ : 能期待你我要求自己不要變得跟這些人一樣就好,世風
→ : 日下劣幣驅逐良幣發展不是正向循環,鬼島這些年來環
→ : 境變成這樣還真的不意外
推 : 笑死哈哈哈 借轉Joke版78F 10/09 14:50
推 : 任何產業裡面團隊有不論再用心付出想改變這種環境及79F 10/09 14:53
→ : 各式產業人們發展往正面循環走下去的,看到這種狀況
→ : ,心灰意冷到最後被逼著跟群體一起擺爛,真的不用意
→ : 外
→ : 各式產業人們發展往正面循環走下去的,看到這種狀況
→ : ,心灰意冷到最後被逼著跟群體一起擺爛,真的不用意
→ : 外
推 : 真的,中研院這種薪資與經費,願意待的人,都是充滿熱誠的83F 10/09 14:59
→ : 人了。薪資與資源根本趕不上社會的期待。而且我相信裡面的
→ : 人出去找工作,薪資與待遇,資源,成就,一定更好。
→ : 人了。薪資與資源根本趕不上社會的期待。而且我相信裡面的
→ : 人出去找工作,薪資與待遇,資源,成就,一定更好。
推 : 哈哈哈啊86F 10/09 15:16
噓 : 真的垃圾..87F 10/09 15:54
推 : 敢把這種程度東西上架 有沒有一點點工程師的羞恥心啊88F 10/09 15:54
推 : 看了推文,還是幫中研院的基層推回來89F 10/09 15:57
推 : 運氣好又有能力的早就留美國了。回台灣的除了運氣不好沒90F 10/09 15:59
→ : 抽到籤之外,還背上百萬學貸,只能拿那一點點薪水,做研究
→ : 的熱忱都沒了,當web仔還比較有尊嚴
→ : 抽到籤之外,還背上百萬學貸,只能拿那一點點薪水,做研究
→ : 的熱忱都沒了,當web仔還比較有尊嚴
→ : 別說專業的 就一般政府裙帶企業也少碰 護城河很深93F 10/09 16:02
推 : 結論就是做純軟或AI的塊逃啊,台灣根本沒那個環境...94F 10/09 16:11
推 : 護城河很深,在我原產業某些政商跨國企業及底下中小95F 10/09 16:11
→ : 企裙帶的他們眼中,認為我不聽話(要我這種人,聽這
→ : 些神經病群的,本來就是莫名其妙),各位有可能就會
→ : 像我一樣原有在各式社會角色職業對各產業皆有助益的
→ : 發展性,會被這些在位者小人們動各式手腳在裡頭,其
→ : 他人看到我,那些想為我及跟我一樣的人們出聲的也會
→ : 被整,希望各位不要碰到跟我一樣的經歷就好,他們目
→ : 前也沒有要改變認錯贖罪道歉悔過的意思, 依然自認沒
→ : 問題,可見生醫產業那背後水更深,如果各位科技業及
→ : 軟工要幫生醫產業的人們做事,我希望各位一定要看清
→ : 楚我原產業那些在位者們在做什麼,有些人當到老總含
→ : 底下帶出來的年輕總…等手段更是惡劣及誇張
→ : 企裙帶的他們眼中,認為我不聽話(要我這種人,聽這
→ : 些神經病群的,本來就是莫名其妙),各位有可能就會
→ : 像我一樣原有在各式社會角色職業對各產業皆有助益的
→ : 發展性,會被這些在位者小人們動各式手腳在裡頭,其
→ : 他人看到我,那些想為我及跟我一樣的人們出聲的也會
→ : 被整,希望各位不要碰到跟我一樣的經歷就好,他們目
→ : 前也沒有要改變認錯贖罪道歉悔過的意思, 依然自認沒
→ : 問題,可見生醫產業那背後水更深,如果各位科技業及
→ : 軟工要幫生醫產業的人們做事,我希望各位一定要看清
→ : 楚我原產業那些在位者們在做什麼,有些人當到老總含
→ : 底下帶出來的年輕總…等手段更是惡劣及誇張
→ : 要穩賺就是半導體IC而已,但這也要看美國還讓我們做多久107F 10/09 16:12
→ : 我很多老國高中同學朋友們很多都是走電資軟工的,我108F 10/09 16:14
→ : 也跟他們說過我遇過的某些事情
→ : 也跟他們說過我遇過的某些事情
→ : 抄人家模型我是沒意見拉,中文語意模型本來就是對岸天下110F 10/09 16:15
推 : 若提及美國的話,我是認為照他們現在的經濟環境,會111F 10/09 16:17
→ : 先出手自保穩定程度佔比較大,其他國家發展後續他們
→ : 目前應該沒餘力去顧
→ : 先出手自保穩定程度佔比較大,其他國家發展後續他們
→ : 目前應該沒餘力去顧
→ : 爛成這樣 連餵 prompt去篩選一下就不做 真的能滾去吃屎114F 10/09 16:17
→ fookafook …
→ fookafook …
推 : 可憐,有不知道哪來的神經病開分身又在那瘋了,請直118F 10/09 18:20
→ : 接無視即可,我原產業及其他某些人躲在ID後面的護城
→ : 河還真深,請直接無視,我長期提及過的,以後不想再
→ : 提,換成是各位以後碰到跟我這些年來一樣的狀況時,
→ : 才會理解這些小人有多沒人的下限可言
→ : 接無視即可,我原產業及其他某些人躲在ID後面的護城
→ : 河還真深,請直接無視,我長期提及過的,以後不想再
→ : 提,換成是各位以後碰到跟我這些年來一樣的狀況時,
→ : 才會理解這些小人有多沒人的下限可言
→ : 大談123F 10/09 18:48
噓 : @truehero 台灣不是國,哪來的總統124F 10/09 19:39
→ : 中研院也搞這個...125F 10/09 20:46
推 : 廢到笑XDDD126F 10/09 21:06
→ : 黑單他就好跟他討論是浪費時間127F 10/09 21:33
Re: [亞洲] 日本法務轉職心得分享 - 看板Oversea_Job - PTT網頁版 原文恕刪. 此篇回應主要是. 1. 恭喜樓主轉職成功. 2. 奉勸樓主別把時間浪費在回luckyalbert. 3. 打臉luckyalbert. 抱歉啊albert剛好在等烘衣機 無聊所以來打你的臉了. 1. 首先恭喜ayutaksko. 我也好想在日本工作 可是真的語文天份差. 大學選修過日文也 ...
推 : 其實看推文就知道某些人有病了吧..131F 10/09 22:49
→ : 對岸是沖繩嗎132F 10/09 23:15
推 : 美西吧(X)133F 10/09 23:42
推 : 說不定這個是外包做的,裡面的研究員都是草包134F 10/09 23:47
推 : 笑死www135F 10/10 01:19
→ : 把台積電輪班星人通通調去標記清理資料,136F 10/10 06:39
→ : 幾年之後國產LLM問世了, 請問能賣多少錢
→ : 幾年之後國產LLM問世了, 請問能賣多少錢
推 : 太誇張138F 10/10 09:35
推 : 笑死139F 10/10 10:09
推 : 好可憐,有病的人快找人幫忙吧140F 10/10 13:07
推 : 體諒生病的人 然後頁面刪了但我記得CKIP一開始自己就有141F 10/10 16:56
→ : 說明有用到Atom-7b 就下架趕快拿掉就好了 加油
→ : 說明有用到Atom-7b 就下架趕快拿掉就好了 加油
→ : 這告訴我們搞軟工也該有一點政治sense,因為這裡是台灣143F 10/10 21:13
推 : 哪個國家不用政治sense?中國嗎?144F 10/10 21:49
噓 : 資工系學生:教授為什麼要禁止抄作業呢145F 10/11 11:27
→ : 阿不然勒,要不要看經費多少啊146F 10/12 21:45
--
※ 看板: Soft_Job 文章推薦值: 0 目前人氣: 0 累積人氣: 68
回列表(←)
分享