看板 C_Chat
對於AI有沒有意識這點 apple團隊前陣子有篇論文就是探討這個 《The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity》 簡單說結論就是,LLM看似在思考,實則沒有(天根我) 團隊找了一些經典問題, 像是河內塔、狼羊過河等一系列簡單到難的問題 給語言模型回答 當然控制變數都有抓好 像是token數都有控制以免數量多的有優勢 測試方式為 第一種:直接問答案 第二種:模仿人類推導答案的過程 第一種不用說就是你直接給他一個問題,要他回答出答案 這種方式也是很多LLM使用教學中會提到盡量避免的方法 因為簡單問題沒什麼大礙,但是一旦開始稍微複雜 就開始腦抽,常用LLM的應該都有所體會 第二種則是人類思考方式的Chain of thought 人類在導出答案過程並不是直接0到100 而是會把問題拆分後,逐一推導的 仿照這模式,對AI用引導提問讓他逐步解出題目 但研究人員發現到 模型只是在使用他學習過的資料拼湊答案 或是找一些跟你提示詞有關的東西回答 所以才說邏輯題目就直接把模型弄玩壞 因為模型不是根據過去推導的結果繼續推導下一個結果 他只是裝作有在思考而已 所以結論,有沒有意識 這篇論文答案是沒有 但個人來說還是很方便的工具就是 ----- Sent from JPTT on my iPhone -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 126.194.116.204 (日本) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1752193680.A.D4D.html
SSIKLO: 推這篇,坐等第一篇原PO來跟你槓 07/11 08:30
h0103661: 人類的思考方式就有區別嗎 07/11 08:32
raincole: 這篇論文講的是 AI 有沒有「推理」能力 07/11 08:32
raincole: 意識是哲學問題 是無法證偽的 跟推理是兩件事 07/11 08:33
raincole: 很多人也覺得貓狗有意識 但是貓狗不要說回答河內塔了 07/11 08:34
Kroner: 關節痛按摩有效嗎? 07/11 08:34
raincole: 現在沒有任何證據證明貓狗能做乘法(連二位數加法都很有 07/11 08:34
raincole: 爭議) 07/11 08:34
lsd25968: 無法驗證的問題還能稱作科學嗎== 07/11 08:38
lsd25968: 那就是大家各說各的,看誰時間比較多拖死對方而已啦 07/11 08:38
Chricey: 看到關節痛,我就想起我姨媽 07/11 08:38
raincole: 意識本來就不是科學問題 我不是已經說了是哲學問題... 07/11 08:39
lsd25968: 好 我不懂哲學 所以拿科學去解釋 就當作分享小知識吧 07/11 08:40
raincole: 你真的去讀這篇論文就會發現裡面沒有提到那怕一次「意識 07/11 08:42
raincole: 」(conscious) 這個字 都是用行為(behavior)和推理(rea 07/11 08:42
Chricey: 樓上UC2當糖吃,天天走拿飛 07/11 08:42
raincole: soning) 為啥?因為意識就完全不在你可以做實驗去驗證 07/11 08:43
raincole: 的討論範圍裡啊... 07/11 08:43
william456: 不是也有一種觀點,你以為的自由意志其實是被動選 07/11 08:47
william456: 擇 07/11 08:47
Kroner: UC2是天然成分嗎?還是有添加物啊? 07/11 08:47
GAOTT: 有沒有意識在於能不能感覺到吧 07/11 08:48
GAOTT: 比如我打一條狗 狗會痛是因為它真的痛 還會怕 07/11 08:48
GAOTT: 但我今天跟ai說 你被我打了 你有什麼感覺 07/11 08:49
GAOTT: ai說它會痛是因為程式碼告訴它你現在要說你會痛 而且不會怕 07/11 08:50
Chricey: 關節痛按摩有效嗎? 07/11 08:50
GAOTT: 重點不是在於痛不痛 而是痛帶給你什麼 07/11 08:51
lsd25968: 確實,如果要糾結定義的話有點走題。覺得這話題挺有趣的 07/11 08:51
lsd25968: 進來湊熱鬧一下,獻醜了 07/11 08:51
h0103661: 哲學本來就是各說各的聊天而已 07/11 09:26
Chricey: UC2神招啊,吃下去就對了 07/11 09:26
rogerlarger: ai不是程式碼寫邏輯耶,他是模型。模型是一堆參數, 07/11 09:27
rogerlarger: 應該算是數據化的神經連結。 07/11 09:27
a7569813: 模型也只是一種統計學的資料分析方法,不能算是意識 07/11 09:32
drm343: 16f 說的那個是決定論 07/11 10:10
Chricey: 關節痛按摩有效嗎? 07/11 10:10
LunaDance: 這只是說llm沒法靠文字接龍那套去做邏輯推理 沒有要探 07/11 10:47
LunaDance: 討意識與思考 07/11 10:47
DoLaAMan: 狗會痛是因為他的神經告訴他會痛,不然你抽掉他神經看 07/11 11:52
DoLaAMan: 看 07/11 11:52
Chricey: 搞笑吧!關節痛,你能嚴重點嗎?我要讓你知道什麼叫真正的痛! 07/11 11:52