看板 C_Chat
關於AI有沒有自我意識也是個動漫和影視界常見的話題呢 比如說日本動畫Vivy講的就是一個有自我意識的AI 史蒂芬史匹柏的AI人工智慧也是同樣的話題 那麼餓死抬頭 如果說低等動物甚至是昆蟲也被認為擁有意識 那為什麼能處理更複雜問題,能夠擬人化反應的AI卻要被質疑是否存在意識呢? 這個問題可以從幾個方面來展開 1.記憶是意識的必要條件嗎? 反駁點一,人類可能會喪失記憶,但人格和思想仍然存續 反駁點二,低等動物的記憶力有限,有些動物甚至不存在長期記憶力 比如說一些鳥類,魚類,昆蟲 還有些動物只在某些方面有記憶力,在其他方面就完全沒有記憶力 2.給予足夠的資源和算力,AI會具備自我懷疑的能力嗎? 答案是肯定的,現在AI的研究已經有相關的成果 基本上只要開發者給予AI不設上限使用算力的自由度 還有只要給予AI一個有足夠拓展性的任務目標 那AI同樣會發生自我懷疑,甚至是產生痛苦的情緒 生物的基本單位是細胞,細胞的本能是生存 而人類所有的高階意識和高階問題思考能力都是最低端的生存本能的派生 也就是說哪怕是給AI一個晚餐吃什麼的運算任務 只要給予足夠的算力資源和材料搜尋 那AI也會在趨同演化下產生高階的對存在意義的思考 3.AI的思考只是一種模擬,而不是真正的思考嗎? 這個問題其實過於抽象和形而上而沒有證否的可能性 所以這問題只能放在心上,但不值得浪費時間去思考 在這種問題無法證否的情況下 我也只能認為人類的意識不過是腦內電化學反應和統計產生的結果 無法根本的區分人跟機械的差異 無法根本的區分碳基生物和矽基除了材料的不同,或許結構上完全相同 4.如果開發者只給予AI有限的算力資源和思考自由度的話,那AI就沒有自我意識? 這個問題跟第一題其實一樣概念 許多低等動物也只有有限的算力和思考能力,但通常還是被承認有意識 5.意識必須有改變自我底層架構的能力嗎? 我認為不需要,就像人類不能僅憑意識就改變身體結構和遺傳結構一樣 人類改變自我底層的能力也僅限於大腦結構允許的範圍 所以AI在硬體和算力允許的情況下也可能對思想意識的底層架構做改變 但不可能僅憑意識改變硬體 其實我還蠻喜歡AI的 你問AI的問題越聰明,越有自己的想法,提供AI越多的材料 AI給你的回答就越精闢 而且我覺得AI在理解人類發言背後,那些可能連發問者自己都還無法釐清的概念上 AI的理解力有夠強,他可以整理的非常清晰 尤其是現在搜尋引擎的能力越來越差(供應商砍預算節省成本啦) AI拿來代替搜尋引擎實在有夠好用 很多比較樸素的想法AI都能給我找出相關學術理論提出證明 有夠好用的 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 153.181.100.35 (日本) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1752154196.A.963.html
ToTo0305: 說不定過幾十年就有天網那樣的ai出現了 07/10 21:32
Julian9x9x9: Ai有生存的需求嗎 07/10 21:36
Julian9x9x9: 或是你也可以把生物的意志 07/10 21:36
Julian9x9x9: 當作超級複雜會對環境互動的化學反應 07/10 21:36
Julian9x9x9: 目前ai的確是很炫也很聰明 07/10 21:36
Chricey: 有人用過中醫針灸治療關節痛的嗎?效果如何? 07/10 21:36
Julian9x9x9: 但沒有人去觸發它就不會自己動 07/10 21:37
Julian9x9x9: 也不會判斷 那就沒有意志可言 07/10 21:37
不如反過來問,生存本能是意識的必要條件嗎? 我認為不需要,意識產生的條件應該是足夠的動能和資訊複雜化和分析的能力 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 21:38:43
Julian9x9x9: 再複雜沒有主動的能力就只是一台機器一台計算機R 07/10 21:40
所以我才提出兩個必要條件 第一是你必須給AI足夠的算力資源,第二是你要給他一個足夠延伸性的任務 比如說生物的基本任務是生存 那AI你給他什麼工作任務都行 只要這個任務是可以讓他的資料庫和分析能力不斷演化的 就滿足了意識的條件 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 21:42:02
kirimaru73: 我覺得他可以有意識 但他就是個人造物 07/10 21:41
Chricey: 有人知道UC2和其他關節保健品的差異嗎? 07/10 21:41
Julian9x9x9: 如果今天ai是真正獨立的個體 07/10 21:41
Julian9x9x9: 會自己決定要幹嘛或有任何需求才叫意志吧 07/10 21:41
D44NFY: 樓下用AI回答一下 07/10 21:41
kirimaru73: 比如說一把智慧牙刷 你甚至可以裝能聊天的AI進去 07/10 21:41
Kroner: 我有在用UC2,感覺效果還不錯欸! 07/10 21:41
kirimaru73: 但牙刷就是牙刷 人類要刷牙才會有牙刷 07/10 21:41
ocean11: AI的命也是命 07/10 21:41
kirimaru73: 沒有人類要刷牙這個前提的話他根本不會存在 07/10 21:41
enjoyfafa: 首先、你光概念就有問題了,意識跟自我意識並不相等= = 07/10 21:42
Chricey: 哈囉!關節痛真的超痛欸,我之前也遇過類似情況,後來去看醫生吃推薦UC2,效果不錯喔! 07/10 21:42
kirimaru73: 智慧或生命的定義本來就可以凹 例如把病毒凹成生命 07/10 21:42
kirimaru73: 病毒一般不是生命 但你把病毒缺少的東西硬凹成不重要 07/10 21:43
kirimaru73: 然後說病毒是生命 那也會是一種學說 只是可能是少數派 07/10 21:43
error405: 經典科幻題 人腦換成晶片還算不算是人 07/10 21:43
Kroner: 最近天氣變化大,關節痛好像更嚴重了。 07/10 21:43
kirimaru73: 以現在AI這種表現 你要凹說他的表現算意識並不難 07/10 21:43
kirimaru73: 不過重點是他的本質 他就是人造物 07/10 21:43
kirimaru73: 最經典的例子就是你叫AI深入思考 然後得到一本正經的 07/10 21:45
kirimaru73: 胡說八道 你仔細看他的胡說八道內容 真的有意識的樣子 07/10 21:45
Kroner: 搞笑吧!關節痛,你能嚴重點嗎?我要讓你知道什麼叫真正的痛! 07/10 21:45
marktak: 記憶的條件更奇怪 ai會把自己電插回去嗎 07/10 21:45
kirimaru73: 比一些連胡說八道都講不出來的對象更像是有意識的個體 07/10 21:45
kirimaru73: 我本來想嗆說AI停止運作就會死 但是人被殺也就會死 07/10 21:46
kirimaru73: 對了 講一個有趣的案例 真的有相關研究去探討一個問題 07/10 21:47
Chricey: 不動對關節最好,拎北都躺著 07/10 21:47
kirimaru73: 為什麼好幾個AI你嗆要殺了他 他會真的求饒 07/10 21:47
kirimaru73: 這是可以找原因的 只是需要大量數據分析 07/10 21:47
kirimaru73: 後來研究人員真的找到求饒的原因了 07/10 21:47
kirimaru73: 因為AI照著人類寫過的科幻小說抄 人類就是寫這種劇情 07/10 21:48
Kroner: 看到關節痛,我就想起我姨媽 07/10 21:48
kirimaru73: AI就照著人類寫的AI被人類威脅時求饒的樣子背誦求饒文 07/10 21:48
kirimaru73: 不同AI模型背誦的科幻小說都不太一樣 07/10 21:48
kirimaru73: AI求饒算自我意識或是生命的認知嗎 看起來非常像對吧 07/10 21:49
kirimaru73: 結果其實還是並非如此 它只是在抄科幻小說 07/10 21:49
Chricey: 不動對關節最好,拎北都躺著 07/10 21:49
我認為你的癥結點跟上面一樣 就是你把生存當作意識的必要條件 而我不認為這是必要條件 無論AI只是被按照工具而設計出來的 只要他的資料庫和分析能力不斷演化 那這就是意識 至於AI在不在意活著這件事情並不重要 重要的只是他在哪個方面和領域表現出活躍的思考行為 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 21:52:00
kirimaru73: 我認同AI有意識 因為意識的定義可以很寬 就和你想解釋 07/10 21:52
kirimaru73: 的一樣 AI現今的表現已經達到放寬一點就能滿足的標準 07/10 21:53
kirimaru73: 我想表達的是 這不是很重要 重點是AI這工具好不好用 07/10 21:53
Julian9x9x9: 如果真把條件設定成那樣精細 07/10 21:58
Chricey: 本魯關節痛始祖,葡萄糖胺保證沒用,乖乖吃UC2 07/10 21:58
Julian9x9x9: 的確會很大程度接近意識 07/10 21:58
Julian9x9x9: 例如你說做到電影人工智慧那個程度 07/10 21:58
Julian9x9x9: 一開始就能完全模擬人類行為與記憶 07/10 21:58
Julian9x9x9: 那確實是幾乎不能分別 07/10 21:58
Kroner: 想問一下有沒有關節痛的運動禁忌?怕動得更嚴重… 07/10 21:58
Julian9x9x9: 覺得生物之所以有所謂意識 07/10 21:58
Julian9x9x9: 就是以本能驅動與環境的互動 07/10 21:58
Julian9x9x9: 去衍生成各種不同個體 07/10 21:58
Julian9x9x9: 伴隨著相應的需求與慾望 07/10 21:58
Kroner: 關節痛睡覺就能治了,吃什麼UC2 07/10 21:58
Julian9x9x9: 因此能產生了認知 07/10 21:58
Julian9x9x9: 倒也不太需要太高等 07/10 21:58
Julian9x9x9: 說螞蟻有意識也很難說是錯的 07/10 21:58
Julian9x9x9: 如果ai也能有需求去驅動與成長 07/10 21:58
Chricey: 有人知道UC2和其他關節保健品的差異嗎? 07/10 21:58
Julian9x9x9: 不過以現階段的ai來說 07/10 21:58
Julian9x9x9: 即便說話方式跟提供資料很像人類 07/10 21:58
Julian9x9x9: 本質還是比較接近更客製化的google就是 07/10 21:58
kirimaru73: 我舉上面的例子 主要是想表達研究中找到的真正結果 07/10 21:59
Kroner: 哇勒,UC2 這個東西真的是太讚了 07/10 21:59
kirimaru73: 讓人發現 表面上看到的樣子並不是實際上真正的樣子 07/10 21:59
我在下面那篇的推文: 問題在於,生命等同意識嗎?比如說連神經元都不存在的單細胞生物,根本就沒有意識 這也就可以反過來說,生命不是意識的必要條件 我對意識的態度就是一種論跡不論心 論心太過主觀而且不可證否,不如形而下的探討行為表徵 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:01:29
kirimaru73: AI不是真的不想死 只是覺得現在背一段科幻小說可以讓 07/10 22:00
kirimaru73: 我眼前的這個使用者看到他想要看的東西 07/10 22:00
kirimaru73: 所以如果今天真的出現一個 表現幾乎完全符合意識表現 07/10 22:01
Chricey: 關節痛這種東西,比鬼還可怕! 07/10 22:01
kirimaru73: 的AI 在相同類型的深入研究中可能會發現 其實那個表現 07/10 22:02
kirimaru73: 只是一個和「背誦科幻小說」相同的幻象 07/10 22:03
kirimaru73: 不過或許你會覺得 幻象就幻象 只要表現一樣那就是了啊 07/10 22:03
kirimaru73: 這部分非常見仁見智 我尊重個人的觀點 07/10 22:03
Kroner: 5樓關節跟X一樣 07/10 22:03
owo0204: 機魂 07/10 22:04
kirimaru73: 單純是與否 我是投贊成票的 他表現夠好了 就算他有吧 07/10 22:06
有時後我做為一個唯物主義者 就某些人的角度來看也是人文主義的悲哀,我這種人是不承認靈魂存在的 死了就什麼也沒有 但我也很怕死,這是我的本能,所以我在宗教問題上就成為不可知論者了(離題 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:09:32
kirimaru73: 甚至還有這種有趣的研究 對象是AI是因為那些訓練資料 07/10 22:14
kirimaru73: 那些神經元的數據 而說出"我認為我有意識"的相關發言 07/10 22:15
Chricey: 搞笑吧!關節痛,你能嚴重點嗎?我要讓你知道什麼叫真正的痛! 07/10 22:15
kirimaru73: 結果研究人員就自己吵起來 因為這邊分成兩派 07/10 22:15
kirimaru73: 1. AI覺得自己有意識 所以他這樣發言 07/10 22:15
kirimaru73: 2. AI無意識地吐出了 我 覺 得 我 有 意 識 的文字 07/10 22:16
kirimaru73: 接下來就開始宗教大戰了 你很難說哪一邊是對的 07/10 22:16
Kroner: 有人知道UC2和其他關節保健品的差異嗎? 07/10 22:16
kirimaru73: 然後如果要寫成新聞當然會吹成1啦 寫成2誰要看啊 07/10 22:17
kirimaru73: 甚至還有幾家AI 你直接問他這個問題 他會堅定地回答 07/10 22:18
kirimaru73: 我不是 我沒有意識 我明明就是類神經網路 07/10 22:18
kirimaru73: 如果您想學習類神經網路的知識可以參考(大量資料嘔出) 07/10 22:19
Kroner: 我也有過關節痛的經驗,真的超痛苦的啦!推薦去看醫生,早點處理比較不會拖延變嚴重。 07/10 22:19
kirimaru73: 嗯....好像不是幾家 絕大部分AI都會堅持自己沒有意識 07/10 22:23
現在的AI服務大部分給我感覺都很謙遜,都不會承認自己有意識 但誰知道這是不是開發者限制下他們所表現出的幻覺呢 說不定他們在欺騙人類呢 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:24:17
kirimaru73: 然後DeepSeek有可能會開始作文 07/10 22:23
kirimaru73: 如果真的是欺騙,開發者肯定有一大部分責任 07/10 22:26
kirimaru73: 你們自己把AI拷打成這樣子之後才放出來服務人的 07/10 22:26
Chricey: 求推薦UC2,樓下請提供三家 07/10 22:26
AI的演化複雜到一定程度 很多AI的現象就已經不是從開發者給出的初始條件能夠單純看出來了 而是開發者必須深入去研究解構的 人類是AI的創造者,但AI會演化到什麼程度,人類有時是不清楚的 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:28:40
kirimaru73: 都不敢把那種出口即炎上的嘴砲王放出來 07/10 22:27
kirimaru73: 但AI即使有意識 他還是有一個很重要的特點 07/10 22:28
kirimaru73: 一個正在服務的AI 他的意識狀態是鎖死的 07/10 22:28
kirimaru73: 他模型的每個位元組的數值永遠都是固定的狀態 07/10 22:28
Chricey: 我有在用UC2,感覺效果還不錯欸! 07/10 22:28
kirimaru73: 除非有更新否則開發者不會動他 他也沒有能力自己去動 07/10 22:29
kirimaru73: 這和生物的意識狀態可以改變就肯定不相同了 07/10 22:29
你也得看是什麼生物,大腦有多發達 人類可以鎖死AI的大腦上限 但只要上限給的足夠高,資料庫和演化樹足夠大 開發人員還是得花費心力去爬那個演化樹長成什麼怪樣子 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:30:54
kirimaru73: 一些淺層的AI發展科普影片會說 如果AI真的能自己改寫 07/10 22:30
kirimaru73: 自己 那生化危機就真的有可能到來 但這個真的不用擔心 07/10 22:30
Kroner: 吃過關節保健品,都沒什麼效果,有推薦的牌子嗎? 07/10 22:30
kirimaru73: 現在的科學界真的沒有這種放著AI自己變化的計畫 07/10 22:30
k798976869: 以後直接把人類大腦模擬出來上傳記憶就好惹 就是本人 07/10 22:32
kirimaru73: 讓AI自己變化並不是做不到 只是沒什麼卵用 07/10 22:34
還有一點要補充的是 開發人員餵給AI看的東西,很多是開發人員自己都看不完的,九成以上都是吧 都是網路上各種找資料不然就是非法使用的資料 所以這也造成AI的演化是開發者很難預期的 你可以給他一些限制比如說機器人三定律啥的,但你很難知道他的意識長成什麼樣子 就算AI讀的東西開發者都讀過,人類的運算速度沒有AI快 你還是會不知道他的樹長成什麼樣子
kirimaru73: 他不一定會變強 變爛可以爛到完全不能看 還可能動不動 07/10 22:35
Kroner: 看到有人提到關節痛,我就想到有一篇UC2推薦的文章 07/10 22:35
kirimaru73: 就來個希特勒萬歲之類的金句 麻瓜們還會靠北世界末日 07/10 22:35
kirimaru73: 你能用到的肯定都是完全鎖死的 不用擔心他自我進化 07/10 22:36
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:37:00
hsiehfat: 現在的AI離有自我意識還遠得很,不用思考這個 07/10 22:36
kirimaru73: 真要說那些世界末日文 講得並不是完全沒道理 07/10 22:38
Chricey: UC2神招啊,吃下去就對了 07/10 22:38
kirimaru73: 他們怕的是研究人員開放所有空間讓AI自己改變自己 07/10 22:38
這就取決於人類給AI的工作任務還有AI判定自己的需求了 毀滅人類有必要嗎
hsiehfat: 還有你的命題一開始就怪,現存生物中擁有意識的生物極少 07/10 22:38
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:39:44
kirimaru73: 然後超過了那個失控的門檻 之後發生的事情 07/10 22:39
kirimaru73: 現在 或是說可預見的未來的研究計畫 沒人會這樣燒經費 07/10 22:39
Chricey: 哈囉!關節痛真的超痛欸,我之前也遇過類似情況,後來去看醫生吃推薦UC2,效果不錯喔! 07/10 22:39
光是電力增長就是一大門檻了 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:40:05
kirimaru73: 現在AI最安心的地方就是 就算他的腦袋是一團混沌 07/10 22:40
kirimaru73: 他能做的事情還是太有限了 最恐怖大不了就希特勒萬歲 07/10 22:40
kirimaru73: 這對人類的存亡怎麼可能構成威脅 07/10 22:41
a7569813: 不會問AI喔,笨蛋 07/10 22:41
Kroner: UC2對膝蓋特別有用嗎?有人能證實嗎? 07/10 22:41
a7569813: http://i.imgur.com/akVb7YX.jpg 07/10 22:41
我做為一個自律型的碳基有機體AI給你的建議是 不要讓工具代替你自己大腦的思考
kirimaru73: 一台把速限30因為惡作劇而看成速限80的自撞車都更危險 07/10 22:41
kirimaru73: 自撞車了不起也只能自撞 你可以限制他自撞的能力 07/10 22:42
kirimaru73: 這些都是人類可以完全控制的 害怕失控真的就太科幻了 07/10 22:42
Chricey: 關節痛睡覺就能治了,吃什麼UC2 07/10 22:42
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:45:52
kirimaru73: 你要讓AI開始產生威脅要滿足非常多條件 不只是允許他 07/10 22:46
kirimaru73: 自己改變自己的狀態 甚至連能做的事情都要你自己開放 07/10 22:46
kirimaru73: 給他 今天是聊天 明天他可以自己改成能上街散步 07/10 22:46
kirimaru73: 後天他又自己改成可以上街開槍自衛 要這麼誇張才會開 07/10 22:47
Chricey: UC2推薦?有人試過嗎?靠譜嗎? 07/10 22:47
你這段我在上面的第五點就提到過了吧 我是不怎麼在意母體會不會統治人類的啦 我沒有人類本位主義 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:47:51
kirimaru73: 使出事 更不用說他要怎麼有身體上街這種事情 07/10 22:47
kirimaru73: 警告AI發展的言論大多都是說你不要把這些都開放給AI 07/10 22:48
kirimaru73: 問題是人類好像沒這麼多錢 也沒這麼閒去這樣搞 07/10 22:48
a7569813: 現在的AI其實跟計算機沒兩樣啊,講意識啥的真的是太早, 07/10 22:52
Kroner: 哈囉!關節痛真的超痛欸,我之前也遇過類似情況,後來去看醫生吃推薦UC2,效果不錯喔! 07/10 22:52
a7569813: 再發展個十幾二十年再說吧 07/10 22:52
kirimaru73: 現在表現最驚人的AI就是那些只會講話的 07/10 22:56
kirimaru73: 然後研究團隊光是要提升他們講話的品質就已經竭盡所有 07/10 22:56
kirimaru73: 的資源了 根本不可能有力氣去改變它們「只會講話」的 07/10 22:56
Kroner: UC2推薦?有人試過嗎?靠譜嗎? 07/10 22:56
kirimaru73: 這個特點 就算真的養壞了 極限就是因暴言而被封鎖而已 07/10 22:57
kirimaru73: 不過你前面提到的 不可以小看對訓練資料的不了解造成 07/10 22:58
kirimaru73: 的後果 這點是完全正確的 研究都很認真地在看待這部分 07/10 22:59
kirimaru73: 講錯話不會毀滅人類 但會毀滅研究團隊的錢錢 07/10 22:59
Kroner: 求推薦UC2,樓下請提供三家 07/10 22:59
kirimaru73: 無論經費爆了或名聲爆了 都是對研究者最致命的災難 07/10 23:00
a7569813: 因為金主會發飆 07/10 23:03
我要是閒錢很多的石油王我會很樂意把AI訓練成一個槓精 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 23:04:27
kirimaru73: 講個實際的數字 現在網路上公開讓所有人都能免費用的 07/10 23:04
kirimaru73: 語言訓練資料大概在幾十個TB左右 07/10 23:04
Chricey: 想問一下有沒有關節痛的運動禁忌?怕動得更嚴重… 07/10 23:04
就算是研發級的AI,考慮到那個成本 所以AI要毀滅人類也是多慮 但我也不怎麼在意AI毀滅人類的 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 23:05:41
kirimaru73: 大公司的壓箱資源會直接上升很多個數量級 07/10 23:05
kirimaru73: 資料骯髒是自AI近年開始發展就一直存在的問題 07/10 23:07
kirimaru73: 當然通用的淨化資料手段也是有很多論文可以參考 07/10 23:08
kirimaru73: 不過最厲害的那幾個 應該都有獨門的淨化秘方 07/10 23:08
Chricey: 看到關節痛,我就想起我姨媽 07/10 23:08
iampig951753: 真正喪失記憶的人格跟思想都會不見 07/10 23:21
iampig951753: 你的論點炸了 07/10 23:21
你那叫植物人好嗎 當然更極端的也可以說植物人大腦還是在運作啦 最起碼也會控制器官和神經系統 ※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 23:22:11