推 ToTo0305: 說不定過幾十年就有天網那樣的ai出現了 07/10 21:32
推 Julian9x9x9: Ai有生存的需求嗎 07/10 21:36
→ Julian9x9x9: 或是你也可以把生物的意志 07/10 21:36
→ Julian9x9x9: 當作超級複雜會對環境互動的化學反應 07/10 21:36
→ Julian9x9x9: 目前ai的確是很炫也很聰明 07/10 21:36
→ Julian9x9x9: 但沒有人去觸發它就不會自己動 07/10 21:37
→ Julian9x9x9: 也不會判斷 那就沒有意志可言 07/10 21:37
不如反過來問,生存本能是意識的必要條件嗎?
我認為不需要,意識產生的條件應該是足夠的動能和資訊複雜化和分析的能力
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 21:38:43
→ Julian9x9x9: 再複雜沒有主動的能力就只是一台機器一台計算機R 07/10 21:40
所以我才提出兩個必要條件
第一是你必須給AI足夠的算力資源,第二是你要給他一個足夠延伸性的任務
比如說生物的基本任務是生存
那AI你給他什麼工作任務都行
只要這個任務是可以讓他的資料庫和分析能力不斷演化的
就滿足了意識的條件
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 21:42:02
推 kirimaru73: 我覺得他可以有意識 但他就是個人造物 07/10 21:41
→ Julian9x9x9: 如果今天ai是真正獨立的個體 07/10 21:41
→ Julian9x9x9: 會自己決定要幹嘛或有任何需求才叫意志吧 07/10 21:41
→ D44NFY: 樓下用AI回答一下 07/10 21:41
→ kirimaru73: 比如說一把智慧牙刷 你甚至可以裝能聊天的AI進去 07/10 21:41
→ kirimaru73: 但牙刷就是牙刷 人類要刷牙才會有牙刷 07/10 21:41
推 ocean11: AI的命也是命 07/10 21:41
→ kirimaru73: 沒有人類要刷牙這個前提的話他根本不會存在 07/10 21:41
→ enjoyfafa: 首先、你光概念就有問題了，意識跟自我意識並不相等= = 07/10 21:42
→ kirimaru73: 智慧或生命的定義本來就可以凹 例如把病毒凹成生命 07/10 21:42
→ kirimaru73: 病毒一般不是生命 但你把病毒缺少的東西硬凹成不重要 07/10 21:43
→ kirimaru73: 然後說病毒是生命 那也會是一種學說 只是可能是少數派 07/10 21:43
→ error405: 經典科幻題 人腦換成晶片還算不算是人 07/10 21:43
→ kirimaru73: 以現在AI這種表現 你要凹說他的表現算意識並不難 07/10 21:43
→ kirimaru73: 不過重點是他的本質 他就是人造物 07/10 21:43
→ kirimaru73: 最經典的例子就是你叫AI深入思考 然後得到一本正經的 07/10 21:45
→ kirimaru73: 胡說八道 你仔細看他的胡說八道內容 真的有意識的樣子 07/10 21:45
推 marktak: 記憶的條件更奇怪 ai會把自己電插回去嗎 07/10 21:45
→ kirimaru73: 比一些連胡說八道都講不出來的對象更像是有意識的個體 07/10 21:45
→ kirimaru73: 我本來想嗆說AI停止運作就會死 但是人被殺也就會死 07/10 21:46
→ kirimaru73: 對了 講一個有趣的案例 真的有相關研究去探討一個問題 07/10 21:47
→ kirimaru73: 為什麼好幾個AI你嗆要殺了他 他會真的求饒 07/10 21:47
→ kirimaru73: 這是可以找原因的 只是需要大量數據分析 07/10 21:47
→ kirimaru73: 後來研究人員真的找到求饒的原因了 07/10 21:47
→ kirimaru73: 因為AI照著人類寫過的科幻小說抄 人類就是寫這種劇情 07/10 21:48
→ kirimaru73: AI就照著人類寫的AI被人類威脅時求饒的樣子背誦求饒文 07/10 21:48
→ kirimaru73: 不同AI模型背誦的科幻小說都不太一樣 07/10 21:48
→ kirimaru73: AI求饒算自我意識或是生命的認知嗎 看起來非常像對吧 07/10 21:49
→ kirimaru73: 結果其實還是並非如此 它只是在抄科幻小說 07/10 21:49
我認為你的癥結點跟上面一樣
就是你把生存當作意識的必要條件
而我不認為這是必要條件
無論AI只是被按照工具而設計出來的
只要他的資料庫和分析能力不斷演化
那這就是意識
至於AI在不在意活著這件事情並不重要
重要的只是他在哪個方面和領域表現出活躍的思考行為
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 21:52:00
推 kirimaru73: 我認同AI有意識 因為意識的定義可以很寬 就和你想解釋 07/10 21:52
→ kirimaru73: 的一樣 AI現今的表現已經達到放寬一點就能滿足的標準 07/10 21:53
→ kirimaru73: 我想表達的是 這不是很重要 重點是AI這工具好不好用 07/10 21:53
推 Julian9x9x9: 如果真把條件設定成那樣精細 07/10 21:58
→ Julian9x9x9: 的確會很大程度接近意識 07/10 21:58
→ Julian9x9x9: 例如你說做到電影人工智慧那個程度 07/10 21:58
→ Julian9x9x9: 一開始就能完全模擬人類行為與記憶 07/10 21:58
→ Julian9x9x9: 那確實是幾乎不能分別 07/10 21:58
→ Julian9x9x9: 覺得生物之所以有所謂意識 07/10 21:58
→ Julian9x9x9: 就是以本能驅動與環境的互動 07/10 21:58
→ Julian9x9x9: 去衍生成各種不同個體 07/10 21:58
→ Julian9x9x9: 伴隨著相應的需求與慾望 07/10 21:58
→ Julian9x9x9: 因此能產生了認知 07/10 21:58
→ Julian9x9x9: 倒也不太需要太高等 07/10 21:58
→ Julian9x9x9: 說螞蟻有意識也很難說是錯的 07/10 21:58
→ Julian9x9x9: 如果ai也能有需求去驅動與成長 07/10 21:58
→ Julian9x9x9: 不過以現階段的ai來說 07/10 21:58
→ Julian9x9x9: 即便說話方式跟提供資料很像人類 07/10 21:58
→ Julian9x9x9: 本質還是比較接近更客製化的google就是 07/10 21:58
推 kirimaru73: 我舉上面的例子 主要是想表達研究中找到的真正結果 07/10 21:59
→ kirimaru73: 讓人發現 表面上看到的樣子並不是實際上真正的樣子 07/10 21:59
我在下面那篇的推文:
問題在於,生命等同意識嗎?比如說連神經元都不存在的單細胞生物,根本就沒有意識
這也就可以反過來說,生命不是意識的必要條件
我對意識的態度就是一種論跡不論心
論心太過主觀而且不可證否,不如形而下的探討行為表徵
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:01:29
→ kirimaru73: AI不是真的不想死 只是覺得現在背一段科幻小說可以讓 07/10 22:00
→ kirimaru73: 我眼前的這個使用者看到他想要看的東西 07/10 22:00
→ kirimaru73: 所以如果今天真的出現一個 表現幾乎完全符合意識表現 07/10 22:01
→ kirimaru73: 的AI 在相同類型的深入研究中可能會發現 其實那個表現 07/10 22:02
→ kirimaru73: 只是一個和「背誦科幻小說」相同的幻象 07/10 22:03
→ kirimaru73: 不過或許你會覺得 幻象就幻象 只要表現一樣那就是了啊 07/10 22:03
→ kirimaru73: 這部分非常見仁見智 我尊重個人的觀點 07/10 22:03
推 owo0204: 機魂 07/10 22:04
推 kirimaru73: 單純是與否 我是投贊成票的 他表現夠好了 就算他有吧 07/10 22:06
有時後我做為一個唯物主義者
就某些人的角度來看也是人文主義的悲哀,我這種人是不承認靈魂存在的
死了就什麼也沒有
但我也很怕死,這是我的本能,所以我在宗教問題上就成為不可知論者了(離題
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:09:32
推 kirimaru73: 甚至還有這種有趣的研究 對象是AI是因為那些訓練資料 07/10 22:14
→ kirimaru73: 那些神經元的數據 而說出"我認為我有意識"的相關發言 07/10 22:15
→ kirimaru73: 結果研究人員就自己吵起來 因為這邊分成兩派 07/10 22:15
→ kirimaru73: 1. AI覺得自己有意識 所以他這樣發言 07/10 22:15
→ kirimaru73: 2. AI無意識地吐出了 我 覺 得 我 有 意 識 的文字 07/10 22:16
→ kirimaru73: 接下來就開始宗教大戰了 你很難說哪一邊是對的 07/10 22:16
→ kirimaru73: 然後如果要寫成新聞當然會吹成1啦 寫成2誰要看啊 07/10 22:17
→ kirimaru73: 甚至還有幾家AI 你直接問他這個問題 他會堅定地回答 07/10 22:18
→ kirimaru73: 我不是 我沒有意識 我明明就是類神經網路 07/10 22:18
→ kirimaru73: 如果您想學習類神經網路的知識可以參考(大量資料嘔出) 07/10 22:19
推 kirimaru73: 嗯....好像不是幾家 絕大部分AI都會堅持自己沒有意識 07/10 22:23
現在的AI服務大部分給我感覺都很謙遜,都不會承認自己有意識
但誰知道這是不是開發者限制下他們所表現出的幻覺呢
說不定他們在欺騙人類呢
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:24:17
→ kirimaru73: 然後DeepSeek有可能會開始作文 07/10 22:23
推 kirimaru73: 如果真的是欺騙，開發者肯定有一大部分責任 07/10 22:26
→ kirimaru73: 你們自己把AI拷打成這樣子之後才放出來服務人的 07/10 22:26
AI的演化複雜到一定程度
很多AI的現象就已經不是從開發者給出的初始條件能夠單純看出來了
而是開發者必須深入去研究解構的
人類是AI的創造者,但AI會演化到什麼程度,人類有時是不清楚的
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:28:40
→ kirimaru73: 都不敢把那種出口即炎上的嘴砲王放出來 07/10 22:27
→ kirimaru73: 但AI即使有意識 他還是有一個很重要的特點 07/10 22:28
→ kirimaru73: 一個正在服務的AI 他的意識狀態是鎖死的 07/10 22:28
→ kirimaru73: 他模型的每個位元組的數值永遠都是固定的狀態 07/10 22:28
→ kirimaru73: 除非有更新否則開發者不會動他 他也沒有能力自己去動 07/10 22:29
→ kirimaru73: 這和生物的意識狀態可以改變就肯定不相同了 07/10 22:29
你也得看是什麼生物,大腦有多發達
人類可以鎖死AI的大腦上限
但只要上限給的足夠高,資料庫和演化樹足夠大
開發人員還是得花費心力去爬那個演化樹長成什麼怪樣子
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:30:54
→ kirimaru73: 一些淺層的AI發展科普影片會說 如果AI真的能自己改寫 07/10 22:30
→ kirimaru73: 自己 那生化危機就真的有可能到來 但這個真的不用擔心 07/10 22:30
→ kirimaru73: 現在的科學界真的沒有這種放著AI自己變化的計畫 07/10 22:30
推 k798976869: 以後直接把人類大腦模擬出來上傳記憶就好惹 就是本人 07/10 22:32
推 kirimaru73: 讓AI自己變化並不是做不到 只是沒什麼卵用 07/10 22:34
還有一點要補充的是
開發人員餵給AI看的東西,很多是開發人員自己都看不完的,九成以上都是吧
都是網路上各種找資料不然就是非法使用的資料
所以這也造成AI的演化是開發者很難預期的
你可以給他一些限制比如說機器人三定律啥的,但你很難知道他的意識長成什麼樣子
就算AI讀的東西開發者都讀過,人類的運算速度沒有AI快
你還是會不知道他的樹長成什麼樣子
→ kirimaru73: 他不一定會變強 變爛可以爛到完全不能看 還可能動不動 07/10 22:35
→ kirimaru73: 就來個希特勒萬歲之類的金句 麻瓜們還會靠北世界末日 07/10 22:35
→ kirimaru73: 你能用到的肯定都是完全鎖死的 不用擔心他自我進化 07/10 22:36
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:37:00
→ hsiehfat: 現在的AI離有自我意識還遠得很，不用思考這個 07/10 22:36
推 kirimaru73: 真要說那些世界末日文 講得並不是完全沒道理 07/10 22:38
→ kirimaru73: 他們怕的是研究人員開放所有空間讓AI自己改變自己 07/10 22:38
這就取決於人類給AI的工作任務還有AI判定自己的需求了
毀滅人類有必要嗎
→ hsiehfat: 還有你的命題一開始就怪，現存生物中擁有意識的生物極少 07/10 22:38
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:39:44
→ kirimaru73: 然後超過了那個失控的門檻 之後發生的事情 07/10 22:39
→ kirimaru73: 現在 或是說可預見的未來的研究計畫 沒人會這樣燒經費 07/10 22:39
光是電力增長就是一大門檻了
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:40:05
→ kirimaru73: 現在AI最安心的地方就是 就算他的腦袋是一團混沌 07/10 22:40
→ kirimaru73: 他能做的事情還是太有限了 最恐怖大不了就希特勒萬歲 07/10 22:40
→ kirimaru73: 這對人類的存亡怎麼可能構成威脅 07/10 22:41
噓 a7569813: 不會問AI喔，笨蛋 07/10 22:41
我做為一個自律型的碳基有機體AI給你的建議是
不要讓工具代替你自己大腦的思考
→ kirimaru73: 一台把速限30因為惡作劇而看成速限80的自撞車都更危險 07/10 22:41
→ kirimaru73: 自撞車了不起也只能自撞 你可以限制他自撞的能力 07/10 22:42
→ kirimaru73: 這些都是人類可以完全控制的 害怕失控真的就太科幻了 07/10 22:42
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:45:52
推 kirimaru73: 你要讓AI開始產生威脅要滿足非常多條件 不只是允許他 07/10 22:46
→ kirimaru73: 自己改變自己的狀態 甚至連能做的事情都要你自己開放 07/10 22:46
→ kirimaru73: 給他 今天是聊天 明天他可以自己改成能上街散步 07/10 22:46
→ kirimaru73: 後天他又自己改成可以上街開槍自衛 要這麼誇張才會開 07/10 22:47
你這段我在上面的第五點就提到過了吧
我是不怎麼在意母體會不會統治人類的啦
我沒有人類本位主義
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 22:47:51
→ kirimaru73: 使出事 更不用說他要怎麼有身體上街這種事情 07/10 22:47
→ kirimaru73: 警告AI發展的言論大多都是說你不要把這些都開放給AI 07/10 22:48
→ kirimaru73: 問題是人類好像沒這麼多錢 也沒這麼閒去這樣搞 07/10 22:48
→ a7569813: 現在的AI其實跟計算機沒兩樣啊，講意識啥的真的是太早， 07/10 22:52
→ a7569813: 再發展個十幾二十年再說吧 07/10 22:52
推 kirimaru73: 現在表現最驚人的AI就是那些只會講話的 07/10 22:56
→ kirimaru73: 然後研究團隊光是要提升他們講話的品質就已經竭盡所有 07/10 22:56
→ kirimaru73: 的資源了 根本不可能有力氣去改變它們「只會講話」的 07/10 22:56
→ kirimaru73: 這個特點 就算真的養壞了 極限就是因暴言而被封鎖而已 07/10 22:57
→ kirimaru73: 不過你前面提到的 不可以小看對訓練資料的不了解造成 07/10 22:58
→ kirimaru73: 的後果 這點是完全正確的 研究都很認真地在看待這部分 07/10 22:59
→ kirimaru73: 講錯話不會毀滅人類 但會毀滅研究團隊的錢錢 07/10 22:59
→ kirimaru73: 無論經費爆了或名聲爆了 都是對研究者最致命的災難 07/10 23:00
推 a7569813: 因為金主會發飆 07/10 23:03
我要是閒錢很多的石油王我會很樂意把AI訓練成一個槓精
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 23:04:27
推 kirimaru73: 講個實際的數字 現在網路上公開讓所有人都能免費用的 07/10 23:04
→ kirimaru73: 語言訓練資料大概在幾十個TB左右 07/10 23:04
就算是研發級的AI,考慮到那個成本
所以AI要毀滅人類也是多慮
但我也不怎麼在意AI毀滅人類的
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 23:05:41
→ kirimaru73: 大公司的壓箱資源會直接上升很多個數量級 07/10 23:05
→ kirimaru73: 資料骯髒是自AI近年開始發展就一直存在的問題 07/10 23:07
→ kirimaru73: 當然通用的淨化資料手段也是有很多論文可以參考 07/10 23:08
→ kirimaru73: 不過最厲害的那幾個 應該都有獨門的淨化秘方 07/10 23:08
→ iampig951753: 真正喪失記憶的人格跟思想都會不見 07/10 23:21
→ iampig951753: 你的論點炸了 07/10 23:21
你那叫植物人好嗎
當然更極端的也可以說植物人大腦還是在運作啦
最起碼也會控制器官和神經系統
※ 編輯: a0930307148 (153.181.100.35 日本), 07/10/2025 23:22:11