沙丘啟示:數據時代的人類對科技掌控風險解析

Published on: | Last updated:

我們根本不知道自己走進了什麼世界

老實說,《沙丘》每次看到那句「A beginning is a very delicate time」,心裡都會浮出一種怪怪的感覺,像是被點醒——不是故事本身,是整個「我們正在走向什麼」的問題。尤其最近這一堆 AI、基因編輯、生物科技、腦機介面… 你不覺得越來越像是在複製小說裡的那些警告嗎?

不過,跟 Herbert 的沙丘宇宙比起來,我們其實還沒有被逼到「不得不醒來」那一步。沒有什麼 Butlerian Jihad 之類的集體大覺醒,只有一堆人各自沉迷、焦慮、選擇裝沒事,繼續滑手機。這種「半夢半醒」的狀態,其實才最危險。

從現實到沙丘宇宙:人類與科技的路徑分岔
從現實到沙丘宇宙:人類與科技的路徑分岔

我們是人類,最大的敵人也是人類自己

Herbert 的主軸:沙丘設定在 10191 年,最大的危機不是外星人、不是宇宙爆炸,是「人類自己養出來的思考機器」。很諷刺對吧?不是怪獸或外力,是你每天自己開心發明,最後反咬自己的那一種。

Butlerian Jihad 之後的世界:在那場機器反叛大戰結束後,人類立了規矩:不准再造「像人類大腦」的機器。然後只能靠自己變強,例如:

  • 像電腦一樣精密思考的 Mentat(人腦電腦)
  • 操控遺傳和潛意識的 Bene Gesserit(全宇宙最狠的姊妹會)
  • 直接把空間折起來的航道領航員(有點像超級算命仙+宇航員)

你說我們現在在哪?很簡單,就是還沒爆炸、還沒覺醒,全部事情都還在「前菜」階段那邊亂飄的現實。

台灣這邊很妙,有人還在討論 ChatGPT 能不能寫論文,根本沒人在意這背後的數據權力、演算法怎麼決定我們看到什麼新聞。你說跟《沙丘》沒關係嗎?我看未必。

從演算法到基因,我們在溫水煮青蛙嗎?

科幻不是胡扯,都是「你準備面對了沒?」人類要面對什麼?其實就是「你還能不能決定自己怎麼活」。不是科技多厲害,而是你變成只會被推著走。

我聽過一個長輩分享,他說以前還有「選擇障礙」,現在連選的機會都少了。Spotify、YouTube 自動幫你選歌選影片,久了你就懶得動腦,開始變成被演算法「預判」的人。想想你滑手機的樣子,是不是已經不是「你要什麼」,而是「演算法要你看到什麼」?

更妙的是,這還不是最恐怖的,因為真正讓人不寒而慄的不是 AI 自己,而是「我們怎麼和它相處」。

數據依賴 & 主體性滑落:我們真的還有選擇權嗎?
數據依賴 & 主體性滑落:我們真的還有選擇權嗎?

Butlerian Jihad 到底是怎麼一回事?(反正你我都還沒經歷)

《沙丘》的 Butlerian Jihad,細節其實超模糊。到底是機器暴動?還是人類自願被接管?還是經濟整個被取代導致社會崩潰?沒人說得準。Herbert 故意這樣寫——重點不是「爆點是什麼」,而是「為什麼有機會爆掉」。

Mentat 的出現:人類沒了機器,只能自己訓練出「人腦電腦」。他們的訓練極端到用特殊飲料刺激腦力(那個 sapho juice),還搞啟動口令,幾乎機器人化。

我有時候看台灣金融圈那群演算法高手,跟 Mentat 也蠻像的——一堆人全靠腦子和歷史數據在市場裡殺進殺出。但這樣下去,不是只剩極端專業和大眾自動化?

然後,醫界也有類似焦慮。有的放射科醫師直接說:「AI 要是學會看片,我們是不是被淘汰?」不是失業本身可怕,是「人類經驗不再重要」才最讓人怕。

「很多人還以為自己在用工具,其實只是剛好沒被取代而已。」

AI 倫理這齣戲,現在其實蠻失控

你信不信?現在誰都在講 AI 倫理,但根本沒幾個人能管得住。你看:

  • AI 幫銀行審貸款、幫法院建議假釋、幫老闆篩履歷,結果偏見照抄訓練資料,常常黑箱操作。
  • 深偽(deepfake)一出,臉和聲音都能隨便假冒。
  • 自動化武器的決策權,開始模糊是人下的還是機器自己決定。
  • 推薦系統越做越聰明,社會撕裂、焦慮也跟著加劇。

反觀現在的「倫理監督」,多數只是形式。企業自己搞個委員會,然後該怎麼賺還是怎麼賺。像那種「法院認證 AI 訓練用書可以不用付費」的事,台灣不少人直接當笑話看——但這種無聲的放任,才是真的危險。

科技發展 5 階段:你卡在哪裡?
科技發展 5 階段:你卡在哪裡?

基因改造,這才是人類自以為神的那一步

從 Bene Gesserit 到 CRISPR:沙丘裡,Bene Gesserit 玩血統操作玩了幾千年,最終目標是創造出能穿越時空限制的人類(Kwisatz Haderach)。方法就是安排婚配、基因挑選、甚至暗殺,只為那「最強」一人。

但現實其實已經追上甚至超越小說。CRISPR 基因編輯技術,現在便宜又快,幾年前就有人(中國那件大新聞)搞出世界第一對基因嬰兒,全球科學圈譁然。但技術有效、嬰兒還真的出生了。

基因「篩選」已經在台灣也很普遍,有錢的爸媽選胚胎、防遺傳病越來越平常,未來更激進的操作只會更快普及。你以為還很遠?只要夠有錢,想長壽、想升級腦力,慢慢都不是天方夜譚。

Bryan Johnson 那種極端案例:花幾億搞各種回春療法,還有整套生理數據監控。你說這種人是未來領頭羊還是活教材?反正能負擔這些技術的,終究還是少數。

「如果連基因和壽命都能買,那社會階級是不是連『起跑點』都消失了?」

我們的香料不是香料,是資料和矽晶圓

Melange(香料)是《沙丘》的靈魂。誰能掌控香料,誰就能掌控宇宙。那我們現在的香料是什麼?資料,還有算力,還有人才。

GPT-4 那種超大型語言模型,光是訓練用的資料量,就是你想像不到的大。資料只在少數幾家公司(Google、Meta、微軟、Amazon),等於現代版的「資料帝國」。不只這樣,運算資源和硬體也是資本與國力的硬碰硬。

台灣的 TSMC(台積電)就像沙丘的 Arrakis:全世界最關鍵的晶片,幾乎都出自這裡。半導體戰爭、美中科技戰,本質上就是香料爭霸,只是換了名字。

還有礦產,像鋰、稀土、鈷… 你看世界各地為這些資源在拼命,誰能取得,誰就能寫規則。

現代香料之爭:從資料、晶片到基因
現代香料之爭:從資料、晶片到基因

真正被犧牲掉的人是誰?

Fremen 是被壓榨的原住民。在沙丘世界,他們雖然生存極限,卻從未真正掌控香料;同理,現實裡那些「資料貢獻者」——被 AI 訓練卻拿不到好處的人、礦場工人、沒錢做基因療法的普通人——都是現代版的 Fremen。

台灣某些偏鄉的長輩,甚至連醫療大數據也不一定能用上,健康差距其實慢慢拉開了。科技讓強者更強,弱勢反而被拋得更遠。

沙丘裡 Fremen 最後靠知識、團結和地利逆襲成功;但現實,不見得有這麼浪漫的劇本。

科技無解的假二選:進步還是毀滅?

有時候我們會陷入「乾脆禁掉算了」或「放手衝到底」這種二分法。現實根本沒那麼簡單。AI 跟基因工程這種東西,你越想禁,越會變成地下灰色地帶。美國停,別的國家就繼續。封不住、也放不掉。

禁止法行不通:技術已經四散全球,各國標準不同。加上某些科技真的帶來好處——疾病提早診斷、新藥更快出來、能源效率提升…硬要封殺,只會讓創新偷偷跑到沒人管的地方。

所以真正的困難是——我們怎麼邊走邊修,怎麼讓人還有參與感和主控權?不要只讓幾個科技大佬說了算。

這其實就很像台灣公投、地方自治的爭論:每個人都有一點點影響力,雖然難推,但比全交給「技術官僚」強一點。

那我們現在該怎麼辦?(認真問)

個人能做什麼:說真的,不可能指望自己能改變整個 AI 或基因政策啦。但你至少可以練習「保持自主」。像我一陣子都會檢查,自己有沒有哪一件事已經完全被工具或推薦系統「餵食」——比如,會特意選自己平常不聽的歌,或手動找一則新聞,而不是只看手機推送。

你如果有小孩或學生,真的可以鼓勵多想多問,不要全信答案、反而學怎麼質疑。這才是未來最需要的能力——創意、判斷、判斷力。

有時候要故意慢下來:做點「沒效率」的事,徒步走路、手寫筆記、動手修一台舊東西。這些東西說不上有多「實用」,但會讓你重新體會「什麼叫自主」——不是最快,而是你有意識地選。

社會層面該做什麼:台灣這幾年也開始討論 AI 安全,教育部和科技部其實有推公民科技素養課。這種東西不能只是形式,還要真的有監督、有懲罰權、有辦法拉回暴衝的計畫。

台積電也是台灣最真實的案例:這間公司每個決策都會影響全球供應鏈。類似的,未來資料庫、基因資料誰能碰、怎麼規範、誰來看管?其實應該有一套像金管會一樣的審查系統,不是誰想玩就能玩。

最後,其實全世界都在比「誰能先規範、誰能搞定跨國合作」這種問題。這比核武談判還難,因為科技變化更快、牽涉的利益更大。

當下的行動建議:自我主導、集體參與、別等危機才覺醒
當下的行動建議:自我主導、集體參與、別等危機才覺醒

說真的,我最在意的還是「人到底剩下什麼」

人類意識這件事,Herbert 早就預警過了:Paul Atreides(那個天命之子)看穿未來,結果他自己被「預知」搞垮一生。意識才是戰場,所有科技都是圍繞「能不能保有人類的主體性」在打轉。

現實裡,我們一邊用 AI 幫自己決定、用基因改造自己身體,卻沒想過:「還有哪一塊是我自己決定的?」這才是最詭異的地方。

Mentat 的選擇其實超有啟發,他們故意選難的路、人工思考,因為那才是「人該做的事」。現代社會沒那麼極端啦,但你不偶爾拉回主控權,以後真的會連「不被推薦」的自由都沒有。

簡單講:你要小心自己什麼都想省力,結果最後連決定都變成別人在替你下。

「科技不是敵人,失去主動思考才是。」

最後,你的選擇,才是下一個沙丘

你不用等到 Butlerian Jihad 才開始反思。台灣的科技圈已經慢慢有覺醒——但還沒到集體行動那一步。每天你選擇什麼新聞、怎麼用工具、跟誰討論、學什麼,全部都在累積成「下一代的世界」。

Herbert 提醒我們:真正的危險不是技術本身,而是你怎麼面對它,怎麼「慢慢交出選擇權」還以為只是順手。

科技不能不流動,基因會一直被改、資料一直被挖、晶片會持續進化。 但你可以選擇自己要站在什麼立場,是做被捲走的那一個,還是還有點主控權的人。

你覺得哪一塊是你不願意放掉的?是什麼時候,你才會願意站出來說「這條線不能再退了」?

Related to this topic:

Comments