當社會的統治者不再由國家擔任,而是轉讓給科技的完美演算法,人類的生活將會演變成甚麼樣子?人還需要自由意志嗎?又或者,愛情在這種社會模型裡會是一種自由自在的追求,還是從上而下的分配?德國作家彼強.莫伊尼(Bijan Moini)的科幻小說《演算人生》(Der Würfel )今年1月推出繁中譯本,2月親自來台,於國際書展出席講座。名為「誰能決定我的自由意志?」的講座,邀得同樣書寫科幻小說的作家教授紀大偉出席對談,並由《演算人生》譯者陳冠宇擔任主持。
莫伊尼是一位德國伊朗混血的律師、政治觀察家與民權活動倡儀者,在擔任商業律師時由於小說構思的呼喚,決意辭去工作專心寫作。他所關注的議題包括數位化與極權之間的關係,並在科幻小說以外,出版了《拯救我們的自由:數位時代的起床號》及《我們的法律與權利:藏在法條背後的故事》,同時從事演講與撰稿的工作。
➤立方體世界
講座先從《演算人生》的故事開始,原文書名Der Würfel原意為擲骰子,在書裡指的是一個完美的演算法系統「立方體」。演算法收集民眾所有生活細節的數據,並提供無憂無慮的生活。這種從上而下的統治自然不是人人願意跟隨,於是,小說的主角塔索作為反抗派「數據拒絕者」,就決意過上辛苦的抗爭生活。
由於「立方體」的控制無孔不入,塔索的反抗就從將生活隨機化開始。他弄來硬幣與骰子,讓命運決定自己當天的衣著與行動,實踐在日常生活中每個細節都違抗立方體控制的苦行。在《演算人生》的故事裡,世界最高的價值就是要符合「立方體」的預測,從此獲得更好的資源。與此相反,反抗派選擇的這種生活可堪苦行。在此雪上加霜的是,塔索墮入了愛河——而他愛上的女生,恰好就是甘願受「立方體」控制的女生。
「科幻小說裡面有很大的力量,讓我們脫離現實世界,並對於我們所希望或不希望實現的世界有一個假想。」莫伊尼分享他對於小說形式的思考:「我在寫作的時候,不會讓讀者很輕易地抉擇究竟誰對誰錯。有些人會拒絕像書中那樣的世界,但有些人也可能會覺得,這樣的社會安排也不錯。」這幾乎就是書中男女主角的寫照了。
➤小說裡的中國批判
《演算人生》書中一個爭議點,是它對於中國政府毫不掩飾的批判。在小說的前面數章,已經寫下諸如「中國總是聲稱每個夥伴國可以自行決定要獎勵或懲罰甚麼行為,但當然〔……〕即使在辛巴威,任何批評中國的人都會立即被扣15到70分」這樣的段落。這可以說是當初中國推出社會信用體系後,世界各地即時的擔憂了,而莫伊尼將這個系統轉化為小說裡的「立方體」,並稱為立方主義。一種跨國的科技殖民。
會選擇對於中國進行直接的批判,首先是因為莫伊尼對好萊塢電影工業的強烈不滿:「他們為了能夠在中國市場做生意,就接受中國的檢查機關更改他們的電影或劇情。」為此,莫伊尼直接選擇在作品中對中國進行批判,親手消除任何未來向中國市場妥協的可能。
這種批判有可能是非政治的,莫伊尼說:「最近德國有個有趣的民調,有25%的人不想被人管理,而想被AI管理。在我的書裡,這種反烏托邦沒有特別的政治立場,它只想預測人們的行為而已。它背後沒有像中國共產黨那樣的政黨,但我們可以看到這種功能被濫用的可能性。」
➤思索科技的代價
紀大偉在1996年出版的《膜》,關注了相類似的反烏托邦議題,與《演算人生》一樣,也涉及人類進入一種新的科技狀態時的狀況。紀大偉認為,這是一種「離鄉別井」,像移民或難民一般的際遇。「人究竟要付出怎樣的代價?與《演算人生》比起來,《膜》在這方面是比較青澀了。現在我想寫《膜》的續集,因為它對於移民、難民,還有還有氣候變遷造成的難民的痛苦的描寫得不夠多。」他說,既然莫伊尼證明了科幻小說可以寫得很恐怖,那《膜》的續集也可以這樣做。
紀大偉(左)與主持人陳冠宇。
所謂的青澀,並不是指寫作技巧,而是時代已經變遷。在90年代,依靠演算法科技與大數據從上而下的管制並不普遍,像「立方主義」的思考大多在文學當中,而非現實世界。莫伊尼指出,我們現在的社會已經高度個人化了,像是每個人在Spotify上都可以擁有個人的歌單,決定自己想聽的音樂,而非依賴廣播。但這些歌單背後都有演算法的陰影:「我們現在使用的app就像書中的『立方主義』,是個人化的假象。實際上它就是科技對於我們的分類。」要對抗這種狀態,莫伊尼在《演算人生》裡所進行的嘗試就是以隨機去制衡秩序,以個體去拒絕集體,並以停止去破壞管理。
思索這些科技的驚悚主題,莫伊尼並沒有要求讀者屏棄現有生活。對談結尾他坦承自己其實是個熱愛科技的人,擁有朋友圈裡第一支智慧型手機。對於自己創造出的「未來app」,也透露著好需要的嚮往。例如社交場合,透過某種app幫助雙方快速找到能夠深入交談的話題,而非僅僅講些場面話。他認為這是一個好的「個人化」,但使用者需要認知到這些功能在不同層次上的問題。
個人化其實就是過濾資訊,假如延伸下去,app連動隱形眼鏡,將雲端與實體層面上,「個人」不喜歡或者看了會引起負面情緒的資訊都過濾掉(例如貧窮),那將是一個恐怖的虛假世界。「所以關鍵就是用途。怎麼用?用在哪?一把刀可以用來塗抹果醬在麵包上,也可以殺人。」
➤同場加映:《拯救我們的自由》中台灣讀者關心的問題
Q:AI人工智慧因ChatGPT的出現,人們的工作權被取代,您是樂觀還是悲觀的?
莫伊尼: 尚待觀察。歷史上,科技發展史也有好幾次變革,例如工業革命、汽車出現取代人力車,也改變人們的行為,所以我們要觀察AI出現之後,它取代了什麼,和做了什麼。它也許可以取代人們的一些行為,但也許可以因應AI發展增進我們的創造力。
攝影機問世時還沒有修圖技術,隨著AI新技術的產生,修圖專家出現了,運用技術讓舊的經典被修護重新保存,或運用新技術將經典作品進行再創作。這些都是新科技的優勢,雖然可能取代掉一些技術性的工作,但也帶來更多的可能性,所以優缺點仍有待觀察。
Q:AI安全,之於個人該如何防範?
莫伊尼: 可以從2個層面說明。我們個人可以選擇是否受AI操控,提供個人資料來讓AI使用。另一個積極作法就是減少個人的數位足跡,以減少受到AI操控。不過,我個人對這樣做法的影響力是不樂觀的,因為這個做法對於消弭AI的影響很有限。
「提升大眾的認知」是最重要的,也是閱讀《拯救我們的自由》這本書最大的價值——雖然大眾有了認知不一定會行動。●
拯救我們的自由:數位時代的起床號
Rettet die Freiheit! : Ein Weckruf im digitalen Zeitalter
作者:彼強.莫伊尼 (Bijan Moini)
譯者:李建良
出版:遠流出版
定價:330元
【內容簡介➤ 】
演算人生
Der Würfel
作者:彼強.莫伊尼(Bijan Moini)
譯者:陳冠宇
出版:堡壘文化
定價:550元
【內容簡介➤ 】
作者簡介:彼強.莫伊尼(Bijan Moini)
德國自由權協會(Gesellschaft für Freiheitsrechte)專職訴訟律師。德國慕尼黑大學法學博士,曾於德國一家商事法律事務所擔任律師三年。除法律專業外,亦熱衷寫作,著有以人工智慧為主題之小說《演算人生》(Der Würfel , 2019)(獲得2020年Seraph科幻小說新人獎及2020年德國最佳德語科幻小說獎)、法律科普書《我們的法律與權利:藏在法條背後的故事》(Unser gutes Recht. Was hinter den Gesetzen steckt , 2021)等書。現今並以自由人權專家的身分出現在各大影音和平面媒體以及社群網路。
Tags:
(左起:口譯張君德、彼強.莫伊尼、紀大偉)
德國作家彼強.莫伊尼(Bijan Moini)今年年初在台灣出版兩本書:遠流出版的科技社會議題書《拯救我們的自由》,以及堡壘文化的科幻小說《演算人生》。兩書分別以現實與虛構角度,討論科技(尤其是AI)即將引起的變革。
2月台北國際書展期間,莫伊尼現身在兩書的講座現場,與讀者分享AI科技時代,應該具備什麼樣的防範認知。本文為莫伊尼與作家紀大偉討論《演算人生》的對談側記,同場加碼《拯救我們的自由》講座精選QA。
當社會的統治者不再由國家擔任,而是轉讓給科技的完美演算法,人類的生活將會演變成甚麼樣子?人還需要自由意志嗎?又或者,愛情在這種社會模型裡會是一種自由自在的追求,還是從上而下的分配?德國作家彼強.莫伊尼(Bijan Moini)的科幻小說《演算人生》(Der Würfel)今年1月推出繁中譯本,2月親自來台,於國際書展出席講座。名為「誰能決定我的自由意志?」的講座,邀得同樣書寫科幻小說的作家教授紀大偉出席對談,並由《演算人生》譯者陳冠宇擔任主持。
莫伊尼是一位德國伊朗混血的律師、政治觀察家與民權活動倡儀者,在擔任商業律師時由於小說構思的呼喚,決意辭去工作專心寫作。他所關注的議題包括數位化與極權之間的關係,並在科幻小說以外,出版了《拯救我們的自由:數位時代的起床號》及《我們的法律與權利:藏在法條背後的故事》,同時從事演講與撰稿的工作。
➤立方體世界
講座先從《演算人生》的故事開始,原文書名Der Würfel原意為擲骰子,在書裡指的是一個完美的演算法系統「立方體」。演算法收集民眾所有生活細節的數據,並提供無憂無慮的生活。這種從上而下的統治自然不是人人願意跟隨,於是,小說的主角塔索作為反抗派「數據拒絕者」,就決意過上辛苦的抗爭生活。
由於「立方體」的控制無孔不入,塔索的反抗就從將生活隨機化開始。他弄來硬幣與骰子,讓命運決定自己當天的衣著與行動,實踐在日常生活中每個細節都違抗立方體控制的苦行。在《演算人生》的故事裡,世界最高的價值就是要符合「立方體」的預測,從此獲得更好的資源。與此相反,反抗派選擇的這種生活可堪苦行。在此雪上加霜的是,塔索墮入了愛河——而他愛上的女生,恰好就是甘願受「立方體」控制的女生。
「科幻小說裡面有很大的力量,讓我們脫離現實世界,並對於我們所希望或不希望實現的世界有一個假想。」莫伊尼分享他對於小說形式的思考:「我在寫作的時候,不會讓讀者很輕易地抉擇究竟誰對誰錯。有些人會拒絕像書中那樣的世界,但有些人也可能會覺得,這樣的社會安排也不錯。」這幾乎就是書中男女主角的寫照了。
➤小說裡的中國批判
《演算人生》書中一個爭議點,是它對於中國政府毫不掩飾的批判。在小說的前面數章,已經寫下諸如「中國總是聲稱每個夥伴國可以自行決定要獎勵或懲罰甚麼行為,但當然〔……〕即使在辛巴威,任何批評中國的人都會立即被扣15到70分」這樣的段落。這可以說是當初中國推出社會信用體系後,世界各地即時的擔憂了,而莫伊尼將這個系統轉化為小說裡的「立方體」,並稱為立方主義。一種跨國的科技殖民。
會選擇對於中國進行直接的批判,首先是因為莫伊尼對好萊塢電影工業的強烈不滿:「他們為了能夠在中國市場做生意,就接受中國的檢查機關更改他們的電影或劇情。」為此,莫伊尼直接選擇在作品中對中國進行批判,親手消除任何未來向中國市場妥協的可能。
這種批判有可能是非政治的,莫伊尼說:「最近德國有個有趣的民調,有25%的人不想被人管理,而想被AI管理。在我的書裡,這種反烏托邦沒有特別的政治立場,它只想預測人們的行為而已。它背後沒有像中國共產黨那樣的政黨,但我們可以看到這種功能被濫用的可能性。」
➤思索科技的代價
紀大偉在1996年出版的《膜》,關注了相類似的反烏托邦議題,與《演算人生》一樣,也涉及人類進入一種新的科技狀態時的狀況。紀大偉認為,這是一種「離鄉別井」,像移民或難民一般的際遇。「人究竟要付出怎樣的代價?與《演算人生》比起來,《膜》在這方面是比較青澀了。現在我想寫《膜》的續集,因為它對於移民、難民,還有還有氣候變遷造成的難民的痛苦的描寫得不夠多。」他說,既然莫伊尼證明了科幻小說可以寫得很恐怖,那《膜》的續集也可以這樣做。
所謂的青澀,並不是指寫作技巧,而是時代已經變遷。在90年代,依靠演算法科技與大數據從上而下的管制並不普遍,像「立方主義」的思考大多在文學當中,而非現實世界。莫伊尼指出,我們現在的社會已經高度個人化了,像是每個人在Spotify上都可以擁有個人的歌單,決定自己想聽的音樂,而非依賴廣播。但這些歌單背後都有演算法的陰影:「我們現在使用的app就像書中的『立方主義』,是個人化的假象。實際上它就是科技對於我們的分類。」要對抗這種狀態,莫伊尼在《演算人生》裡所進行的嘗試就是以隨機去制衡秩序,以個體去拒絕集體,並以停止去破壞管理。
思索這些科技的驚悚主題,莫伊尼並沒有要求讀者屏棄現有生活。對談結尾他坦承自己其實是個熱愛科技的人,擁有朋友圈裡第一支智慧型手機。對於自己創造出的「未來app」,也透露著好需要的嚮往。例如社交場合,透過某種app幫助雙方快速找到能夠深入交談的話題,而非僅僅講些場面話。他認為這是一個好的「個人化」,但使用者需要認知到這些功能在不同層次上的問題。
個人化其實就是過濾資訊,假如延伸下去,app連動隱形眼鏡,將雲端與實體層面上,「個人」不喜歡或者看了會引起負面情緒的資訊都過濾掉(例如貧窮),那將是一個恐怖的虛假世界。「所以關鍵就是用途。怎麼用?用在哪?一把刀可以用來塗抹果醬在麵包上,也可以殺人。」
➤同場加映:《拯救我們的自由》中台灣讀者關心的問題
Q:AI人工智慧因ChatGPT的出現,人們的工作權被取代,您是樂觀還是悲觀的?
莫伊尼:尚待觀察。歷史上,科技發展史也有好幾次變革,例如工業革命、汽車出現取代人力車,也改變人們的行為,所以我們要觀察AI出現之後,它取代了什麼,和做了什麼。它也許可以取代人們的一些行為,但也許可以因應AI發展增進我們的創造力。
攝影機問世時還沒有修圖技術,隨著AI新技術的產生,修圖專家出現了,運用技術讓舊的經典被修護重新保存,或運用新技術將經典作品進行再創作。這些都是新科技的優勢,雖然可能取代掉一些技術性的工作,但也帶來更多的可能性,所以優缺點仍有待觀察。
Q:AI安全,之於個人該如何防範?
莫伊尼:可以從2個層面說明。我們個人可以選擇是否受AI操控,提供個人資料來讓AI使用。另一個積極作法就是減少個人的數位足跡,以減少受到AI操控。不過,我個人對這樣做法的影響力是不樂觀的,因為這個做法對於消弭AI的影響很有限。
「提升大眾的認知」是最重要的,也是閱讀《拯救我們的自由》這本書最大的價值——雖然大眾有了認知不一定會行動。●
拯救我們的自由:數位時代的起床號
Rettet die Freiheit! : Ein Weckruf im digitalen Zeitalter
作者:彼強.莫伊尼 (Bijan Moini)
譯者:李建良
出版:遠流出版
定價:330元
【內容簡介➤】
演算人生
Der Würfel
作者:彼強.莫伊尼(Bijan Moini)
譯者:陳冠宇
出版:堡壘文化
定價:550元
【內容簡介➤】
作者簡介:彼強.莫伊尼(Bijan Moini)
德國自由權協會(Gesellschaft für Freiheitsrechte)專職訴訟律師。德國慕尼黑大學法學博士,曾於德國一家商事法律事務所擔任律師三年。除法律專業外,亦熱衷寫作,著有以人工智慧為主題之小說《演算人生》(Der Würfel, 2019)(獲得2020年Seraph科幻小說新人獎及2020年德國最佳德語科幻小說獎)、法律科普書《我們的法律與權利:藏在法條背後的故事》(Unser gutes Recht. Was hinter den Gesetzen steckt, 2021)等書。現今並以自由人權專家的身分出現在各大影音和平面媒體以及社群網路。
手指點一下,您支持的每一分錢
都是推動美好閱讀的重要力量
閱讀通信 vol.303》在這間酒吧看書,不會有人覺得你很奇怪
延伸閱讀
台灣文學在北歐I》第一次翻譯台灣小說就大受歡迎:丹麥小出版社的大力量
閱讀更多
人物》科技、社交,以及構成我們之為我們的其他:林新惠X蕭詒徽談《零觸碰親密》
閱讀更多
創作者與他的AI.ㄩㄐ黃昱嘉》圖像、文案、程式碼和一點點幽默感
想像一個24小時待命的助理,可以隨時為你提供建議、解惑、處理交辦事項。2023年以ChatGPT為首的人工智慧程式讓這樣便利的科技願景產生可能,... 閱讀更多