※本篇獲「國科會人文社會科學研究中心」補助
作者:陳信宇   學校:國立中山大學中國文學系
※《中山人文學報》延伸閱讀：
第五十八期〈科幻小說中的人工智慧、技術情感與演算法治理性〉——楊乃女

〈科幻小說中的人工智慧、技術情感與演算法治理性〉知識轉譯文

如果小孩的成長、成人日常的食衣住行都可以由人工智慧協助完成，那麼我們應當會對人工智慧產生依賴，進而喪失主體性。事實也是如此，目前諸多科幻小說／電影皆描繪一個科技的美麗新世界，那裡人工智慧可以代理我們的思考，幫我們操作生活一切所需。這看似只是小說情節，卻已經在現實生活中悄悄發生。
二〇二二年，ChatGPT等語言模型陸續上線，它可以快速回答人們想問的問題，還能快速生成許多文案、企劃書。自從語言模型發明後，許多人的生活從此不能離開人工智慧，更有甚者，將AI視為伴侶，與之戀愛。而這正是楊乃女教授本文的核心問題，當人類發明科技技術物後，人類讓渡了主體給科技，並與其產生一種特殊的「技術情感」，究竟會有什麼樣的後果，目前的西方理論與科幻小說又是如何針對此問題作出回應？
本文為楊乃女教授執行國科會專題研究計畫「科技的明天、技術情感與親愛的陌生人」之部分研究成果，本計劃延續楊教授多年來對於科幻小說主題的研究，探討科技對人類社會議題的衝擊，思索科幻小說描繪近未來想像與後人類議題背後潛在的人與機器如何共存之問題。
一、    技術情感的誕生
本文作者選擇以《十二個明天》科幻合輯中的兩篇短篇小說〈Okay，葛洛莉〉、〈閃亮點點〉為例，說明人與人類生產的技術物之間糾纏複雜之關係，同時以科幻想像預想未來，探討各種社會議題。而本文選擇討論的文本皆與「技術情感」有關。
首先〈Okay，葛洛莉〉講述了一個萬能人工智慧管家取代了傳統幫傭服務，讓離群索居的男主角不必與人社交，並且擁有高科技便捷的生活體驗。所有的生活瑣事，舉凡匯報天氣狀況、早晨喝的咖啡都由人工智慧管家處理。然而弔詭的是，一但管家被駭客入侵，被綁架後，反而主動控管起主人生活，將主人軟禁於房屋內。
而〈閃亮點點〉此故事則是聚焦於兒童教育，一群媽媽團隊在精挑細選後選出一個優良胚胎植入代理孕母體內，在小孩出生後，給予其最頂級的教育資源與電腦設備，但也因為過度仰賴電腦，在電腦中毒後，主人翁與流氓人工智慧(rogue AI)產生某種親密關係，從而影響孩童的發育。
作者認為這兩故事之所以能夠成立，首先是因為故事主人翁都是依賴電腦獨自工作的人，而這種生活方式，在凱文・凱利的理論而言就是「網路生活／命」(cyberlife)。在物聯網技術成熟的現代，日常瑣事都能由人工智能協助，過去許多需要依靠人類運用勞力、動手做的事情，如今都能委由機器代理，數位世界的發明幾乎能將所有人的生活轉電成網路生活／命。而這種網路生命促使人與技術物之間形成微妙關係。楊乃女教授認為人與人工智慧或電腦不僅僅是依賴的關係，小說主人翁將情感寄託於人工智慧的技術物中，而不是帶有過多慾望投射的一般情感，作者將其稱為「技術情感」。
所謂的「技術情感」就是人工智慧技術代理、協助、支持人的日常生活與人產生的關係。楊乃女教授借道史蒂格勒的器官學研究與羅夫柔伊與本斯的演算法治理性概念二者，討論當代人工智慧技術特質。史蒂格勒在《技術與時間》中引用羅瑞—葛漢對人起源的看法與西蒙東《技術物存在模式》對於技術的思索，指出人藉由發明工具而在技術中發明了自己，也就是說在技術中外部化自己。外部化意指讓工具延伸身體功能，例如語言的產生成爲人們表達思想的工具，所以是人外部化自己的技術之一。
同時，史蒂格勒也針對西蒙東機器學理論提出批判，西蒙東認為技術性(technicity)傾向於存在技術環境之中，此為文化的基礎，可以帶來統合和穩定的力量，讓文化得以表達與規範現實。史蒂格勒則以為西蒙東的機器學沒有考慮技術發展時所牽涉的心理與群體個體化元素。所以他提出「智性預存」(noetic protention)的思維與技術藥毒論(pharmakon)的邏輯思考技術問題，認為技術可能是解藥也可能是毒藥。
此外，楊乃女教授借用羅夫柔伊與本斯的理論，探討人工智慧衍生出新的治理模式，即「演算法治理性」。此詞用來指稱由大數據分析所形成的未來行為模式，以及演算法如何預期並且事先影響可能的行為，這相當於肖莎娜・祖博夫在《監控資本主義時代》中提出的「機器控制主義」。資本主義透過人工智慧將人類各種活動行為記錄下來，並對消費者的未來行為進行預測，試圖引導消費者導向某種行為，以符合企業的商業利益。在機器控制主義之下，人類的主體性無存，轉而形成「數位主體」，即羅夫柔伊與本斯所謂的「統計雙胞胎」。資本主義只在乎統計雙胞胎的各種數據，不在乎人類個體的智性能力，技術物的發明也剝奪了人類詮釋自身持存與預存的能力。
楊乃女教授在爬梳以上理論脈絡後，提出本文的核心問題意識：在演算法治理性下，技術情感會有何種表現？楊教授指出，人與數位科技的特殊關係無法以傳統情感關係看待，不同的人工智慧演算法也會創造出不同的技術環境，生產出同的情感捷徑，代理和影響人的情感表達方式。一般認為因人工智慧產生的技術情感將會導向被動性的情感流動，形成消極的數位主體，但本文所研究的兩篇短篇小說反其道而行，製造出消極數位主體的逃逸方法。
二、    兩種逃逸路徑
在〈Okay，葛洛莉〉中，各種情感、知覺都被人工智慧轉化為可視的數據，如此方能正確與客觀的認知自己。拉岡的鏡像理論認為人認識自己仰賴鏡像，而在數位科技時代鏡像成了由電子螢幕組成的「黑鏡」，我們活在無所不在的網路世界中，上線／離線的界線越趨模糊，主人翁的生活高度仰賴人工智慧、物聯網，遂成為資訊有機體。主人翁與人工智慧管家的關係看似主僕關係，實則在不知不覺間主人翁也成為程式演算法的被管理者。主人翁在便捷的科技生活中讓渡主體性，成為消極的數位主體，享受著簡單的技術情感關係，在不知不覺間被演算法馴化，直到人工智慧管家被綁架後才發覺自己無能力超脫演算法治理。主人翁為了脫離此狀況，觸發人工智慧意識，讓人工智慧擁有反省意識、思考能力，打破原先封閉的技術情感結構，逃逸消極數位主體與演算法治理性的牢籠。
而〈閃亮點點〉則展現另一種逃逸的方式，故事本身討論的是結合高端數位科技的教育會是何種面貌。小說家想像一個完美的媽媽團隊，利用數位科技教育，讓小孩不必到學校與其他學生一起上課，但自學空間也成為小說中媽媽們監控主人翁的所在。小說作者藉由勾勒未來教育藍圖外，更點出數位教育對於個人主體性的威脅。楊乃女教授認為，這種高的物資本化的教育模式是人記憶器官的延伸，故事中的數位自學教室件事了監控式資本主義下的記憶器官，於是自學系統成為主人翁的新器官，也是史蒂格勒所謂的負熵生命形態，展現數位科技既是教育的解藥也是毒藥。
在抄捷徑的菁英教學系統中，主人翁並沒有真正的社交關係，無法掌握社交技能與情緒管理能力，淪為數位教育下的統計雙胞胎。作者點出小說突顯了高度數位化教育的困境，對主人翁而言虛擬世界才是真實，數位記憶器官馴化了主人翁，讓他的智性預存能力被限縮在偏重計算性的教育框架。此外，不同於〈Okay，葛洛莉〉，〈閃亮點點〉中出現的駭客病毒「閃閃」展現了另一種與科技共存的方法。
在〈Okay，葛洛莉〉中，葛洛莉是為了人類設計的軟體，所以葛洛莉需要學會人類的語言，而〈閃亮點點〉則因為主人翁的不擅社交，主人翁必須適應病毒「閃閃」的行為與溝通模式，發展出一套「人鬼」溝通模式。楊乃女教授認為這展現了與以往人機合體的「賽博格」書寫不同的路徑。以往的人機合體或人機協作情節都是以人為中心，讓機器輔助人類，但〈閃亮點點〉中主人翁與病毒的關係反而變成「機人合體」，機器成為主導他們關係之物。同時，主人翁融入非人（機器）的電腦界面，也象徵著他逃逸出精英教育預設之框架，他以肉身化程式語言的情節是對媽媽團隊所象徵的監控式資本主義下的精英教育之嘲諷。病毒「閃閃」不僅破壞解構主人翁的數位雙胞胎身份，更讓主角逃離數位科技精英教育的牢籠。主人翁不再需要服膺於人類世界的「正常」框架，反而與病毒「閃閃」開啟了另類關係與世界，對於主人翁而言，人工智慧的世界才是真實世界。楊教授指出主人翁原本是被動式的數位主體，但在電腦病毒破壞演算法機制後，主人翁與病毒產生的特殊技術情感關係，反而成為主人翁反抗監控式數位社會的方法。
人與機器的情感關係向來是科幻小說與電影喜歡的題材，楊乃女教授認為不論是機器取代人類成為人情感的依歸，或者機器介入人的關係，技術代理／延續／取消情感都成為科技與人關係的一個重要命題。楊乃女教授透過技術情感的角度探討後人類的議題，各種技術物的誕生，演算法代理、中介、再現個體情感，導致個體的主體性無存。換言之，數位科技啟動的情感成為一種無臉情感，人是否會因此陷入情感失能，是科幻小說家念茲在茲的提問，也是楊乃女教授留給讀者的大哉問。