孫燕姿也“認命”了，我們終將都失去獨特性？
“AI孫燕姿”（AI，人工智能）的作品跨度巨大，從流行、搖滾到“魔性”，沒有”AI孫燕姿”駕馭不了的曲風。
孫燕姿2000年專輯《我要的幸福》。
孫燕姿發信回應，她說：
“之前我們一直堅信，思想或觀點的形成是機器無法複製的任務，這超出了它們的能力範圍，但現在它卻赫然聳現並將威脅到成千上萬個由人類創造的工作，比如法律、醫學、會計等行業，以及目前我們正在談論的，唱歌。諷刺的是，人類無法超越它已指日可待。沒有人可以接觸到如此大量的信息並做出恰當的抉擇或犯下恰當的錯誤。這種新技術將能夠大量炮製每個人所需的一切”。
在OpenAI公司（人工智能研究企業）的ChatGPT （一款人工智能聊天機器人）橫空出世之後，類似這樣的擔心就層出不窮。如果說之前的阿爾法狗、數字虛擬人等都只是應用場景單一、更偏向噱頭的產品的話，ChatGPT以其強大的理解和學習能力，已經突破人類現有認知，科幻電影中的場景真正要來臨了。同樣，與區塊鏈、元宇宙等一堆時尚的概念不同，人工智能現在展現了清晰的面貌和直觀的應用場景。而這具有奇點般的時刻，確實需要人類充分來思考，我們該如何面對AI、面對難以迴避的人工智能新世紀。
對於人類來說，最大的噩夢就是你的存在已經沒有意義了，正如孫燕姿所說“你跟一個每幾分鍾就推出一張新專輯的人還有什麼好爭的”，在一個比本人更強、更不會犯錯，有無限可能性的“AI孫燕姿”面前，其本人存在的價值，除了比照AI多麼厲害之外，似乎已經越來越可有可無了，最終可能就是這樣一個“AI孫燕姿”取代了現實中的孫燕姿。
當然，這還是略帶傳統的案例，AI至少還是有其本體，更可怕的狀況是，它可能從頭到尾都是無現實本體的AI，成了萬人膜拜的大明星。這在很久以前的電影《西蒙妮》（又名《虛擬偶像》）中已經體現，該劇有一句台詞：“我們造假的能力，現在已經超過了我們辨識假象的能力”。未來徹底的AI大紅人也是指日可待。到時真真假假早已分辨不清（現在也已經有了苗頭），甚至真假連區分的意義都不在存在，真就是假，假亦是真。
《西蒙妮》（S1m0ne，2002）劇照。
沒有不會被替代的人？
個體無法迴避的職業命運
關注互聯網科技領域的人可能都知道，其實AI在幾年前站過一次風口，但因為商業轉化遲遲不見成效，像阿里達摩院等，都經曆過人員流失的情況。包括百度佈局AI多年，越來越成為雞肋。
但隨著去年底ChatGPT的出現，再一次引爆了AI領域。我們雖然嘲笑百度的文心一言，但不得不承認，這基本上已經是國內最高水平、最強技術積累的產品了。而AI持續火爆這半年多來，不斷迭代的GPT（一種學習模型），不斷刷新大家的認知，也引發了大家對於人類未來的思考，當然，條件反射的第一思考是：我的工作會不會被AI取代。
紀錄片《美國工廠》（American Factory，2019）畫面。
寫有《改變未來的機器：人工智能時代的生存之道》的安德烈斯·奧本海默，分析了新聞媒體業、服務業、法律與會計業、保險與銀行業、醫療保健業、教育業、製造業和娛樂業等。他認為47%的現有工作在未來20年面臨著被機器人、人工智能或其他技術淘汰的風險。
才47%，我以為這個是太樂觀了。與之前的信息化、機械化不一樣，之前衝擊的是重複、單一、標準化的體力勞動/簡單勞動，白領或知識分子的工作（自稱“創造性工作”）沒有受影響，但這一次完全顛倒過來，反而藍領得以倖免，而所謂的“創造性工作”以及看起來高大上的法律、醫療、保險金融等，則是重災區。
《不會被機器替代的人: 智能時代的生存策略》作者傑夫·科爾文也比較樂觀，他認為這是從知識型勞動者轉向關係型勞動者的契機：
過去三百年里，經濟發展所需要的，是勞動者從課堂中所學，與左腦功能相聯繫，技術性較強的技能，而將來，這些不再是最有價值的技能，雖然它們將依然重要，但重要並不等於有價值。技能正在商品化，因而不再構成競爭優勢。新的高價值技能將會來自人類的本質屬性。這正是人類獨有的技能：感知他人的思想與情緒，團隊合作，建立人際關係，共同解決問題，比邏輯表達更有效地表達自己，這些技能和過去經濟發展中有價值的技能有根本性差異。
與以往的變革不同，這次變革不僅會給我們的工作生活帶來經濟回報，而且會使我們的情緒更加豐富，更加愉悅。……關係型勞動者在逐步變成最有價值的人。總的趨勢是，凡是涉及人際交往的行業，就業數量在大幅度增加。計算機的確會吞噬人類工作，但是我們應該為之感到高興，因為這樣一來，人就可以做應該做的事。
《不會被機器替代的人：智能時代的生存策略》，[美]傑夫·科爾文 著，俞婷 譯，中信出版社，2017年10月。
但我覺得這樣的思路，可能還是存在著人類中心主義下的思維誤區，因為它的前提是，智能時代AI還不會有情緒和情感——這個現在隨著GPT不斷迭代，已經產生令人可怕的自主能力了。當然，就目前現實而言，很多人認為教育性、陪伴性工作不可替代，這其實是自我託大了，教育類工作被替代這件事，在三年疫情期間已經得到某些實踐；至於陪伴類工作，類似“天貓精靈”這類產品就可能解決了情感陪伴；而生理上的機器人照護，未來解決病人、養老照護也並不是什麼大問題。有人說學習週期最長的醫生尤其動刀的醫生呢？這也是天真，就想想現在多少醫生離開機械設備檢測、拍片就不會看病了？
所以，斯坦福大學頂尖人工智能專家傑瑞·卡普蘭在《人工智能時代：人機共生下財富、工作與思維的大未來》更加激進地提出：“無論你的領子是什麼顏色，機器都會毫不留情……當人造人的自我意識逐漸覺醒時，人類只不過是他們圈養的生物”。他打了個比方：我們的高速公路要了很多動物的命，因為它們都沒有探知到兩噸重的金屬威脅從路上呼嘯而過。同樣，我們甚至沒有詞語能夠用來討論即將發生的科技變革。綜上所述，我們在所謂的信息高速公路上面臨著斃命的危險。一切似乎沒有不可替代的。儘管我們都憂心忡忡，但這個趨勢確實無法阻擋，人類將自己送進墳墓的步伐，越來越加快了速度。
《人工智能時代：人機共生下財富、工作與思維的大未來》，[美]傑瑞·卡普蘭 著，李盼 譯，浙江人民出版社·湛廬文化，2016年4月。
當然，總是要想辦法活下去，《機器人來了：人工智能時代的人類生存法則》作者約翰·普利亞諾給出了建議：若想在自動化的競爭中占有優勢，你應如何充分利用人類獨具的特質：創造力、獨創性和創業精神。贏得這場戰役不能憑體力，而是要靠思維方式。本書嚐試總結了四種思考原則，旨在助於指引大家度過由無所不在的自動化所帶來的動盪的經濟時代。
首先，像人一樣思考，而不是像機器。你的經濟價值取決於你的創造力，而不取決於你執行重複性任務的能力。培養你個人天賦和能力中所獨有的人情味技能，重點是創造能力。其次，像創業者一樣思考，而不是像僱員。隨著人們被更高效的機器取代，失業將像流行病一樣蔓延。工作崗位可能不多，但是對那些學會利用自己的人情味賺錢的人來說，仍將存在大量的機會。第三，像積蓄者一樣思考，而不是消費者。自動化的重點在更高效地生產創造了一個價格下跌的通貨緊縮環境。通貨緊縮有利於那些有自控力、推遲滿足感的積蓄者。消費者購物是為了情感滿足，而積蓄者則能識別價值，購買增值產品。第四，像投資者一樣思考，而不是投機者。技術的創造性破壞將淘汰很多老牌行業，創造出驚人的投資機會。過濾媒體炒作的泡沫是保護資本的一個關鍵技能。謹慎的投資者會找到足夠的方法擴充自己的財富。
文明也將“無一倖免”？
風險與原則
《機器人總動員》（WALL·E，2008）畫面。
個人職業層面的危機，雖然所有公眾都很關心，但這其實只是AI風險最表層的部分，真正的風險是它系統性地對於人類文明構成了挑戰。也是基於此，逐漸有一股反思和反對的聲音出現。
3月30日，OpenAI的共同發起人伊隆·馬斯克和一群人工智能專家及行業高管在發佈的公開信中呼籲，在未來六個月暫停對GPT模型的訓練，以免該模型變得更加強大，從而對社會和人類造成潛在風險。“只有當我們確信它們的影響是積極的，並且它們的風險是可控的時候，才能開發更強大的人工智能系統。”聯名信中說道。
這封信由非營利組織未來生命研究所發佈，由1000多人聯名，其中包括馬斯克、Stability AI（人工智能企業）的首席執行官埃瑪德·莫斯塔克（Emad Mostaque）、Google旗下DeepMind（人工智能企業）的研究人員，以及人工智能領域的重量級人物約書亞·本吉奧（Yoshua Bengio）和斯圖爾特·羅素（Stuart Russell）等。他們呼籲在GPT進一步強大之前，需要首先就此類大模型達成由獨立專家開發、實施並審核的共享安全協議。
《未來簡史：從智人到智神》，[以] 尤瓦爾·赫拉利 著，林俊宏譯，中信出版社，2017年2月。
在今年5月初，以色列曆史學家尤瓦爾·赫拉利發文談論了人工智能與人類的關係，他認為“新的人工智能工具出現了，從一個人們沒有預料到的方向威脅到人類文明的生存。人工智能已獲得了一些非凡的能力，可以操縱和生成語言，不論是用文字、聲音還是圖像。因之，人工智能已侵入我們文明的操作系統。”
牛津大學人類未來研究院的院長尼克·波斯特洛姆在《超級智能：路線圖、危險性與應對策略》對人類和超級智能做了系統的分析，他說“如果機器比人類聰明，那麼我們將不再是這個星球的主宰。當這一切發生的時候，機器的運轉將超越人類”。
《為什麼偉大不能被計劃：對創意、創新和創造的自由探索》，[美] 肯尼斯·斯坦利、[美] 喬爾·雷曼 著，彭相珍 譯，中譯出版社，2023年4月。
這些擔憂並不是捕風捉影，《為什麼偉大不能被計劃：對創意、創新和創造的自由探索》的作者之一喬爾·雷曼，作為OpenAI 研究員，在2022年其率領的研究團隊發表了一篇“神奇”的論文，首度揭秘了 OpenAI 的一項研究：大模型自己學習、自己寫代碼，然後自己“調教”出了一個智能體機器人。這也揭示了大模型的代碼生成能力已足夠影響AI的進化，而這一進展反過來也能增強大模型的生成能力。也就是說，智能可以自主學習、自行進化。而書中對於“目標”“計劃”的批判，再聯想到他們打破常規後取得的GPT的成績，更令人擔心其背後的“技術爆炸”了。
《人類的終極命運：從舊石器時代到人工智能的未來》以哲學思辨的方式，討論了智能的自我意識。紮卡達基斯在作品中說，“自我意識是人類意識中最為深層和最神秘的要素。……自我意識既是我們的救贖，同時也是一枚投向邏輯學、數學、計算機科學和人工智能根基的炸彈。它認為心智具有觀察自己的能力。”
終於，在馬斯克領銜的公開信公佈兩個月後的5月30日，包括“ChatGPT 之父”山姆·阿爾特曼（Sam Altman）在內 350 位 AI 權威都簽署了一封新的聯名公開信，並對當前正在開發的 AI 技術可能會對人類構成生存威脅擔憂。這封信只有一句聲明：降低人工智能滅絕的風險，應該與其他社會規模的風險（如大流行病和核戰爭）一樣，成為全球的優先事項。
《機械姬》（Ex Machina，2014）劇照。
科幻迷都知道機器人三大原則，即第一條：機器人不得傷害人類，或看到人類受到傷害而袖手旁觀；第二條：機器人必須服從人類的命令，除非這條命令與第一條相矛盾；第三條：機器人必須保護自己，除非這種保護與以上兩條相矛盾。這是1940年由科幻作家阿西莫夫所提出的為保護人類的對機器人做出的規定。同理，我們不得不思考，AI智能時代，我們需要什麼原則來保護人類、守護文明呢？
《AI聯結的社會：人工智能網絡化時代的倫理與法律》作者之一的福田雅樹暢想了一個“智聯社會”，在這個社會中，人類可以以自身為主體與AI網絡共生，通過充分活用AI網絡，自由且安全地創造、交換、聯結各種數據、信息和知識，形成“智慧網絡”，使得各個領域中人、事、物，可以超越空間進一步協調合作，從而得到更有創造性、更有活力的發展。所謂“智聯社會”正是這樣的一個以人類為中心的社會狀態。
為了形成這樣的“智聯社會”，作者提出我們需要遵從的八條基本原則，其中具有代表性的是：所有人都可以受惠；保障個人的自主性及人的尊嚴；保證革新性研究開發的持續與公平競爭；兼顧虛擬世界與現實社會。簡而言之，以人為本是AI社會的底線原則。這一點，日立東大實驗室理論研究作品《社會5.0：以人為中心的超級智能社會》的思路也是一致的。書中提到，從核心上看，“社會5.0”的主線是人，即以人為中心，提高人性化程度，更尊重人性，更加尊重自由，與之對應的還有提高能源、醫療、工作、教育、交通、購物、娛樂等生活各個方面的舒適度，變革為更有包容性的社會。
“終將駛入宇宙群星”
不管人工智能時代，或是《第五次社會浪潮：工業的未來、技術、方法和工具》探討的從狩獵-採集社會、農耕社會、工業社會和信息社會最後到現在的“社會5.0”，其背後推動力都是不斷內化的科技的提升。這些不同時代的發展，伴隨著的生產效率的迅速提升，生產力逐步解放，人們切實感受到了科技帶來的進步。但其中的方向卻有著不同的岔路：追求虛擬、智能化的元宇宙，還是浩瀚無垠、神秘的真宇宙？
中國科幻作家、《三體》系列作者劉慈欣認為，我們越來越變成一種很內向的文明，而不是向外去開拓、去探索的文明。信息技術卻以超乎想像的速度發展，網絡覆蓋了整個世界，在IT所營造的越來越舒適的安樂窩中，人們對太空漸漸失去了興趣，相對於充滿艱險的真實的太空探索，他們更願意在VR中體驗虛擬的太空。這像有一句話說的：“說好的星辰大海，你卻只給了我Facebook（社交媒體）。”他相信，無垠的太空仍然是人類想像力最好的去向和歸宿；那些沒有太空航行的未來都是暗淡的。
《黑客帝國2：重裝上陣》（The Matrix Reloaded，2003）劇照。
當然，也不是說人工智能與宇宙探索是二選一的對立矛盾，邁克斯·泰格馬克在《生命3.0：人工智能時代人類的進化與重生》的“挑戰宇宙稟賦：接下來的10億年以及以後”一章中對此做了結合，展示了人類未來美好的圖景：如果我們目前的人工智能進展會觸發智能爆炸並最終讓我們殖民宇宙，那這場智能爆炸就具有了宇宙級別的真正意義：數十億年來，在這個冷漠荒蕪的宇宙中，生命只激起了微乎其微的波瀾，而這場爆炸突然讓生命在宇宙的舞台上爆發出一個以近光速擴張、永無停歇跡象的球形衝擊波，這個衝擊波用生命的火花點燃了所經之路上的一切。……超級智能生命不僅能更加有效地利用已有的資源，還能通過光速進行宇宙殖民，以獲得更多資源，從而將現有的生物圈增長約32個數量級。
進入21世紀，比起上個世紀熱鬧的登月、星際探索，可能很多人都忘了太空探索了，只有在神舟系列飛船發射等一些熱點時，才會抬頭仰望星空。其實上，上個世紀的航空技術民用化，也是促進信息化革命的重要推進因素之一，未來，太空技術還將可能引領人類的發展。
《第五次工業革命：太空技術引發的科技革命和產業變革》，[西]茵瑪·馬丁內斯 著，龔若晴 譯，天地出版社，2021年10月。
西班牙女科學家茵瑪·馬丁內斯為我們展示了太空未來的美好想像，她在《第五次工業革命：太空技術引發的科技革命和產業變革》著重探討了太空技術的發展，向讀者展示了未來五十年內太空行業可能發生的劇變，將會讓更多的人重新仰望星空。她總結了前四次工業革命的曆程後期待，即將由太空技術引領的第五次工業革命，將會使人類進入全新的“太空文明”時代。在未來的5～10年，將太空旅行變成實際。人類已經初步準備好迎接第五次工業革命了，你我都有可能在有生之年飛往太空，成為第一代太空居民。
這個想想就激動吧！誠然，相比天天擔憂被AI搶走工作、沉溺於虛擬的元宇宙，我也是喜歡浩瀚空寂的太空，那裡才是更讓人類心潮澎湃的星辰大海，正如茵瑪·馬丁內斯說的“人類誕生於宇宙群星，最後也終將駛入宇宙群星”，我想，這應該是人類最好的歸宿了吧。
作者/張天潘（科技行業從業者）
編輯/羅東
