第40章 探索人工智慧

第40章 探索人工智慧 2012至2015年，從OpenAI到xAI 人類文明的最大威脅 同意投資SpaceX的PayPal共同創辦人提爾，每年都會召開研討會，邀請創辦人基金投資的企業領導人與會。在2012年的會議上，馬斯克認識了傑米斯．哈薩比斯（Demis Hassabis），他是一位神經科學家、電玩遊戲設計師、人工智慧研究者，對人謙和有禮，但內心藏著一顆好勝的心。在四歲時，哈薩比斯就展現西洋棋天分，曾拿下五座國際智力運動奧運會（Mind Sports Olympiad）冠軍，包括西洋棋、撲克牌、《珠璣妙算》（ Mastermind）與雙陸棋（backgammon）。 在他現代化的倫敦辦公室裡，保存了艾倫．圖靈（Alan Turing） 在1950年發表的開創性論文原稿，標題為「計算機與智慧」（Computing Machinery and Intelligence）。圖靈在文章中建議舉辦一場「模擬遊戲」（imitation game），讓人類與類似ChatGPT（聊天生成式預訓練轉換器）的機器比賽。他寫道，如果人類與機器的回應沒有什麼差別，就可以合理推論機器有能力「思考」。 哈薩比斯受到圖靈論點的啟發，與人共同創辦了DeepMind公司，希望能設計出具備通用人工智慧的電腦神經網路。換句話說，他希望開發出能夠學會像人類一樣思考的機器。 「伊隆和我當場就覺得我們兩人很合得來，後來我去他的火箭工廠拜訪他。」哈薩比斯說。他們坐在員工餐廳裡觀看引擎生產線的運作，馬斯克解釋說，他之所以想要建造可以飛到火星的火箭，原因是一旦發生世界大戰、小行星撞地球或是人類文明崩壞，這或許是保留人類意識的一種方法。 哈薩比斯則提到另一個可能的威脅：人工智慧。機器可能擁有超高智商，超越一般人，或許甚至會決定消滅人類。馬斯克沉默了將近一分鐘，開始計算此事件發生的可能性有多高。他說，每當他陷入類似恍神狀態時，就會開始在腦海中模擬，未來幾年可能會出現哪些危險因素。最後他確定，關於人工智慧可能帶來的危險，哈薩比斯的想法是對的。因此，他決定對DeepMind投資500萬美元，如此一來，就能密切關注這家公司的發展。 與哈薩比斯會面後過了幾星期，馬斯克向Google共同創辦人佩吉描述DeepMind正在做的事情。馬斯克和佩吉認識已超過十年，他經常借住在佩吉位於帕羅奧圖的住家。兩人在深夜聊天時，馬斯克常過度認真地討論人工智慧可能引發的危險。但佩吉覺得沒什麼好擔心的。 2013年，在納帕谷（Napa Valley）舉辦的馬斯克生日派對上，為了人工智慧的問題，馬斯克和佩吉當著昔日PayPal 同事諾塞克、霍夫曼與其他賓客的面，爭得面紅耳赤。馬斯克爭辯說，除非我們建立保護機制，否則人工智慧將會取代人類，到時候人類將會變得無足輕重，甚至是滅絕。 佩吉卻不這麼認為。他問說，如果真有那麼一天，機器的智慧、甚至是意識超越了人類，這件事為什麼那麼重要？這只不過是演化的下一個階段。 馬斯克反駁說，人類意識是宇宙中珍貴的閃光，我們不能讓它熄滅。佩吉認為，這種說法太感情用事，毫無意義。如果可以在機器裡複製人類意識，難道不是一件很有價值的事情？或許某天我們可以把人類意識上傳到機器裡。他指責馬斯克是「物種歧視」，帶有偏見，只採取有利於自己物種的立場。馬斯克回答說：「沒錯，我就是偏袒人類。我就是喜歡人類。」 所以，當馬斯克在2013年底聽到佩吉和Google計劃收購DeepMind時，他覺得很沮喪。馬斯克和好友諾塞克努力籌資，想要阻止Google收購。在洛杉磯的一場派對上，兩人走去樓上包廂，透過Skype和哈薩比斯談了一小時。馬斯克對哈薩比斯說：「人工智慧的未來不應該被佩吉控制。」 但是，他們的努力最終還是失敗了。2014年1月，Google宣布收購DeepMind。一開始，佩吉同意成立「安全委員會」，並邀請馬斯克加入。第一次開會地點就選在SpaceX，但這也是唯一一次的會議。除了佩吉、哈薩比斯和Google董事長艾瑞克．施密特（Eric Schmidt）之外，霍夫曼與其他人也參加了這場會議。當時擔任馬斯克幕僚長的提勒說：「伊隆總結當天的會議，覺得根本是在瞎扯。Google那群傢伙根本不想專心討論人工智慧的安全問題，也不想採取任何措施，限制人工智慧的權力。」 馬斯克持續公開警告人工智慧可能帶來的危險。2014年，他在麻省理工學院舉辦的論壇上說道：「我們最大的生存危機，可能是人工智慧。」當年，亞馬遜推出聊天機器人數位助理Alexa，後來Google也推出了類似產品。馬斯克警告，當這些系統變得比人類還要聰明的時候，可能會產生某些後果。這些系統很可能會超越人類，把人類當成寵物一樣看待。「我不喜歡自己變成家貓的想法，」他說。他相信，預防問題發生的最好辦法，就是確保人工智慧與人類密切合作，「當人工智慧不受人類意志掌控，就會發生危險。」 馬斯克開始邀請一些人一起吃飯討論，包括提爾、霍夫曼在內的PayPal 黑手黨成員，希望找到方法制衡Google，推廣人工智慧安全。他甚至聯繫歐巴馬總統，歐巴馬同意在2015年5月和他單獨會面。馬斯克向歐巴馬解釋人工智慧可能引發哪些風險，建議人工智慧應該要受到管制。馬斯克說：「歐巴馬聽懂了。但是我也理解，這個問題並沒有重要到他必須做些什麼事情。」 讓機器與人類密切合作 後來馬斯克聯絡山姆．奧特曼（Sam Altman），他是一位創業家，主要開發隨附軟體，熱愛跑車，而且是一位生存主義者（survivalist） ，在溫文儒雅的外表下，也和馬斯克一樣喜歡高強度的工作模式。兩人在幾年前就認識了，馬斯克邀他參觀SpaceX工廠，他們聊了三小時。奧特曼說：「有些工程師看到馬斯克走過來，就會自動閃開或是轉過頭去，真的很有趣。他們很怕他。但他讓我留下深刻印象，他清楚知道火箭每個部位的所有細節。」 奧特曼和馬斯克在帕羅奧圖簡單用餐，兩人當場就決定共同成立一個非營利的人工智慧實驗室，他們將實驗室取名為OpenAI。他們會開放實驗室的軟體原始碼，希望能有效制衡Google在這個領域逐漸取得主導地位。提爾和霍夫曼也加入馬斯克行列，並提供資金。馬斯克說：「我們希望開發出Linux版的人工智慧技術，不被任何人或是企業控制。目標是讓我們更能夠透過對整體人類有益的安全方法，開發人工智慧。」 晚餐時，他們兩人一直在辯論一個問題，以下哪種情況比較安全：由大型企業把持少數的人工智慧系統，或是出現許多各自獨立的系統？他們的結論是，同時有許多系統相互競爭、彼此制衡，會比較安全。就如同人類會合力阻止人群中行為惡劣的危險份子，所以許多獨立運作的人工智慧機器，也應該要合作阻止惡劣的機器。對馬斯克來說，這正是他希望OpenAI真正開放的原因，其他人可以根據OpenAI的軟體原始碼，開發自己的系統。「我認為，如果要避免人工智慧被誤用，最好的方法，就是盡可能讓愈多人擁有人工智慧。」他對《連線》雜誌記者史蒂芬．李維（Steven Levy）說。 馬斯克和奧特曼花了很長時間討論，希望達成的目標之一，是「人工智慧一致性」（AI Alignment）。2023年，OpenAI推出了聊天機器人ChatGPT之後，這個目標就成了熱門話題。「人工智慧一致性」的目的，是希望人工智慧系統與人類的目標與價值觀一致，就如同科幻小說家艾西莫夫為了避免小說中的機器人傷害人類，所設定的四條定律。 不妨想想，《2001太空漫遊》（ 2001: A Space Odyssey）電影中的超級電腦哈兒（Hal）發狂，與創造它的人類展開殊死搏鬥，會帶來什麼樣的災難。我們應該要在人工智慧系統裡安裝哪些防護機制與終止開關，讓人工智慧系統與我們人類的利益保持一致？在我們所有人當中，應該由誰決定人類的利益是什麼？ 馬斯克認為，確保人工智慧一致性的方法之一，就是讓機器與人類密切合作。機器應該是個人意志的延伸，而不是不受控制，自行設定目標與意圖。這也是馬斯克創辦Neuralink的原因之一，他成立這家公司的主要目標，是開發能讓人類大腦與電腦直接連線的晶片。 另一座資料金礦：推特 馬斯克也明白，人工智慧領域如果要成功，就必須從真實世界蒐集大量數據，讓機器學習。當時他已經明白，其中一座資料金礦就是特斯拉，特斯拉每天蒐集了數百萬幅影片畫面，顯示駕駛如何應付各種行車情況。「或許特斯拉比全世界其他任何一家車廠擁有更多真實世界的數據資料，」他說。不過，他到後來才知道，另一家公司也蒐集了大量資料，那就是推特。以2023年為例，推特每天要處理來自人類的5億則推文。 馬斯克和奧特曼吃飯時，在座的還有一位來自Google的研究工程師，名叫伊爾亞．蘇茲克維（Ilya Sutskever），後來他們開出190萬美元薪資與簽約獎金的優渥待遇，成功說服蘇茲克維加入新實驗室，擔任首席科學家。佩吉氣炸了。認識多年、多次在他家借住的好友不僅成立了實驗室和他競爭，還挖走了Google的頂尖科學家。2015年底OpenAI成立之後，佩吉和馬斯克就幾乎不再交談。馬斯克說：「佩吉感覺被背叛，對我私下挖角蘇茲克維這件事，他覺得非常火大，從此拒絕和我說話。我是覺得，『佩吉，如果不是因為你那麼不在乎人工智慧安全問題，就不會出現另一股制衡力量』。」 馬斯克非常關注人工智慧議題，所以陸續推動了許多相關的專案，包括：專門開發大腦植入晶片的Neuralink；人形機器人Optimus；可以蒐集數百萬影片，訓練人工神經連結，模擬人類大腦的超級電腦Dojo。他也因此更堅持，要讓所有特斯拉電動車具備自動駕駛功能。一開始，這些計畫都各自獨立，但是後來馬斯克決定將所有計畫整合，包括他後來成立的聊天機器人公司xAI，最終目標就是開發通用人工智慧。 馬斯克決定在自己的公司發展人工智慧技術，導致他與OpenAI在2018年正式決裂。他認為OpenAI已經落後Google，一直想要說服奧特曼，讓對方相信OpenAI應該要併入特斯拉。但是OpenAI團隊拒絕這項提議，後來奧特曼成為實驗室總裁，決定成立營利事業單位，啟動股權籌資。 隨後馬斯克立即成立新的人工智慧團隊，與OpenAI互別苗頭。雖然當時他正為了內華達與佛利蒙工廠的生產地獄忙得焦頭爛額，但他還是從實驗室挖走了擅長深度學習與電腦視覺（computer vision）的安德烈．卡帕斯（Andrej Karpathy），帶領特斯拉的人工智慧專案。奧特曼說：「我們明白，特斯拉將會成為一家人工智慧公司，必定會和OpenAI搶奪同一批人才。我們團隊某些人對此感到憤怒，但我完全可以理解眼前發生的一切。」2023年，奧特曼終於成功扳回一城。為馬斯克工作多年、身心俱疲的卡帕斯，再度回鍋老東家。 * * * 1 英國電腦科學家、數學家、密碼分析學家，被譽為電腦科學與人工智慧之父。 2 積極為自然與人為災難做準備，學習在災難中的生存技能，接受急救醫療及自衛訓練，儲備需要的生活物資、建造地下避難所等安全住所，以備不時之需。 3 艾西莫夫提出了機器人三定律：一、機器人不得傷害人類，或坐視人類受到傷害；二、機器人必須服從人類命令，除非命令與第一法則發生衝突；三、在不違背第一或第二法則之下，機器人可以保護自己。1985年，他在《機器人與帝國》小說中又增加了一條第零定律。 41