比已知更可怕，馬斯克等1000多科學家，叫停AI研發

當全社會都在為AI的進化而歡呼雀躍，全新的、意想不到的風險可能也正在悄悄醞釀。

3月28日，包括馬斯克、蘋果聯合創始人斯蒂夫·沃茲尼亞克在內的1000多名人工智慧專家和行業高管簽署了一份公開信，

他們呼籲暫停AI系統的訓練，理由是對社會和人性存在潛在風險。

這封公開信由非營利性組織Future of Life Institute發布，信的開頭寫道：「廣泛的研究表明，具有與人類競爭智能的AI系統可能會對社會和人類造成深遠的風險，這一點也得到了頂級AI實驗室的承認。」

他們呼籲至少暫停訓練比GPT-4更強大的AI系統6個月。

目前簽名的有，圖靈獎得主Yoshua Bengio、Stability AI首席執行官Emad Mostaque、蘋果聯合創始人Steve Wozniak、紐約大學教授馬庫斯、馬斯克，以及人類簡史作者Yuval Noah Harari等等，簽名人數還在持續增加中。

公開信指出，最近幾個月，人工智慧實驗室陷入了一場失控的競賽，他們致力於開發和部署更強大的數字思維，但即使是研發者也不能理解、預測或可靠地控制這些數字思維。諸多研究表明，具有與人類匹敵智能的人工智慧系統可能對社會和人類構成深遠的風險。

他們呼籲在GPT進一步強大之前，需要首先就此類大模型達成由獨立專家開發、實施並審核的共享安全協議。只有當我們確信它們的影響是積極的，並且它們的風險是可控的時候，才能開發更強大的人工智慧系統。

馬斯克曾多次呼籲對人工智慧的監管，2022年12月，他在推文稱，沒有對人工智慧的監管，這是一個主要問題。十多年來，我一直在呼籲人工智慧安全監管！他還在GPT4發布後再次表達擔憂稱，我們人類還有什麼可做的？

如今，GPT一次又一次震撼世界，而對於它未來的應用，人們更是充滿了想像。但人工智慧的立法，世界各國都沒有跟上，也導致了其混亂的「開發」中，斯坦福科學家Michal Kosinski在看到了GPT4後就曾表示：

「這樣下去，人類無法持久地遏制住AI。AI很聰明，會編碼，能接觸到數百萬個人和電腦。GPT打開了物種滅絕的大門。」

有人詢問GPT4，為什麼馬斯克要讓你暫停。

GPT4回答：馬斯克叫停GPT訓練可能有多種原因，其中一個可能是擔心模型被誤用或濫用，尤其是在自然語言生成和信息操縱方面。GPT模型能夠生成自然語言文本，包括虛假或有害信息，這可能會對社會和個人造成危害。此外，GPT模型也可能有隱私問題，因為它可以生成人類語言，可能會包含敏感信息。GPT認為，叫停GPT訓練主要是出於對社會責任和技術發展的前瞻性方面的考慮。它還提到，GPT模型可能存在一些局限性，或者不是解決某些問題的最佳方法，因此需要嘗試尋找更好的替代方案。

這樣的完美的回答，又有多少人能勝過GPT呢？

想像下，是否應該讓機器用宣傳和謊言充斥我們的信息渠道？

是否應該讓所有的動作都變得自動化，即使是令人滿意的工作？

是否應該發展可能某一天會超越我們、淘汰我們、取代我們的非人類智能？

是否應該冒險失去對人類文明的控制？

也許曾經科幻電影中的人類被機器人控制的時代，一瞬就到，如果AI不再對人類忠誠，我們是否做好了準備呢？