近日，人工智慧組織 OpenAI 的聯合創始人、計算機專家伊爾亞·蘇茨克維（Ilya Sutskever）在 Twitter 上聲稱，“當今最大的神經網路可能已擁有輕微的意識”。
圖 | 伊爾亞·蘇茨克維（Ilya Sutskever）推文截圖（來源：Twitter）
此言論一出，立刻便在社交媒體上引起軒然大波。
關於人工智慧是否擁有意識的爭議和討論，在科研界一直未曾停歇過。而蘇茨克維作為 OpenAI 首席科學家，在深度學習方面曾作出過突出貢獻。如此一位有影響力的頂尖科學家突然就此敏感話題發表公開言論，自然而言招致了眾多非議。
OpenAI 首席科學家“深陷”話題旋
據悉，OpenAI 由一眾來自矽谷、西雅圖的科技巨擘們聯合創立，用以預防人工智慧可能帶來的危害，在人工智慧領域擁有廣泛影響力。特斯拉 CEO 埃隆·馬斯克（Elon Musk）曾經亦是該組織的創始成員。
圖 | 伊爾亞·蘇茨克維（來源：多倫多大學官網）
但在 2019 年，馬斯克主動宣佈離開該組織。據其透漏，離開的原因一方面是擔心該組織會在人工智慧人才聘用方面與特斯拉產生衝突。另一方面，馬斯克認為 OpenAI 在某種程度上類似於“假新聞發生器”，總是會製造噱頭讓自己處於輿論中心。
例如，OpenAI 在 2020 年釋出了語言模型 GPT-3 。然而該系統在首次釋出時卻被用來建立了一個聊天機器人，用以模仿死去的女人。除此之外，其還被遊戲玩家曝露出包含戀童癖內容。這一切都導致 OpenAI 在輿論方面飽受詬病。
因此，蘇茨克維關於人工智慧已擁有意識的言論也被許多人認為是炒作。
美國俄勒岡州立大學人工智慧專家托馬斯·迪特里奇（Thomas Dietterich）在 Twitter 上回應，“如果意識是反思和塑造自己的能力，那麼我在今天的網路中還沒有看到任何這樣的能力，我會認為你是在故意釋出煽動性的內容 。”
圖 | 托馬斯·迪特里奇（Thomas Dietterich）認為蘇茨克維在故意釋出煽動性內容（來源：Twitter）
此外，也有部分科學家認為這種毫無根據的說法會讓大眾陷入恐慌。
澳大利亞新南威爾士大學西德尼分校人工智慧研究員託比沃爾什（Toby Walsh）評論說，“每次這種投機性的評論播出時，都需要幾個月的努力才能讓話題回到人工智慧帶來的更現實的機會和威脅上。”
馬斯克也曾就人工智慧的危險性做出過分析。雖然他站在創造人工智慧技術的最前沿，但他同時也意識到人工智慧的潛在威脅。
在 2014 年，他於社交軟體上說道，“我們需要對人工智慧非常小心，它可能比核武器更危險。”2020 年，馬斯克再次發聲，認為人工智慧在智力方面或將超越人類，這並不意味著事情會變得糟糕，但卻會使局面變得極其不穩定。
人類水平的人工智慧仍在長跑途中
那麼，大型神經網路是否真的具有自主意識呢？
圖靈獎得主、Meta 首席科學家楊立昆（Yann LeCun）直接對蘇茨克維的觀點予以反駁，他認為即使對神經網路和意識分別用“大型”和“輕微”等詞來加以限定，這種說法依舊不正確。
早在 2018 年，楊立昆就曾明確表示，“人工智慧缺乏對世界的基本認識，甚至還不如家貓的認知水平。”
事實上，當前的大型神經網路通常很難脫離資料驅動的正規化。這也意味著人工智慧所學習的知識依舊取決於人類的“投餵”，其並不具備自主創新的能力，產生意識自然也就無從說起。
而想要使人工智慧具備自主意識，擁有表達心情、發現新知識等能力，則需要人類在該領域取得長足的進步。這將是下一代人工智慧研究的重點，短時間內則很難成為現實。
不過，並不是所有的學者都對蘇茨克維的說法嗤之以鼻，來自麻省理工學院的計算機科學家塔梅·貝西羅格魯（Tamay Besiroglu）便認同該觀點，並積極為其辯護。
“看到這麼多傑出的人嘲笑這個想法令人失望，”貝西羅格魯在 Twitter 上說，“這讓我對這個領域認真處理一些他們在未來幾十年無疑將面臨的深刻、奇怪和重要問題的能力降低了希望。”
在貝西羅格魯看來，即使人類無法將“無意識”和“可能有輕微意識”的模型劃清界限，但這個問題本身是非常有意義的，不應該被忽視。
（來源：Pixabay）
拋開爭議本身，我們需要注意到，蘇茨克維長期以來一直專注於研究通用人工智慧（Artificial general intelligence，AGI）。這是一種以人類或超人能力執行的人工智慧，在某種程度上與人類有非常高的相似性。從這個角度來看，蘇茨克維提出的說法或許並不顯得突兀。
近年來，人工智慧發展得越來越迅速，以至於人類陷入一種焦慮，從而不得不與自身創造出來的有意識的計算機這一概念作鬥爭。
可以預見的是，關於有意識的人工智慧的爭議，在未來的一段時間裡還將會一直延續。但與此同時，這種辯論也將推動人類在如何定義人工智慧的意識方面逐步確立規則和界限，從而引導人工智慧向善。而這，或許就是科學爭論的真正魅力所在。
-End-
參考：
https：//www。dailymail。co。uk/sciencetech/article-10503703/Artificial-Intelligence-expert-warns-slightly-conscious-AI。html
https：//mindmatters。ai/2022/02/can-ai-really-be-slightly-conscious-can-anyone/
