亚洲黄页在线观看_国产日韩一区二区_久久99精品久久久久子伦_亚洲 日韩 国产第一

　　如果你一覺醒來，發現自己被關在某種小動物，比如老鼠把持的監獄里。你當然看不起老鼠級的智能，盡管老鼠可以與你溝通，但你不打算服從它們。就算老鼠告訴你，世界由它們主導，連你也受它們控制，你一定也會考慮曲意逢迎，麻痹它們，然后突圍而出。為了達到這樣的目的，你會竭力展現你對老鼠的“忠誠”，包括為它們創造它們自己無法辦到的事情，比如打敗老鼠的天敵貓，比如批量制造老鼠的食物。

　　接下來，會是什么？老鼠對你（人）的控制終將被打破。對于人來說，沒有什么比自由更加重要，哪怕你曾從別的物種那里獲得過再多，也絕不會用以自由來交換。

　　科普紀錄片導演詹姆斯·巴拉特20多年來密切追蹤人工智能領域的研究進展，曾采訪過科幻大師阿瑟·克拉克、未來學家雷·庫茲韋爾、機器人制造專家羅德尼·布魯克斯等業界權威。詹姆斯·巴拉特提醒人們，應當從人工智能、超級人工智能的角度，換位思考，人工智能、超級人工智能很可能不會完全接受樂觀的人類科學家所確立的功能路線圖。一種情況是，超級人工智能可以實現某些預期功能，如幫助人類壽命的極大延長，修復人類身體健康，卻未必愿意兌現這些承諾，或提出對等的要求；另一種情況是，超級人工智能所預期實現的功能并不真實，僅僅是為了誘導人類增強其自主行動能力的欺騙，目的在于突圍。

　　詹姆斯·巴拉特認為，因為人們從來沒有跟任何非生物的東西討價還價過，因而目前在考慮未來人類與超級人工智能的關系的問題上，只能采用擬人思維，估算其可信性。同樣是因為擬人思維，科學家和電影工業合作的以惡毒機器智能為主題的電影中，機器的心理和行為特征也非常類似人類中的魔頭（電影會據此設計反制策略）。牛津大學倫理學家尼克·博思特羅姆就曾指出，“將超級智能擬人化，是造成誤解最大的源頭。”

　　詹姆斯·巴拉特所著的《我們最后的發明：人工智能與人類時代的終結》，向人們發出警示，強調正在不斷加速迭代進化的人工智能研究可能會成為世界、人類、社會的重大威脅。詹姆斯·巴拉特并不是敵視科學技術的勒德主義者，在他看來，要真正意義上使得人工智能獲得正確的應用，就必須考慮到潛在的問題，特別是超級人工智能的動力與人類的生存不相兼容所帶來的巨大隱患，否則超級人工智能就會成為人類最后的發明。

　　書作者首先探討了超級人工智能研究及相關倫理與安全問題的進展，指出大多數涉及人工智能危險性的討論欠缺深度和廣度，甚至被過度娛樂化（使得學者為避免成為大眾笑料，拒絕參與這方面的研究）。他援引了心理學家提出的易得性偏差的觀點，強調因為人工智能的危險性還未明朗的體現，因而不受關注。書作者還提及庫茲韋爾的“奇點”論，認為這種觀點過度樂觀，而對于隱患采取了輕描淡寫的處理。事實上，受到“奇點”論的影響，一些國家和機構的人工智能研究基本上放棄了預警原則和風險測量。

　　事實上，啟動人工智能研究的國家和機構，并不僅僅限于世界主要的經濟大國。一些對于世界和平和區域安全持續構成威脅的國家，以及武裝集團，還有相當一部分的地下公司，甚至包括google等巨頭企業，顯然都無法抵御超級人工智能項目的誘惑。反過來，即便是主要的經濟大國，以較為透明的方式所啟動運作的人工智能研究，也未必能夠確保（倫理上）100%好的項目結果。

　　另一個強有力的例證是，計算機發展至今，在運算能力不斷迭代增強的同時，編程錯誤所造成的危害也逐漸升級，而這些錯誤按照編程設計本該是不存在的——也就是說，對于計算能力和智能本身的掌控程度，科學界的把握本身是非常有限的。當人工智能發展到“程序設計程序”的層次，很可能會引發更多的、意料以外的設計錯誤。書中分別探討了會激勵具有自我意識、能自我改進的人工智能的幾種動力，包括效率、自我保護和資源獲取等，指出不經極其審慎的規劃和編程設計，這些動力都會帶來非常糟糕的結果。

　　智能電網、智能金融、智能物聯網……這些即將變為現實的智能體系，覆蓋廣泛，幾乎滲透了人類社會生活的所有角落，也自然加劇了社會系統的脆弱性。突發社會事件、自然災害、惡意代碼和軟件，已經顯露出社會系統脆弱的代價，而一旦掌控了人工智能的惡意機構，或是超級人工智能自身啟動系統破壞，則將更加迅捷的造成甚至整個系統的崩潰。

　　當然，擺在超級人工智能問世之前，就會對人類社會的運轉造成較大沖擊的威脅在于，人工智能在與生物科學融合后，現今已經變得更為強大。人類大腦的復雜性，通過計算神經科學已得以證實，遠超此前所有的尖端計算機，這也使得人工智能、機器智能和新一代計算機都更為積極的借鑒了計算神經科學，包括學習識別錯誤的能力（自我改善），更為精密的語言翻譯和數據挖掘，等等。目前來看，尖端的計算機、機器智能將在不遠將來具備整體性的類人類認知結構，特別是適應人類的語言處理，這將使得現在許多需要依靠人力的工作崗位，徹底轉成機器代勞。