新智元報道
來源：techtalks
編輯：雅新
【新智元導(dǎo)讀】通用人工智能一直是人們對智能體未來發(fā)展前景的展望。當人工智能有類人的生命體征，智力和意識的特征時，我們是否思考過如何與之互動，去認知和接受它們。
你是否對拔下機器人的插頭或關(guān)閉人工智能算法而感到難過？暫時不會。
但是，當我們的計算機變得比我們更聰明時，我們又如何呢？
關(guān)于通用人工智能后果的辯論幾乎與AI的歷史一樣悠久。
大多數(shù)討論都將人工智能的未來描述為像終結(jié)者那樣的啟示錄或像Wall-E那樣的烏托邦。
但是，鮮有人討論，當人工智能體有類人的生命體征，智力和意識的特征時，我們將如何與之互動，去認知和接受它們。
薩格勒布經(jīng)濟與管理學院的科學家Borna Jalsenjak在最近發(fā)表的一篇文章中，討論了超級智能的AI，以及生物體與人造生命體之間的類比。
這篇文章的的標題為，「The Artificial Intelligence Singularity: What It Is and What It Is Not」，收錄在《深度學習基礎(chǔ)指南》中。這是一本論文集，探討了人工智能的不同階段歷史，科學和哲學方面。
《深度學習基礎(chǔ)指南》 Springer
AI奇點何時會出現(xiàn)？
最先將「奇點」這一概念引入人工智能領(lǐng)域的是美國的未來學家 Raymond Kurzweil。在他的《奇點臨近》《人工智能的未來》兩本書中，將二者結(jié)合，他用「奇點」作為隱喻，描述的是，當人工智能的能力超越人類的某個時空階段。
奇異性是有關(guān)通用AI的討論中經(jīng)常提到的一個術(shù)語，但我們在奇異性方面存在很多困惑和分歧。大多數(shù)科學家和哲學家都認為關(guān)鍵的一點是，這是AI系統(tǒng)變得比我們更智能的轉(zhuǎn)折點。
AI奇點出現(xiàn)的的另一個重要方面是時間和速度：AI系統(tǒng)將達到可以不斷重復(fù)和加速地自我完善的程度。
「更簡潔地說，一旦有一種AI達到人類水平，并且AI可以創(chuàng)建稍微智能的AI，然后再創(chuàng)建更智能的AI，并且會像這樣繼續(xù)下去，直到出現(xiàn)一種比人類先進得多的AI?！笿alsenjak寫道。
需要明確的是，我們今天擁有的人工智能技術(shù)，即狹窄的AI，距離實現(xiàn)這一壯舉還差得很遠。
Jalsenjak將當前的AI系統(tǒng)描述為「特定領(lǐng)域的AI」，比如只擅長制作漢堡的AI。與人類不同，這些系統(tǒng)只能學習或被教導(dǎo)如何執(zhí)行特定任務(wù)，這就是為什么它們被稱為狹窄AI。
這不是關(guān)于如何以及何時實現(xiàn)AGI的討論。
這是一個不同的話題，也是許多辯論的焦點，大多數(shù)科學家認為，人類級人工智能至少需要幾十年的時間。
Jalsenjack 表示，當我們真正實現(xiàn)時，無論是明天還是一個世紀，如何去定義AI和人類的身份？
在AI社區(qū)中，許多人都會將將機器視為人類，尤其是當它們具有智能的跡象時。雖然這顯然是對當今技術(shù)的高估，Jalsenjack還提醒我們，通用人工智能不是必須復(fù)制人類的思想。
他在論文的腳注中寫道，「即使有了先進的人工智能，也沒有理由認為先進人工智能與人類智慧有相同的結(jié)構(gòu)?！?/p>
人類與當前人工智能技術(shù)之間的區(qū)別之一是，人類是活著的生命體，但AI算法卻并非如此。
Jalsenjak寫道：「當今的技術(shù)發(fā)展不能讓AI具備生命體征。但我們奇怪的是，是否會出現(xiàn)超級的AI，例如在關(guān)于奇異性的討論中可以預(yù)測到這種超級智能，這值得一試。」
這種人造的生命會對我們?nèi)绾握J知AI并采取行動產(chǎn)生巨大影響。
具有怎樣的生命體征可以說人工智能體是「活著的」？
Jalsenjak從哲學人類學的概念中汲取了想法，指出生物是可以自主行動并照顧自己和自己的物種。至少現(xiàn)在，無論是多么先進的機器，它們在這方面始終只能作為人類的延續(xù)而發(fā)揮作用。
生命有不同的層次，而且正如AI發(fā)展趨勢所示，人工智能正在慢慢朝具有生命的體征靠近。
根據(jù)哲學人類學的觀點，當有機體朝著目標發(fā)展時，生命的最初跡象就形成，在當今的目標驅(qū)動下的AI也同樣具有。
Jalsenjak說，人工智能沒有「意識到」其目標，并且漫不經(jīng)心地壓縮數(shù)字以達到似乎這一無關(guān)緊要的目標，因為我們認為植物和樹木即使沒有同樣的意識也可以存活。
認為具有生命體征的的另一個關(guān)鍵因素是生物體能夠有自我修復(fù)和改善自身的能力。它也應(yīng)該生育并照顧后代。
這是我們在樹木，昆蟲，鳥類，哺乳動物，魚類以及幾乎所有我們認為活著的東西中看到的特征。自然選擇和進化的規(guī)律迫使每個生物體能夠?qū)W習和發(fā)展適應(yīng)環(huán)境生存的技能，以確保物種的生存。
關(guān)于生育照顧后代，Jalsenjak提出，人工智能的繁殖并不一定與其他生物體一樣。
機器不需要后代來確保物種的生存。AI可以解決材料劣化的問題，只需手頭有足夠的替換零件即可將故障零件更換為新零件。
關(guān)于自我完善能力，就更加微妙了。Jalsenjak指出，即使不同軟件的自修改程度有所不同，但已經(jīng)有能夠自修改的軟件。
當今的機器學習算法在一定程度上能夠使其行為適應(yīng)環(huán)境。他們將許多參數(shù)調(diào)整為從現(xiàn)實世界中收集的數(shù)據(jù)，并且隨著環(huán)境的變化，可以在新信息上對它們進行重新訓練。
比如冠狀病毒大流行可能會干擾我們正常行為下進行訓練的AI系統(tǒng)。
由于人們戴著口罩，面部識別算法不能夠檢測到人臉。而這些算法現(xiàn)在可以通過對戴口罩的臉部圖像進行訓練來重新調(diào)整其參數(shù)。
顯然，與人類和高等動物的能力相比，這種適應(yīng)水平微乎其微。
但是，理想的自我完善型AI可能會創(chuàng)造出全新的算法，從而帶來根本性的改進。這就是所謂的「遞歸式的自我完善」，將導(dǎo)致更加智能的AI不斷循環(huán)和加速完善。
今天，我們有一些像遺傳算法和網(wǎng)格搜索的機制，可以改善機器學習算法的不可訓練組件。但是它們帶來的變更范圍非常有限，并且仍然需要一定程度的開發(fā)人員的手動操作。你不能指望遞歸神經(jīng)網(wǎng)絡(luò)會通過許多突變而變成一個Transformer。
Jalsenjak指出，遞歸式自我完善將使AI有可能完全取代正在使用的算法，正是奇點出現(xiàn)所需要的。
Jalsenjak總結(jié)道，「通過類比及觀察AI已有的特征，可以認為超級人工智能是活著的，說AI是人類的延續(xù)這一說法是無效的。它們將有自己的目標，也許還有自己的權(quán)利。人類將首次與至少與他們一樣聰明，而且可能更加聰明的智能體共存于地球?！?/p>
你仍然可以在不感到內(nèi)疚、自責的情況下關(guān)閉機器人的電源嗎？
反思：AI自由意志，AI道德仍將是我們繼續(xù)思考的問題
賈爾森賈克在論文的結(jié)尾承認，對人造生命體的反思還提出了許多其他問題。這里描述的關(guān)于生物的特征是否足以使某事物被認為是活著的，或者這僅僅是必要的條件？
Douglas Hofstadter在《我是一個奇怪的循環(huán)》中否認了這一觀點。他認為個體的自我意識和思維是將其他生物，智能體與人類區(qū)分開的關(guān)鍵。
自由意志也是一個懸而未決的問題。Jalsenjak寫道：目前尚不清楚未來的AI是否有自由意志的可能性。
最后，還有超級智能AI的道德問題。這是一個廣泛的主題，包括AI應(yīng)該具有的道德原則，人類對AI應(yīng)當具有的道德原則，以及AI如何看待與人類的關(guān)系。
參考鏈接：
https://bdtechtalks.com/2020/06/29/artificial-intelligence-singularity/
重慶分公司
重慶分公司
