當(dāng)人工智能體有類人的生命體征，智力和意識(shí)的特征時(shí)，我們將如何與之互動(dòng)，去認(rèn)知和接受它們。薩格勒布經(jīng)濟(jì)與管理學(xué)院的科學(xué)家Borna Jalsenjak在最近發(fā)表的一篇文章中，討論了超級(jí)智能的AI，以及生物體與人造生命體之間的類比。
你是否對(duì)拔下機(jī)器人的插頭或關(guān)閉人工智能算法而感到難過？暫時(shí)不會(huì)。但是，當(dāng)我們的計(jì)算機(jī)變得比我們更聰明時(shí)，我們又如何呢？
關(guān)于通用人工智能后果的辯論幾乎與AI的歷史一樣悠久。大多數(shù)討論都將人工智能的未來描述為像終結(jié)者那樣的啟示錄或像Wall-E那樣的烏托邦。
但是，鮮有人討論，當(dāng)人工智能體有類人的生命體征，智力和意識(shí)的特征時(shí)，我們將如何與之互動(dòng)，去認(rèn)知和接受它們。
薩格勒布經(jīng)濟(jì)與管理學(xué)院的科學(xué)家Borna Jalsenjak在最近發(fā)表的一篇文章中，討論了超級(jí)智能的AI，以及生物體與人造生命體之間的類比。
這篇文章的的標(biāo)題為，「The Artificial Intelligence Singularity: What It Is and What It Is Not」，收錄在《深度學(xué)習(xí)基礎(chǔ)指南》中。這是一本論文集，探討了人工智能的不同階段歷史，科學(xué)和哲學(xué)方面。
《深度學(xué)習(xí)基礎(chǔ)指南》– Springer
AI奇點(diǎn)何時(shí)會(huì)出現(xiàn)？
最先將「奇點(diǎn)」這一概念引入人工智能領(lǐng)域的是美國的未來學(xué)家 Raymond Kurzweil。在他的《奇點(diǎn)臨近》《人工智能的未來》兩本書中，將二者結(jié)合，他用「奇點(diǎn)」作為隱喻，描述的是，當(dāng)人工智能的能力超越人類的某個(gè)時(shí)空階段。
奇異性是有關(guān)通用AI的討論中經(jīng)常提到的一個(gè)術(shù)語，但我們?cè)谄娈愋苑矫娲嬖诤芏嗬Щ蠛头制�。大多�?shù)科學(xué)家和哲學(xué)家都認(rèn)為關(guān)鍵的一點(diǎn)是，這是AI系統(tǒng)變得比我們更智能的轉(zhuǎn)折點(diǎn)。
AI奇點(diǎn)出現(xiàn)的的另一個(gè)重要方面是時(shí)間和速度：AI系統(tǒng)將達(dá)到可以不斷重復(fù)和加速地自我完善的程度。
「更簡(jiǎn)潔地說，一旦有一種AI達(dá)到人類水平，并且AI可以創(chuàng)建稍微智能的AI，然后再創(chuàng)建更智能的AI，并且會(huì)像這樣繼續(xù)下去，直到出現(xiàn)一種比人類先進(jìn)得多的AI�！笿alsenjak寫道。
需要明確的是，我們今天擁有的人工智能技術(shù)，即狹窄的AI，距離實(shí)現(xiàn)這一壯舉還差得很遠(yuǎn)。
Jalsenjak將當(dāng)前的AI系統(tǒng)描述為「特定領(lǐng)域的AI」，比如只擅長制作漢堡的AI。與人類不同，這些系統(tǒng)只能學(xué)習(xí)或被教導(dǎo)如何執(zhí)行特定任務(wù)，這就是為什么它們被稱為狹窄AI。
這不是關(guān)于如何以及何時(shí)實(shí)現(xiàn)AGI的討論。
這是一個(gè)不同的話題，也是許多辯論的焦點(diǎn)，大多數(shù)科學(xué)家認(rèn)為，人類級(jí)人工智能至少需要幾十年的時(shí)間。
Jalsenjack 表示，當(dāng)我們真正實(shí)現(xiàn)時(shí)，無論是明天還是一個(gè)世紀(jì)，如何去定義AI和人類的身份？
在AI社區(qū)中，許多人都會(huì)將將機(jī)器視為人類，尤其是當(dāng)它們具有智能的跡象時(shí)。雖然這顯然是對(duì)當(dāng)今技術(shù)的高估，Jalsenjack還提醒我們，通用人工智能不是必須復(fù)制人類的思想。
他在論文的腳注中寫道，「即使有了先進(jìn)的人工智能，也沒有理由認(rèn)為先進(jìn)人工智能與人類智慧有相同的結(jié)構(gòu)�！�
人類與當(dāng)前人工智能技術(shù)之間的最大區(qū)別之一是，人類是活著的生命體，但AI算法卻并非如此。
Jalsenjak寫道：「當(dāng)今的技術(shù)發(fā)展不能讓AI具備生命體征。但我們奇怪的是，是否會(huì)出現(xiàn)超級(jí)的AI，例如在關(guān)于奇異性的討論中可以預(yù)測(cè)到這種超級(jí)智能，這值得一試�！�
這種人造的生命會(huì)對(duì)我們?nèi)绾握J(rèn)知AI并采取行動(dòng)產(chǎn)生巨大影響。
具有怎樣的生命體征可以說人工智能體是「活著的」？
Jalsenjak從哲學(xué)人類學(xué)的概念中汲取了想法，指出生物是可以自主行動(dòng)并照顧自己和自己的物種。至少現(xiàn)在，無論是多么先進(jìn)的機(jī)器，它們?cè)谶@方面始終只能作為人類的延續(xù)而發(fā)揮作用。
生命有不同的層次，而且正如AI發(fā)展趨勢(shì)所示，人工智能正在慢慢朝具有生命的體征靠近。
根據(jù)哲學(xué)人類學(xué)的觀點(diǎn)，當(dāng)有機(jī)體朝著目標(biāo)發(fā)展時(shí)，生命的最初跡象就形成，在當(dāng)今的目標(biāo)驅(qū)動(dòng)下的AI也同樣具有。
Jalsenjak說，人工智能沒有「意識(shí)到」其目標(biāo)，并且漫不經(jīng)心地壓縮數(shù)字以達(dá)到似乎這一無關(guān)緊要的目標(biāo)，因?yàn)槲覀冋J(rèn)為植物和樹木即使沒有同樣的意識(shí)也可以存活。
認(rèn)為具有生命體征的的另一個(gè)關(guān)鍵因素是生物體能夠有自我修復(fù)和改善自身的能力。它也應(yīng)該生育并照顧后代。
這是我們?cè)跇淠�，昆蟲，鳥類，哺乳動(dòng)物，魚類以及幾乎所有我們認(rèn)為活著的東西中看到的特征。自然選擇和進(jìn)化的規(guī)律迫使每個(gè)生物體能夠?qū)W習(xí)和發(fā)展適應(yīng)環(huán)境生存的技能，以確保物種的生存。
關(guān)于生育照顧后代，Jalsenjak提出，人工智能的繁殖并不一定與其他生物體一樣。
機(jī)器不需要后代來確保物種的生存。AI可以解決材料劣化的問題，只需手頭有足夠的替換零件即可將故障零件更換為新零件。
關(guān)于自我完善能力，就更加微妙了。Jalsenjak指出，即使不同軟件的自修改程度有所不同，但已經(jīng)有能夠自修改的軟件。
當(dāng)今的機(jī)器學(xué)習(xí)算法在一定程度上能夠使其行為適應(yīng)環(huán)境。他們將許多參數(shù)調(diào)整為從現(xiàn)實(shí)世界中收集的數(shù)據(jù)，并且隨著環(huán)境的變化，可以在新信息上對(duì)它們進(jìn)行重新訓(xùn)練。
比如冠狀病毒大流行可能會(huì)干擾我們正常行為下進(jìn)行訓(xùn)練的AI系統(tǒng)。
由于人們戴著口罩，面部識(shí)別算法不能夠檢測(cè)到人臉。而這些算法現(xiàn)在可以通過對(duì)戴口罩的臉部圖像進(jìn)行訓(xùn)練來重新調(diào)整其參數(shù)。
顯然，與人類和高等動(dòng)物的能力相比，這種適應(yīng)水平微乎其微。
但是，理想的自我完善型AI可能會(huì)創(chuàng)造出全新的算法，從而帶來根本性的改進(jìn)。這就是所謂的「遞歸式的自我完善」，將導(dǎo)致更加智能的AI不斷循環(huán)和加速完善。
今天，我們有一些像遺傳算法和網(wǎng)格搜索的機(jī)制，可以改善機(jī)器學(xué)習(xí)算法的不可訓(xùn)練組件。但是它們帶來的變更范圍非常有限，并且仍然需要一定程度的開發(fā)人員的手動(dòng)操作。你不能指望遞歸神經(jīng)網(wǎng)絡(luò)會(huì)通過許多突變而變成一個(gè)Transformer。
Jalsenjak指出，遞歸式自我完善將使AI有可能完全取代正在使用的算法，正是奇點(diǎn)出現(xiàn)所需要的。
Jalsenjak總結(jié)道，「通過類比及觀察AI已有的特征，可以認(rèn)為超級(jí)人工智能是活著的，說AI是人類的延續(xù)這一說法是無效的。它們將有自己的目標(biāo)，也許還有自己的權(quán)利。人類將首次與至少與他們一樣聰明，而且可能更加聰明的智能體共存于地球。」
你仍然可以在不感到內(nèi)疚、自責(zé)的情況下關(guān)閉機(jī)器人的電源嗎？
反思：AI自由意志，AI道德仍將是我們繼續(xù)思考的問題
賈爾森賈克在論文的結(jié)尾承認(rèn)，對(duì)人造生命體的反思還提出了許多其他問題。這里描述的關(guān)于生物的特征是否足以使某事物被認(rèn)為是活著的，或者這僅僅是必要的條件？
Douglas Hofstadter在《我是一個(gè)奇怪的循環(huán)》中否認(rèn)了這一觀點(diǎn)。他認(rèn)為個(gè)體的自我意識(shí)和思維是將其他生物，智能體與人類區(qū)分開的關(guān)鍵。
自由意志也是一個(gè)懸而未決的問題。Jalsenjak寫道：目前尚不清楚未來的AI是否有自由意志的可能性。
最后，還有超級(jí)智能AI的道德問題。這是一個(gè)廣泛的主題，包括AI應(yīng)該具有的道德原則，人類對(duì)AI應(yīng)當(dāng)具有的道德原則，以及AI如何看待與人類的關(guān)系。
浙公網(wǎng)安備 33011002011190號(hào) 浙ICP備13029913號(hào) 
