問題1. “時間問題——如果人工智能發(fā)展得太快以至于關(guān)于人工智能的辯論來不及展開將怎么辦？”
在所有我收到的問題里面，這個問題是讓我考慮得最多的。我認為，這是一個基本的批判意見。這個問題是如此重要以至于我在第6章討論“奇點”的時候已經(jīng)涉及到了。本質(zhì)上來說，這里所爭議的是，如果人工智能的崛起太快了，就沒有足夠的時間在社會上產(chǎn)生的宇宙主義－地球主義的分化，因此，本書的這個論點不成立。沒有這樣的分化，將不會有人工智能辯論，也沒有人工智能戰(zhàn)爭。
來信
親愛的德·加里斯教授：
通過CNN(美國有線新聞臺)網(wǎng)站的一個鏈接，我最近接觸了您的《關(guān)于超級智能機器的道德困境》的文章。我著迷于閱讀這篇文章，雖然我在這些領(lǐng)域不是一名專家，我敢說在大多數(shù)方面我贊成您的觀點。然而，有一點讓我感到有些前后不一致，請您原諒我這樣說。這點就是您對于“地球主義者”和“宇宙主義者”的看法。要產(chǎn)生兩派之間的爭斗，制造電子大腦的一派應(yīng)該已經(jīng)獲得了某種進展，也許電子大腦已經(jīng)存在了。這就是我在您的論文里發(fā)現(xiàn)的矛盾之處。被宇宙主義者保護和培育的人工智能機器的存在不會使兩派之間的爭論顯得多余嗎？我同意您的觀點，那就是電子大腦將以指數(shù)速度發(fā)展進化。因此，它們是否會發(fā)展成對人類充滿敵意的物種問題馬上就會有答案，以至于“宇宙主義者”和“地球主義者”的主要智囊們沒有機會來完成他們的論述和爭論。這將發(fā)生在他們考慮發(fā)動戰(zhàn)爭之前—— 假設(shè)這些“人類”智囊們是合理程度的文明。我希望我的看法不會以任何方式冒犯您，并且我將很愉快地聆聽您對于這個問題的看法。
回答
我贊同你的主要觀點。我把這點重新表述為——“如果電子大腦(人工智能)以(快速的)指數(shù)速度進化發(fā)展，也就是說在未來幾十年內(nèi)達到或超越人類的智慧級別，那么將沒有足夠的時間產(chǎn)生地球主義者－宇宙主義者的沖突，人工智能戰(zhàn)爭也不會產(chǎn)生?！蔽掖_實認為人工智能是以指數(shù)速度進步的，但是不至于如此的迅速以至于沒有足夠的時間產(chǎn)生人工智能的辯論和發(fā)起人工智能戰(zhàn)爭。
我認為其中的原因是由于制造真正人工智能的任務(wù)是非常困難的，并且可能需要幾十年的時間來完成。在目前，我們對于人腦的工作原理、記憶的本質(zhì)是什么、思維是什么、我們是如何推理等所知甚少。在人腦內(nèi)有千萬億個神經(jīng)鍵(神經(jīng)元之間的聯(lián)系)，清楚地表明人腦結(jié)構(gòu)是如何的超級復雜。我猜想，關(guān)于人類在神經(jīng)科學研究領(lǐng)域的進步最現(xiàn)實的情景就是，從現(xiàn)在開始將至少需要50年的時間來在人工大腦制造上取得真正的進展，但之后的進展將相對緩慢(雖然也是指數(shù)級別的)。
我認為，早期的人工智能機器所表現(xiàn)出來的智慧足以引起地球主義者的警覺。像我這樣的一些人將會提醒大眾某些事情即將發(fā)生，但是我認為之后的進展將不會非常迅速，因為對于大眾來說，反應(yīng)的時間將非常有限。當公眾從他們的家用產(chǎn)品中看到智能的真正跡象時，將不需要很多年的時間來反應(yīng)。我認為對于公眾和政府來說，如果他們真正地察覺到對于他們的物種支配甚至生存存在著真正的和強烈的威脅時，5到10年的時間將足夠讓事情有所進展。
同樣，當那些有意識的大腦制造者們認為實驗室內(nèi)的進展證實威脅確實存在的時候，他們將毫不遲疑地警示大眾。例如，我，傾向于讓公眾清楚地了解世界上人工智能的發(fā)展現(xiàn)狀，即使它們目前還處于比較原始的狀態(tài)。大腦研究制造者們處于這樣的一個位置，能夠第一個知道正在發(fā)生些什么，因為正是他們在制造這些東西。
我認為從道德上來說，我們有一種義務(wù)來告訴公眾正在發(fā)生著的某些事，以便公眾有時間來反應(yīng)，來防止如此的情況發(fā)生，即人工智能的指數(shù)級別的智慧增長曲線比大腦制造者的預(yù)計還要迅速。我同樣認為大腦制造者們應(yīng)該現(xiàn)在就警示公眾，而不是等待人工智能機器擁有真正智慧的第一個征兆出現(xiàn)。這樣就可以給予公眾更多的時間來反應(yīng)，但是當然，如果公眾看不到真正智慧的證據(jù)，那么，他們會認為研究者們是在喊狼來了，且因此忽視他們。
鄂公網(wǎng)安備 42010302001612號