機器人擁有自主意識到底是是不是有益你會擔心嗎

針對現下大熱的人工智能，很多人會有一個疑問：機器人會擁有自主意識嗎？在2019騰訊科學WE大會前，哥倫比亞大學教授、機器人研究權威專家Hod Lipson給出了回答。

Hod Lipson向TechWeb等表示，“不可避免會出現這一天，至于是10年后，還是100年后，我們還不知道。但我比較確信的是，我們孫輩生活的世界里，機器將會有自我意識?！?/p>

如果機器擁有了自我意識，你是否會為此感到擔心？Hod Lipson對此持樂觀態度，他認為，“自主意識的機器人帶來的好處將會遠遠超過它的風險”。

他以火的發現為例解釋稱，火非常危險，也非常強大。但人類是否希望自己從未發現火呢？答案應該是否定的，因為有了火之后，使得我們能做很多之前做不到的、不可思議的事情。

Hod Lipson指出，“我們現在已經發展和運用了很多機器，而這些機器的數量將會越來越多，它們也會越來越復雜，總有一天人類將無法直接照顧這么多、這么復雜的機器人，我們要想辦法讓機器人自己來照顧自己?！保ㄖ苄“祝?/p>

以下為Hod Lipson對話速記：

提問：您真的會覺得機器人會擁有自主意識嗎？你擔心它擁有自主意識嗎？

Hod Lipson：我的回答是肯定的，也是否定的。因為我認為不可避免的會出現這樣一天，這個世界上的機器獲得自我的意識。這是一個非常偉大的事件，因為我們現在在逐步給這些機器系統一點一點添加智能。最終，它們會給自己找到一個模型，它們最終要想明白，并最終明白自己是什么，自己能做什么和不能做什么。

這件事情將在10年之后發生，還是100年之后發生，我也不知道。但是，我比較確信的是我們的孫輩所生活的世界里，機器將會有自我意識。

我是否對此感到擔心呢？我可以給您舉一個例子，就是火的發現?；鸱浅ＮｋU，也非常強大。但人類是否希望自己從未發現火呢？答案應該是否定的，因為有了火之后，使得我們能做很多之前做不到的、不可思議的事情。

具有自主意識的機器人也是如此，它是一種非常強大的技術，重要的是每一個人都認識到這種機器人能夠做些什么、不能夠做一些什么，就像火一樣，我們知道它是強大而危險的，所以我們要確保將它用于好的事情上。

我個人在這個問題上保持樂觀態度。我認為自主意識的機器人帶來的好處將會遠遠超過它的風險，因此我們要追求發展這樣一個技術，因為我們現在已經發展和運用了很多機器，而這些機器的數量將會越來越多，它們也會越來越復雜，總有一天人類將無法直接照顧這么多、這么復雜的機器人，我們要想辦法讓機器人自己來照顧自己。

提問：第一個問題，上過《自然》雜志封面的那個論文提到過粒子機器人沒有單點故障，也沒有集中控制。這個系統可以繼續保持運行，它的閾值在什么范圍內？因為現在測試下來是20%的粒子發生故障，整個系統還是能夠保持運行，這個事情是對機器人魯棒性的一個突破。

之前《科學》雜志的主編提到過現在所有人們認為機器人的意識問題，都是因為它的魯棒性，機器人的魯棒性如果真的夠了，它就能產生意識嗎？第二個問題，我不是非常理解剛才舉的火的例子，因為火是沒有自己意識的，它仍然只是一個工具，教授之前講50年之后人可能和人工智能一起進步，就是人和人工智能共生的一個狀態，在這樣的環境下，人們會面臨哪些倫理和社會上的挑戰？

Hod Lipson：其實您是把很多問題都集中到了這兩個問題。我先回答一下關于魯棒性的問題，我們所做的粒子機器人把這個整體當成一個機器人。這種機器人我更想比喻成一個人的身體。我們的身體是由許多細胞組成的，這些細胞會產生、發展和死亡，不斷地會有細胞死去。雖然有很多細胞都死掉了，但我還是我，你還是你。

那么到底我們能讓多少細胞死，而不改變自己的性質呢？到底是20%，還是30%呢？其實，我們知道人體的細胞不斷地在死亡，這是一個持續的過程，同時也會有新的細胞不斷產生。

換句話說，我們的身體是由一個個不可靠的部分組成，這些部件本身會死亡、壞掉，但是新的部件會不斷出現，反復的出現，我們這個整體還是我們自己。

做機器人主要在于新思路，你談到了它的魯棒性，你也提到了所謂的20%。其實這個20%只是我們測的一個數字而已，我們更關心的是一個想法，就是如何建造一種機器人，像人體一樣，能夠用這些不可靠的部件組成它，但是它作為一個整體仍然是像人體一樣，可以正常的運行。

這一點和我們今天造機器的想法完全不一樣，比如我們現在造的飛機，它由很多部件組成，其中任何一個部件都有自己特定的功能。假如這個部件失靈了、出故障了，那這個飛機就是不能上天的。假如有一輛車其中一個輪子掉了，這輛車也就無法運行了。

我們現在希望以一種全新的思路來做機器人，它的魯棒性和機器人是否有自我意識是無關的，我們更多的是把它想像成一種生物體。從生物體來講，你的身體、頭腦是維持運行所必要的部分，我們希望這種機器人有一個頭腦，能夠自我去建模，這樣就能夠發展起來。

我舉火的這個例子，并不是因為它有自我意識。它并沒有自我意識，主要還是從倫理的角度來講，是說火也是非常非常強大、危險的。但是，它是人類文明真正開始發展的原因，有了火人類才能夠吃以前吃不了的食物，能夠建造以前建造不了的東西，能夠在夜里看見東西，這一切極大的促進了文明的發展，但是同時火也是非常危險的。

所以，我們所有人都需要意識到火是非常有用的，非常強大。假如火失控，就會帶來非常糟糕的后果。人工智能也是如此，它既強大又危險，這個技術非常值得我們擁有，但是我們要知道這種技術能強大到什么程度，并且給予它尊重，確保能夠恰當地使用。

你提到的所有倫理問題，目前應該還是沒有答案的。其實就在5年前，人工智能技術就已經開始發展了，但是沒有人對它感到興奮，它只是一個學科而已，也沒有任何人擔心它有一天會接管了全世界。

但是，在過去5年間，這一技術真的騰飛了。突然之間好像大家都在問這些倫理問題，但是正如我前面說過的那樣，我們對這些倫理問題還沒有答案，這個技術肯定會繼續發展，而有自我意識的機器人也終將出現。

提問：粒子機器人是否能夠在一個很小的空間內模擬宇宙？

Hod Lipson：你問粒子機器人能否模擬宇宙，我想我們這個機器人更多的是試圖模擬生命，而不是模擬宇宙的發展和運行。

我們試圖讓它模擬生物，特別是動物的機制。我們試圖認識我們身體里所存在的這些粒子，或者更確切的說是細胞，每一個單個細胞都是不可靠的，而且大腦并不指揮每一個單個的細胞，這些細胞通過自己的隨機運動組合在一起，最終產生了每一個真實的個人。

這個也仍然是一個比喻，但是總的想法是它使我們能夠試著模擬，或者試著復制一下生命的運行。

提問：隨著自主機器人意識越來越強烈，現在越來越多人對這個感到擔憂，與此同時包括騰訊在內的這些企業，提出了“科技向善”的理念。你是否聽說過騰訊“科技向善”的理念，你對科技向善這個理念是怎么理解的？以及你覺得科技向善該怎么引領未來機器人、人工智能與人類命運的和諧發展。

Hod Lipson：這個問題非常好，作為人類來說，我們開始意識到這樣一種強大的自主意識會出現，我們肯定會想到必須要確保這些技術會用于好的事情、善的事情。

但是，這種科技向善的想法在很多地方都有人提出來，并且大家在不斷的重復。比如我所在的哥倫比亞大學，我們有一個非常類似的說法，叫做數據向善，就是把數據用于善的事情，這是所有人類都希望能做的事情，關鍵還在于怎么做到，如何確保技術總是以好的方式得到運用，這一點是非常難的，確保人工智能完全用于好的事情并不容易，因為這個技術非常易用，也不需要投入很多錢就能夠用上。技術本身既可以被用來做好事，也可以被用來做壞事，關鍵在于人類文明和人類社會應該想怎么把它用于好的事情，而不是壞的事情。

關于怎么辦目前我們還沒有完全想清楚。將來是讓人工智能去監督人工智能，還是采取什么別的辦法？但是總的來說最終要靠人類的倫理，指導我們在一個機器能夠自主做出決定的新世界里，確保這些技術仍然用于好的事情。

應該說任何這樣的問題都沒有一個簡單的答案，但是我們必須走上這樣一個歷程，并且一步一步的往前走，我們現在要公開討論它應該可以做些什么，不可以做些什么，我們要不斷地進行研究。

在這個過程中，人類會逐步做出什么能做、什么不能做的決定，實際上在人類歷史上我們發現了既強大又危險的技術，比如說核技術、基因技術的出現，基因技術如果被誤用或濫用，它的結果也會很糟糕。比如化學的發展，它也有可能會被人用于做壞事，但是最終人類社會都選擇把這些技術用于好的地方。

所以，在人類歷史上我們曾經多次發現這些強大而危險的技術。但在大部分的情況下，人類社會作為一個整體做出了正確的決定。所以我本人是樂觀的，我相信這次人類社會整體也將做出正確的決定。雖然，在某個時點上可能有少數人會做出少數錯誤的、不好的決定，但是作為一個整體，我們會做出正確的決定。

提問：通常人們會想科學家做機器人，是讓它來模仿人類所做的一些動作，或者人類的功能。但是也有一些科學家做出來的機器人已經能做一般人做不出來的動作了，為什么要讓機器人做到這些呢？

Hod Lipson：這個問題非常好，就像我們為什么要讓人工智能或者機器人玩國際象棋、圍棋一樣。這個是一個挑戰，我們會試著讓人工智能和機器人做一些人覺得難的東西，看是否能讓機器人學會這些技術。

這是自我的挑戰，也是一個測試，就好像人工智能在最開始學國際象棋的時候，世界上絕大部分普通人是不可能戰勝國際象棋大師的。因為，一般人都做不到，不過一開始大家肯定也認為人工智能也是做不到的。這對它是一個智力上的挑戰，它會去學習，然后逐步做到這一點，這是智力上的挑戰。

身體上的挑戰也是一樣的，我們會去問機器人能不能走路。走路這件事看上去非常簡單，每一個兒童，甚至嬰兒很小就開始學走路，并且學會了。但實際上教機器人走路比讓它學國際象棋難得多，因為每一個人類都覺得我們特別擅長走路，所以我們不覺得走路這件事有什么難的，但是教機器人走路是非常困難的。

巴斯大學和其它的一些大學進行了特別多研究，才逐步讓他們的機器人能夠走路。在它做到走路之后，科研人員會想能不能讓它跑起來，能不能讓它在摔倒之后自己爬起來，能不能讓它能爬山、爬墻，或者說能不能讓它做一個后空翻。

幾個月前，伯克利大學發布了一段視頻，它的機器人在玩一個魔方，這個是一件非常小的事。因為只要是個人，他的手就能玩魔方，但是對機器人來說這是非常難的事情。

對于科研人員來說，讓機器人做這些事情就是在爬一個階梯，是人在身體和智力上能做到的這些事情，讓它像爬梯子一樣一個一個得掌握，并且試著看一看我們在這方面能夠走多遠。

這個技術是不是有用呢？

我或許可以舉一個例子。讓機器人做后空翻的動作可能本身想不出來有什么實際的用處，但是后面支持機器人走路、拿東西、做后空翻的這些技術有很多非常實際的應用。

提問：您的這項研究適合于哪方面的實際應用，比如醫學或者其它的。在您的成果當中，未來還有哪些可以提升的方向？比如說更多、更快、更小的組件。

我聽說您領導的研究團隊里面有一個中國人，叫李曙光。您怎么評價中國在機器人研究和應用方面的貢獻？

Hod Lipson：我先跟您講一下我們的計劃，我們預期必須把它做的更小。我們在設想這樣一種機器人的時候，我們希望能夠模擬成百上千個細胞一起運作的狀況。事實上，我們現在能做到的只是幾十個細胞進行這樣的運行。我們希望有一天能夠達到數百萬、上千萬的細胞一起組成的粒子機器人來運作，就像我們的身體一樣。我們身體里有數十億、上百億的細胞，它們共同形成了我們。我們要這樣做的話，就需要把它做的更小，我們需要使用納米技術，或者說至少是微米技術，這是我們的下一個目標。因為在它的每一個部件足夠小之前，是不可能有實用場景的，因為在大的規模上沒有辦法實現細胞之間永續的更新，如果它足夠小，能夠做到很多有趣的事情。

比如說我們現在看到工廠里的機器人，乃至你家里的吸塵器，現在都是一些大的部件壞了，整個機器就不能運作的部件組成的。將來它們也可以由這樣一個一個小的細胞組成，它的好處有很多。

首先，就是它能夠應對某個部件出現故障，但是整體不會出問題，可以完全循環。在今天我們看到的這些機器是不能夠循環的，機器壞掉之后相當于把它埋葬了，或者說這個機器的某個金屬部件、塑料部件是可以循環的，但是機器作為一個整體是不行的。

但是生物體不一樣，生物體是可以百分之百循環的。比如說你吃掉了一只雞，你就能夠充分利用雞提供給你的蛋白質，如果你吃了植物或者素食，你也會充分利用它給你提供的一切，因為你的身體會把它所提供給你的有用物質進行循環，從氨基酸開始，然后對它實現充分的利用。

我們現在希望能夠有一種物理的機器，使它也能夠實現這樣的循環，這樣它就由數百萬、上千萬的小部件組成，形成這樣一個小粒子的生態系統。只有實現這樣的生態系統，才有機會使我們維持使用很多機器的人類文明生生不息，因為這些機器自己可以照顧自己，但是應該說這是一個非常長遠的目標，這不是一個明天就能用上的技術。

提問：能夠用兩個詞談一談對于騰訊明天WE大會科學精神的理解嗎？并且講一下故事，教授這邊是不是采取了什么行動，來防止相關的技術被誤用，是否存在一些規則，如何對相關的技術進行監管？

Hod Lipson：我非常期待明天的大會，而且我知道大會涉及到很多不同的主題，內容都非常有趣，這也使我想到中國和美國科學界的合作。

您提到我團隊里面有中國人，其實我那里總共有10個博士生，里面有四個中國人，從碩士的學生來說，數量就更多了，大概占到了一半，可能大概有10多個。

所以，不管是哥倫比亞大學還是其它大學，其實都是如此。我想這也表明中美在這個領域的合作比歷史上任何時候都要多，不僅在我們的項目組有中國學生，在大學的教職員工里面也有不少的中國人。

人工智能和機器人領域尤為如此，在這個領域發表論文的數量，中國、美國、歐洲數量大致是一樣的，我們也知道在中國、美國，在世界上很多地方都存在著很多競爭，但是在人工智能和機器人的世界里，世界確實是平的。

其中部分原因是因為這個領域對資本投入的需求很低，因此你不需要投入大量的資金，就可以去研究和發展這個技術，所以每一個人感興趣都可以參與進來。另外一部分原因是在人工智能和機器人的領域，我們分享意識是非常強的，迄今為止這個領域所取得的每一項成就都是開源的，這也大大促進了國際合作。

至于監管的問題，從目前來看，我們唯一能做的就是不斷的談論這樣的事情，我們絕對不能關上門搞開發，要保持百分之百的開放。在我們的實驗室白天黑夜都有記者找我們，他們會來拍照，會問問題，而且有些時候會問非常難回答、根本就沒有答案的問題。

在機器人技術的發展領域，我想這是唯一的出路?？赡芪覀冞M行大量的交流還不能確保這個技術一定是用于好的事情，但是至少通過這個討論，人們可以了解到這種技術的危險性何在，而不是在未來某一天突然被它嚇壞了。

提問：單個粒子機器人現在的收縮狀態直徑是15厘米，您剛剛提到在它做的足夠小之前是不太可能應用的，大概要等多少年時間才有可能做到微米級、納米級？在這期間會遇到什么難題？如果真的做到納米級、微米級，這個粒子機器人具體落地應用場景大概是什么樣的？可以舉幾個例子描述一下嗎？

Hod Lipson：需要多少年才能達到你說的這個尺度我確實不知道答案。這個研究的進展并不僅僅取決于研究的難易程度，還涉及到是否能夠得到資金支持，是否有學生對這個課題感興趣?？赡芩麄儠黄渌募夹g所吸引，這些都是一些影響因素。

但是，我個人仍然覺得它會在我們的有生之年達到微米。比如10年，或者說我不會想像做的比微米更小，我不會真的想像那時候就能做到納米級，但是或許我們只能做到毫米級的，比如說像小的砂糖顆粒一樣，毫米級的，那時候就可以做這樣的細胞。

沒有辦法把毫米級的粒子機器人到人類的血管中去，或者我們現在想像的那些醫學中特別先進的應用，可能還是做不到，但是它應該可以成為一些機器的組成部分，這些機器能夠行走、恢復、重復使用。

比如在外空有一些需要做的工作，或者是如果我們需要登上月球的話，我們就需要這些機器人能夠根據任務的需求，改變自己的形態，在一些地方可能把材料運過去非常昂貴，我們需要重復使用我們的機器人，讓它能夠根據任務需求進行形態的調整。我個人想像，這很可能是這種機器人比較早的應用形態。

提問：有人說中國和美國在人工智能、機器人領域的不同是中國可能研究更偏應用一點，美國可能在基礎研究做的更扎實一點，怎么看待中美在這兩個領域當中研究發展程度的不同？中國人工智能領域在基礎研究方面的缺乏和不足會不會對未來應用造成一些影響？

Hod Lipson：我不太確定我看到的情況和您的這個描述是一致的。因為我覺得中國也有很多人在做應用和基礎研究，也有很多美國人在做應用方面的研究，中國這邊也是兩方面研究都有。

應該說這個領域的研究一直都是混合的。在機器人和人工智能領域，一向都是這兩種，并不總是兩分法的判斷，很多人都是同時在做的。而且你很少看到有人只會研究某個特定的應用。比如說只研究某個醫學的應用，或者某個康復功能的應用，或者他只關注于自動駕駛的機器人，更準確的描述就是這個領域非常廣泛，確實沒有人能夠把所有的細分學科、某個技術細節都關注到。

但是在這兩個國家都有大量的人做各種各樣的研究，所以恐怕不能一下子判斷中美出現這樣一種不同偏好的原因。

即便在我自己的實驗室，有的研究人員比較重視應用。我們有一個項目是能做“抓”這個動作的機器人，他們會和工廠有很多的聯系，去看現有這樣的機器人和我們自己的機器人，能不能保證它抓10萬次不出故障。

此外也有特別關注于機器人創造力和自我意識的人，這個更具有哲學性的思考?？峙轮荒苷f這個領域的內容如此豐富，所以一個人恐怕沒有什么都關注到，但是放在國家尺度上，兩國都既有實用研究，也有大量的基礎研究，這就是我們這個學科和其它學科不一樣的地方。

比如天文學肯定要做大量理論研究。我們這一行是不一樣的，機器人這個領域有很多商業的力量參與，也有很多政治、經濟的力量參與，這個領域的錢非常多，比如說百分之百人工智能驅動的無人駕駛汽車，在這個領域投入了大量的資金，它非常熱，有來自于各個方向上的壓力和興趣，所以可能像這樣的一些特定細分領域會吸引到更多的關注，但其實在更廣泛的人工智能和機器領域，實用和理論基礎性的研究都在廣泛進行。
責任編輯 LK