在人類的口述傳統(tǒng)和古代文獻(xiàn)中彌漫著這樣一種主題：一場巨浪或洪水席卷一切，隨之而來的是世界的重塑和重生。這些巨浪的力量已經(jīng)深深地烙印在我們的集體意識之中，它們似乎勢不可擋、無法駕馭、難以遏制。技術(shù)的崛起與傳播一直以改變世界的浪潮之姿出現(xiàn)。目前，人類社會正在經(jīng)歷著新一次的技術(shù)浪潮，這場浪潮由人工智能和合成生物學(xué)兩大核心技術(shù)所定義。它們將共同開啟人類的新黎明，創(chuàng)造出前所未有的繁榮和富足；但它們的迅速擴(kuò)散帶來了不可忽視的威脅，當(dāng)技術(shù)的使用成本足夠低時(shí)，可能會使得各種惡意行為者有能力在難以想象的范圍和規(guī)模上制造混亂、動(dòng)蕩、甚至災(zāi)難。
任何事情都具有多面性，技術(shù)也不例外。微軟人工智能CEO、DeepMind聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼（Mustafa Suleyman）和作家、數(shù)字出版人邁克爾·巴斯卡爾（Michael Bhaskar）合著的《浪潮將至：技術(shù)、權(quán)力與未來的沖擊》深入探討了人工智能為人類社會帶來的巨大好處背后所隱藏的威脅與挑戰(zhàn)。人工智能所帶來的積極影響正在逐步凸顯，但其潛在的破壞性也若隱若現(xiàn)，而且有些已經(jīng)變?yōu)楝F(xiàn)實(shí)。作者認(rèn)為，這是一本關(guān)于技術(shù)失敗以及如何遏制技術(shù)失敗的書，技術(shù)失敗可以指普通意義上的技術(shù)故障，但在本書中，技術(shù)失敗是指技術(shù)背離了初衷和承諾，對人類社會產(chǎn)生了非常嚴(yán)重的負(fù)面影響。例如，在人工智能和合成生物學(xué)的助力下，很快就可能有人制造出比自然界中的任何病原體都更具傳染性和致命性的新型病原體，這些合成病原體可以規(guī)避人類已知的對策，以無癥狀的方式傳播，或具有對抗治療的內(nèi)置能力。一個(gè)人就可能具有威脅很多人生命的能力，而他所需要的僅僅是一個(gè)動(dòng)機(jī)。
人工智能與合成生物學(xué)技術(shù)浪潮
人工智能并不是一個(gè)新概念，早在1956年由美國部分計(jì)算機(jī)科學(xué)家編撰的《達(dá)特茅斯人工智能夏季研究項(xiàng)目提案》就已經(jīng)提出“人工智能”這一術(shù)語，這份提案呼吁舉辦一次非正式的研討會，探討如何通過計(jì)算機(jī)編程來完成類似人類的推理、感知和知識概括等活動(dòng)。彼時(shí)，人工智能更像是一個(gè)遙遠(yuǎn)的愿景，而非一個(gè)可以馬上實(shí)現(xiàn)的概念。以計(jì)算機(jī)視覺為例，盡管多年來人類一直努力讓計(jì)算機(jī)識別物體和場景，但實(shí)際進(jìn)步遠(yuǎn)未達(dá)到預(yù)期。在人工智能概念提出之后的半個(gè)世紀(jì)里，其發(fā)展進(jìn)程更多是在蹣跚之中探索，在不斷積累量變。直到以AlphGo和ChatGPT為代表的模型橫空出世，才意味著人工智能發(fā)展實(shí)現(xiàn)了質(zhì)的飛躍，也預(yù)示著人工智能走上了快車道。如果說在5年之前有人還對人工智能的發(fā)展前景持疑慮態(tài)度，那么現(xiàn)在這種態(tài)度應(yīng)該煙消云散了，現(xiàn)在要思考的是如何趕上人工智能這趟高速列車。目前，人工智能技術(shù)的應(yīng)用已經(jīng)深入到了各個(gè)領(lǐng)域，我認(rèn)真觀察了一下，我現(xiàn)在寫作所用的這款軟件就有AI幫我寫、幫我改等功能。
此次技術(shù)浪潮中另外一個(gè)核心技術(shù)就是合成生物學(xué)。在我們所生活和居住的這顆星球上，至少到現(xiàn)在為止，生命都是以緩慢、自主、無序的方式悄然進(jìn)化。曾經(jīng)，適者生存主導(dǎo)了生命的演化，但這種狀況正在發(fā)生改變。生物學(xué)的神秘面紗逐漸被揭開，蛻變?yōu)橐环N強(qiáng)大的工具。生命的故事瞬間被重寫，進(jìn)化的步伐突然加速。在DNA測序和解碼技術(shù)的加持下，科學(xué)家可以創(chuàng)造出全新的DNA鏈，從而實(shí)現(xiàn)對生命的改造。人類通過有針對性的干預(yù)，將生命數(shù)千萬年的緩慢進(jìn)化歷程壓縮并簡化。
人工智能和合成生物學(xué)兩股浪潮洶涌匯聚，形成前所未有的巨浪。在某種程度上，人工智能與合成生物學(xué)甚至可以互換概念。畢竟，迄今為止所有的智能都源于生命。稱之為合成智能或人工生命，其本質(zhì)并無二致，這兩個(gè)領(lǐng)域都致力于重新創(chuàng)造、設(shè)計(jì)這些基礎(chǔ)且相互關(guān)聯(lián)的概念，它們是人類兩大核心屬性的體現(xiàn)。換個(gè)角度看，它們其實(shí)是一個(gè)整體。
人工智能技術(shù)浪潮的四個(gè)特征
每一次大的技術(shù)浪潮都具有獨(dú)特的特征。以鐵路為例，鐵路縮小了空間距離，降低了運(yùn)輸成本，給經(jīng)濟(jì)社會發(fā)展帶來了非常大的正面效應(yīng)，但由于鐵路投資巨大，所以鐵路這種技術(shù)只有國家或大型企業(yè)才可以進(jìn)行投資，普通人只能被動(dòng)地享受鐵路帶來的便利。對于普通人來說，鐵路的影響是對稱的。人工智能浪潮也具有一些與以往技術(shù)浪潮不同的特性，作者在書中指出，人工智能浪潮具有四個(gè)固有特征：
首先是技術(shù)的高度非對稱性。非對稱性是指你與對方不必力量相當(dāng)、規(guī)模相當(dāng)，即使雙方對比懸殊。技術(shù)使那些看似強(qiáng)大的勢力暴露出以前難以想象的弱點(diǎn)和破綻。例如，大炮的出現(xiàn)意味著一小隊(duì)力量就可以摧毀城堡，消滅整支軍隊(duì)；蒸汽動(dòng)力的出現(xiàn)使得單個(gè)工廠的生產(chǎn)能力可以匹敵整個(gè)城鎮(zhèn)。非對稱性可能意味著權(quán)力或能力的大規(guī)模轉(zhuǎn)移，從傳統(tǒng)的國家或大型企業(yè)轉(zhuǎn)向任何有能力且有意愿部署和使用這些技術(shù)的個(gè)體或組織。例如，一次病原體實(shí)驗(yàn)就能觸發(fā)全球大流行��；一個(gè)人工智能程序就可以撰寫出與人類所有文本作品規(guī)模相匹敵的巨量文字；上述兩種情形并不需要多大的投入，較少的幾個(gè)人甚至一個(gè)人就可以實(shí)現(xiàn)。
其次是技術(shù)的超級進(jìn)化性。在之前的技術(shù)發(fā)展進(jìn)程中，有些技術(shù)可以產(chǎn)生非常大的影響，但進(jìn)化或改進(jìn)速度較慢。以汽車為例，汽車發(fā)明至今已經(jīng)超過一個(gè)世紀(jì)了，但汽車技術(shù)的進(jìn)展較為緩慢，現(xiàn)在的汽車與100年前的汽車并沒有本質(zhì)的不同，只是在舒適性上有了很大進(jìn)步。汽車較為緩慢的發(fā)展進(jìn)程也給人們足夠的時(shí)間來引入各種安全標(biāo)準(zhǔn)，控制其負(fù)面影響。人工智能技術(shù)的發(fā)展卻具有超級進(jìn)化性，近兩年的經(jīng)驗(yàn)顯示，人工智能的發(fā)展速度已經(jīng)超乎了人類的想象，不斷刷新我們對這一技術(shù)的認(rèn)識。說是認(rèn)識，實(shí)際上大多數(shù)人已經(jīng)不太能很好地認(rèn)識這一技術(shù)的發(fā)展了。這帶來一種尷尬的情況，我們甚至還不太理解人工智能新的發(fā)展，更何談遏制其負(fù)面效應(yīng)。
再次是技術(shù)的通用性。通用性是指一種技術(shù)可以在多個(gè)領(lǐng)域應(yīng)用。電力、互聯(lián)網(wǎng)就是通用技術(shù)的很好例子。人工智能也是一種通用技術(shù)，可以應(yīng)用在經(jīng)濟(jì)、金融、醫(yī)療、軍事等很多方面。這也意味著，相較于那些受限的、單一任務(wù)的技術(shù)，管控人工智能的難度將與日俱增。
最后是技術(shù)的自主性。迄今為止，持續(xù)的人類參與、監(jiān)督與管理一直是技術(shù)運(yùn)行的默認(rèn)模式，技術(shù)在不同程度上始終受到人類的控制，而完全的自主性則在本質(zhì)上與之前的技術(shù)截然不同。人工智能的一個(gè)突出特點(diǎn)就是自主性，持續(xù)的人為干預(yù)和監(jiān)督將變得越發(fā)不必要，甚至人類并不理解人工智能的決策過程。實(shí)際上，人工智能技術(shù)的每一次進(jìn)步，都實(shí)現(xiàn)了更大的自主性。人工智能的自主性正持續(xù)挑戰(zhàn)人類的認(rèn)知邊界，也使得人類無法預(yù)測自主系統(tǒng)的后續(xù)發(fā)展軌跡。
雖然作者沒有將另外一個(gè)特性，即快速擴(kuò)散性，作為人工智能技術(shù)的第五個(gè)特征，但在書中對這個(gè)特點(diǎn)也進(jìn)行了闡述。對于一般人來說，人工智能模型背后的技術(shù)較難理解，但其使用門檻并不高，尤其是以智能手機(jī)等設(shè)備作為媒介，很多人工智能程序在手機(jī)上就可以使用，這也決定了人工智能技術(shù)具有非常強(qiáng)的擴(kuò)散性。實(shí)際上，正是擴(kuò)散性導(dǎo)致了上面所說的高度非對稱性。當(dāng)技術(shù)不斷擴(kuò)散，越來越多的人能夠使用、修改，并按自己的喜好來塑造它時(shí)，就會觸及一連串錯(cuò)綜復(fù)雜、難以預(yù)料的因果鏈條。
人工智能技術(shù)浪潮背后的驅(qū)動(dòng)力
技術(shù)持續(xù)進(jìn)步的驅(qū)動(dòng)力來自那些原始的、與人性緊密相關(guān)的因素。只要人們有足夠的動(dòng)力去研發(fā)和應(yīng)用技術(shù)，技術(shù)便會應(yīng)運(yùn)而生。作者認(rèn)為，驅(qū)動(dòng)人工智能技術(shù)浪潮的因素主要有三方面：一是大國競爭；二是源于現(xiàn)有的研究生態(tài)系統(tǒng)；三是巨大的經(jīng)濟(jì)利益。
從大國競爭來看，技術(shù)是“國之重器”，是某些國家能夠領(lǐng)先于世界的關(guān)鍵因素，這幾乎是每個(gè)國家都信奉的原則。誰擁有先進(jìn)的技術(shù)，對國際秩序和國際競爭至關(guān)重要。當(dāng)前，技術(shù)已經(jīng)成為一個(gè)國家最重要的戰(zhàn)略資產(chǎn)之一，21世紀(jì)的大國競爭本質(zhì)上是關(guān)于技術(shù)優(yōu)勢的較量，誰能掌控這次人工智能技術(shù)浪潮，誰就能在未來的國際競爭中占據(jù)先機(jī)，這幾乎是各國決策者公認(rèn)的事實(shí)。
從現(xiàn)有的研究生態(tài)系統(tǒng)來看，純粹的好奇心、對真理的追求、開放的精神，以及以證據(jù)為基礎(chǔ)的同行評審，這些要素共同構(gòu)成了科學(xué)技術(shù)研究的核心價(jià)值觀。其中，人類對真理的追求或者說好奇心發(fā)揮著重要作用。以曼哈頓計(jì)劃（即美國利用核裂變來研制原子彈的計(jì)劃）的兩位參與者為例，羅伯特·奧本海默曾說：“當(dāng)你面對技術(shù)上十分美妙的東西時(shí)，你會義無反顧地研究它，只有在取得技術(shù)成功之后，你才會考慮拿它來做什么�！眾W本海默的同事約翰·馮·諾伊曼也指出：“我們正在創(chuàng)造的東西是個(gè)怪物，它將改變歷史——假如還有歷史留存的話。但無論后果多么可怕，我們都不能不去探索它，這不僅是因?yàn)檐娛滦枰且驗(yàn)閺目茖W(xué)家的角度來看，知道某條路徑可行卻不去探索，是違背科學(xué)道德的�！�
從經(jīng)濟(jì)利益來看，利潤是人工智能浪潮最持久、最根深蒂固、最強(qiáng)大的驅(qū)動(dòng)力。在技術(shù)發(fā)展史上，偶然性發(fā)揮著非常重要的作用，但拋開偶然性不談，有目的的研發(fā)基本上都受利潤動(dòng)機(jī)驅(qū)使。人類需求、欲望的多樣性和非饜足性，以及由此產(chǎn)生的無數(shù)商機(jī)，是推動(dòng)人工智能技術(shù)進(jìn)步的核心力量，利潤動(dòng)機(jī)也必將在未來持續(xù)推動(dòng)人工智能技術(shù)的發(fā)展及走向。
人工智能浪潮所帶來的威脅
任何一項(xiàng)技術(shù)都應(yīng)該是為了放大人類的優(yōu)點(diǎn)，而不是尋找人類的弱點(diǎn)并借此對其進(jìn)行攻擊。斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授、著名人工智能專家李飛飛在其自傳體著作《我看見的世界》一書中也提到了對于人工智能無序發(fā)展的擔(dān)憂，她指出：“新一代人工智能所能做的一切，無論是好是壞，無論是在預(yù)期之內(nèi)，還是在預(yù)期之外，都因其設(shè)計(jì)本身缺乏透明度而變得復(fù)雜……由此帶來的后果特別令人擔(dān)憂，即一種被稱為‘對抗攻擊’（adversarial attack）的新型威脅。在對抗攻擊中，輸入內(nèi)容的唯一目的是迷惑機(jī)器學(xué)習(xí)算法，以達(dá)到反直覺甚至破壞性目的�！�
實(shí)際上，可以從三個(gè)方面來看待人工智能的負(fù)面效應(yīng)。首先，在利用人工智能積極作用時(shí)所帶來的副作用，這個(gè)副作用只能由使用者做好自我控制，趨利避害。其次，人工智能對人類智能形成替代，導(dǎo)致特定人群失業(yè)，沖擊現(xiàn)有就業(yè)秩序。再次，是從惡意的角度來使用人工智能，這就涉及如何推動(dòng)技術(shù)向善，以及在技術(shù)發(fā)展中有效控制其脫離正軌的問題。
我們先來看一下第一個(gè)負(fù)面效應(yīng)。以學(xué)術(shù)研究為例，人工智能技術(shù)在學(xué)術(shù)領(lǐng)域已經(jīng)進(jìn)行了廣泛應(yīng)用，人工智能就如之前的搜索引擎，可以極大地提高研究效率。但這里面也存在一個(gè)邊界問題，利用人工智能協(xié)助研究在何種程度上是合適的？如果什么工作都讓人工智能來完成，那么對于研究者來說，其存在的意義將逐漸削減。尤其是完全依靠人工智能來完成論文寫作等任務(wù)，實(shí)際上就是學(xué)術(shù)造假。英國劍橋大學(xué)已經(jīng)在2023年出臺了一份關(guān)于學(xué)術(shù)性的指導(dǎo)文件，文件指出，學(xué)生可以利用AI幫助進(jìn)行某項(xiàng)研究，但不能利用AI代替自主思考以及將AI生成的內(nèi)容直接用于論文寫作。包括我國很多高校在內(nèi)的高等教育機(jī)構(gòu)都已經(jīng)對AI協(xié)助研究做出了類似的規(guī)定。這是人工智能帶來副作用的一個(gè)非常實(shí)際的例子。
人工智能帶來的另外一個(gè)負(fù)面效應(yīng)就是對現(xiàn)有的就業(yè)秩序造成沖擊�，F(xiàn)在的人工智能模型已經(jīng)能夠在文字撰寫、文案構(gòu)思、視頻生成、書籍翻譯等很多方面做得非常好，甚至超越人類了。隨著人工智能技術(shù)的進(jìn)一步發(fā)展，可以想象，如果企業(yè)有意愿，上述幾項(xiàng)工作都可以由人工智能來完成，這就很可能產(chǎn)生結(jié)構(gòu)性失業(yè)問題。從社會發(fā)展的角度來說，并不是所有利用技術(shù)代替人工都會產(chǎn)生合意的結(jié)果。就如李飛飛在書中所說：“在科學(xué)和工業(yè)領(lǐng)域，推動(dòng)人工智能發(fā)展的動(dòng)機(jī)是什么，這個(gè)問題非常重要。我認(rèn)為這個(gè)動(dòng)機(jī)必須明確地以人的利益為中心�！�
還有一個(gè)極大的危害就是使用人工智能的目的就是造成混亂。最明顯的一個(gè)例子是將人工智能應(yīng)用于軍事領(lǐng)域，并制造出一系列致命的軍事武器，這可能使恐怖分子的破壞力急劇提升。即使正常的國家將人工智能應(yīng)用于軍事上，對抗形勢也會呈現(xiàn)出新的表現(xiàn)，并對世界帶來新的安全威脅。
遏制人工智能浪潮的負(fù)面效應(yīng)
談到“遏制”這個(gè)詞，我們很容易想到1940年代美國的外交官喬治·凱南，他賦予了這個(gè)詞獨(dú)特的政治含義。1947年夏天，凱南在《外交》季刊發(fā)表了《蘇聯(lián)行為的根源》一文，文章指出，“美國對蘇聯(lián)的要旨在于，它必須是一種長期的、耐心而又堅(jiān)定的、警覺地遏制蘇聯(lián)對外擴(kuò)張的傾向。”
任何技術(shù)都有可能出錯(cuò)，而且往往是以一種與初衷背道而馳的方式出錯(cuò)。理解技術(shù)，在某種程度上就是要嘗試?yán)斫馄湟饬现獾暮蠊�。遏制技術(shù)發(fā)展主要是指我們可以控制技術(shù)的發(fā)展速度，以及其所產(chǎn)生的負(fù)面影響，這樣社會就有足夠的時(shí)間和空間來適應(yīng)和理解它�！岸糁啤笔且环N至關(guān)重要的能力，涵蓋了控制、限制以及必要時(shí)在技術(shù)的任何發(fā)展階段暫停技術(shù)的能力。例如，在GPT-4發(fā)布幾天后，鑒于人工智能研究和發(fā)展似乎陷入了失控狀態(tài)，數(shù)千名人工智能科學(xué)家聯(lián)名發(fā)表了一封公開信，呼吁最先進(jìn)的人工智能模型研究暫停6個(gè)月；不久之后，意大利政府就決定禁止使用ChatGPT。
作者認(rèn)為，技術(shù)遏制可以簡單分為三個(gè)層次：首先，第一個(gè)層次是指在實(shí)驗(yàn)室或研發(fā)設(shè)施中進(jìn)行的一系列操作，這個(gè)階段主要涉及研究人員和開發(fā)者。其次，技術(shù)遏制還涉及圍繞技術(shù)創(chuàng)造和傳播所形成的價(jià)值觀與文化，這些價(jià)值觀和文化支持技術(shù)邊界的設(shè)定、治理層級的構(gòu)建，同時(shí)幫助我們警惕潛在的危害和意外后果。最后，技術(shù)遏制還包括國家和國際層面的法律機(jī)制，也就是對技術(shù)的監(jiān)管。
在人類歷史進(jìn)程中，對于任何事物，如果有負(fù)面影響，我們首先想到的是政府是否可以對其進(jìn)行有效監(jiān)管，甚至?xí)䦟⒉涣己蠊呢?zé)任歸咎于政府沒有做好監(jiān)管。作者認(rèn)為，在人工智能領(lǐng)域僅靠監(jiān)管是不夠的。有幾方面原因：首先，監(jiān)管一般涉及在多方利益之間進(jìn)行權(quán)衡，任何形式的監(jiān)管都錯(cuò)綜復(fù)雜、困難重重。其次，即使是人工智能領(lǐng)域的技術(shù)專家和研究人員，也難以跟上技術(shù)變革的步伐，那么，對資源更為有限的監(jiān)管機(jī)構(gòu)來說，它們又有多少勝算呢？再次，技術(shù)發(fā)展日新月異，但出臺一部監(jiān)管立法卻需要數(shù)月甚至數(shù)年時(shí)間，可以說，技術(shù)進(jìn)步的速度是在“奔跑”，而監(jiān)管卻在“蠕行”。從上述這幾個(gè)角度看，遏制人工智能的負(fù)面效應(yīng)，僅僅依靠監(jiān)管是無法做到的，需要多方共同付出極大的努力才能取得效果。
邁向遏制的十個(gè)關(guān)鍵步驟
我們有理由對科學(xué)的力量保持樂觀，但要安全、公平、可持續(xù)地利用這一力量，需要多方位建立一個(gè)確保技術(shù)安全的體系。在書中，作者構(gòu)建了遏制人工智能負(fù)面影響的十個(gè)步驟，或者說是十項(xiàng)舉措，包括技術(shù)安全、審查、爭取時(shí)間、開發(fā)者、“利潤+使命”、政府監(jiān)管、國際監(jiān)管聯(lián)盟、文化、公眾的力量、整體協(xié)調(diào)等。
技術(shù)安全是指采取具體措施降低人工智能的潛在風(fēng)險(xiǎn)，并保持對技術(shù)走向的有效掌控。審核是指要確保技術(shù)的透明度和問責(zé)制，尤其是透明度，這是一個(gè)必選項(xiàng)，必須要有定義明確的途徑來審查新技術(shù)在開發(fā)過程中、代碼層面、實(shí)驗(yàn)室、工廠或各類實(shí)際應(yīng)用場景的情況。爭取時(shí)間是指利用技術(shù)命門（即關(guān)鍵的技術(shù)控制節(jié)點(diǎn)，如芯片生產(chǎn)者和關(guān)鍵企業(yè)）來放慢技術(shù)發(fā)展速度，從而為監(jiān)管機(jī)構(gòu)以及開發(fā)防御技術(shù)爭取一定的反應(yīng)時(shí)間。開發(fā)者是指從事技術(shù)工作的人需要更加努力地解決人工智能所面臨的問題，構(gòu)建正確的技術(shù)，掌握能夠改變技術(shù)進(jìn)程的實(shí)用手段，積極地展示如何做出改變�！袄麧�+使命”是指企業(yè)在開發(fā)人工智能并獲得利潤的同時(shí)，也要關(guān)注社會責(zé)任和使命，企業(yè)在社會中生存和經(jīng)營，除了追求利潤，還要關(guān)注獲得利潤的過程給社會帶來的影響。政府監(jiān)管是指政府相關(guān)部門要投身于技術(shù)發(fā)展進(jìn)程、技術(shù)標(biāo)準(zhǔn)制定以及內(nèi)部能力的培養(yǎng)，在這次技術(shù)浪潮中，政府不能當(dāng)旁觀者，而是要作為有力量的引導(dǎo)者和監(jiān)管者。國際聯(lián)盟是指通過精心構(gòu)建的聯(lián)盟和國際合作，合力遏制人工智能技術(shù)的破壞性影響。文化是指人工智能領(lǐng)域要逐漸形成一種遏制風(fēng)險(xiǎn)的審慎文化氛圍，特別是要坦誠一項(xiàng)新技術(shù)可能帶來的風(fēng)險(xiǎn)。公眾的力量是指需要公眾在各個(gè)層面的積極參與，包括對某項(xiàng)技術(shù)以及技術(shù)發(fā)展的各個(gè)環(huán)節(jié)施加必要的壓力，從而確保相關(guān)各方承擔(dān)相應(yīng)的責(zé)任；當(dāng)公眾共同要求變革，真正的改變就會發(fā)生。整體協(xié)調(diào)是確保上述九項(xiàng)措施能夠切實(shí)發(fā)揮作用�！岸糁啤笔且粋�(gè)各項(xiàng)措施相互強(qiáng)化、形成良性循環(huán)的過程。通過精心構(gòu)建并彼此銜接的反制措施，“遏制”會更加有力有效。
當(dāng)然，上述十項(xiàng)措施只是作者的一家之言，具體到實(shí)踐之中，哪些措施可以實(shí)施、哪些措施有效還要具體觀察。但毋庸置疑的是，人工智能浪潮在重塑人類社會發(fā)展進(jìn)程的同時(shí)，也帶來了迫在眉睫的挑戰(zhàn)。能否有效應(yīng)對挑戰(zhàn)，決定了此次技術(shù)浪潮是否誤入歧途。
雖然這本書的名字是“浪潮將至”，但實(shí)際上浪潮已至！我們正處于這浪潮之中，對于很多人來說，現(xiàn)在的感受似乎更多是這個(gè)浪潮所帶來的心理沖擊和新奇，尤其是人工智能帶給我們非常大的便利，我們也傾向于忽略其缺陷。現(xiàn)階段，技術(shù)猶如一根誘人的“胡蘿卜”，我們要關(guān)注技術(shù)是否會由“胡蘿卜”變?yōu)椤按蟀簟�。在發(fā)明、應(yīng)用技術(shù)的同時(shí)，更要注意其破壞性力量，確保技術(shù)能夠造福人類和我們所居住的星球。
孫樹強(qiáng)/文
