當(dāng)前，全球各大企業(yè)均在以前所未有的熱情擁抱AI，但與AI伴生的安全問(wèn)題，正引發(fā)更多擔(dān)憂。
近日，鄔江興告訴新浪財(cái)經(jīng)《WeTalk》欄目，“不是90%的大模型不可信，而是100%的大模型都不安全、不可信”。他建議人們不要只相信單一大模型，而是“要相同的問(wèn)題，多問(wèn)幾個(gè)模型”。
他指出，每一個(gè)模型都是相對(duì)可信，但都存在缺陷，“你要想它沒缺陷，這個(gè)是不科學(xué)的”。
以下為《WeTalk》與鄔江興對(duì)話部分內(nèi)容：
“100%大模型不可信，不要信任何一個(gè)大模型”
新浪財(cái)經(jīng)：你們之前測(cè)試表明，90%的大模型都不可信任，現(xiàn)在這個(gè)結(jié)果有沒有一些改進(jìn)了？可信度提升了嗎？
鄔江興：不是90%不可信，是100%都是不安全的，它沒有絕對(duì)的安全，100%都是不可信的。
它要通過(guò)必要多樣性去表達(dá)，通過(guò)相對(duì)可信，而不是去追求絕對(duì)可信，絕對(duì)可信是沒有的。所以每一個(gè)模型都是相對(duì)可信，都是存在缺陷，你要想它沒缺陷，這個(gè)是不科學(xué)的。但是我可以用這些帶有缺陷的模型，按照內(nèi)生安全構(gòu)造構(gòu)成一個(gè)相對(duì)可信的環(huán)境，他得到的結(jié)論，就要比大多數(shù)模型可信得多。
所以說(shuō)以后人工智能應(yīng)用的時(shí)候，你們千萬(wàn)不要說(shuō)我只用一個(gè)文心一言，用一個(gè)豆包等。把問(wèn)題多問(wèn)幾個(gè)模型，然后你自己來(lái)處理。當(dāng)然，如果是內(nèi)生安全的系統(tǒng)，我們自動(dòng)可以來(lái)給你處理。
一個(gè)人，兼聽則明，偏信則暗。道理是一樣，不要去信某一個(gè)模型，可以有多幾個(gè)模型，同一個(gè)問(wèn)題向幾個(gè)模型一起問(wèn)，然后他們里面共同的一部分是可信的，不同的部分你要判斷。
“用AI解決AI安全問(wèn)題，這是個(gè)偽命題”
新浪財(cái)經(jīng)：您之前提過(guò)AI存在“三不可”問(wèn)題，那該如何讓AI更可用呢？
鄔江興：AI運(yùn)行不能去靠某一個(gè)大模型，不能是必要的關(guān)系，應(yīng)該有多個(gè)大模型，然后讓他們按照內(nèi)生安全的構(gòu)造連接起來(lái)，有相對(duì)正確的工藝，有所謂的共識(shí)機(jī)制，讓我們可以來(lái)判斷。也就是當(dāng)一個(gè)數(shù)據(jù)輸入時(shí)，多個(gè)模型因?yàn)榇嬖诠沧R(shí)機(jī)制，所以肯定不會(huì)辦指鹿為馬的事，如果有個(gè)模型真的出來(lái)指鹿為馬了，其他模型也可以判斷出它是指鹿為馬，不會(huì)讓我們以為這就是馬。 控制論的第一性原理叫必要多樣性，沒有必要多樣性就沒有穩(wěn)定的控制，每一種單一的東西都可能是不完美的，哥德爾不完全性定理同樣指出，任意一個(gè)包含一階謂詞邏輯與初等數(shù)論的形式系統(tǒng)，既不能被證明為真也不能被證明為否，也就是說(shuō)我們想用AI去解決AI的安全問(wèn)題，都會(huì)是個(gè)偽命題。 我現(xiàn)在的解決方法是什么？我可以用多個(gè)AI模型，因?yàn)樗麄兇嬖趦r(jià)值對(duì)齊，所以他不能胡說(shuō)八道，各個(gè)模型中間會(huì)有很多多樣性和特殊性，因?yàn)槔昧诉@些多樣性和特殊性，也就知道你攻擊了哪個(gè)模型，同時(shí)其他模型也不會(huì)受到影響。就是說(shuō)你想一槍打多只鳥的可能性沒有了，這樣的話就極大地提高了應(yīng)用系統(tǒng)給出結(jié)論的安全性。
“閉源的單一模型，一定是不安全的”
新浪財(cái)經(jīng)：這是否也意味著，一些商業(yè)機(jī)構(gòu)說(shuō)自己的模型是閉源的，所以更先進(jìn)，這其實(shí)是個(gè)偽命題呢？
鄔江興：這一定是有問(wèn)題的，單一性一定是有問(wèn)題的，閉源帶來(lái)不了安全性，因?yàn)樗绻獾狡茐�，單一的破壞就可能造成全部破壞，而�?dāng)我們說(shuō)必要多樣性時(shí)，你能破壞A的時(shí)候，你不可能同時(shí)破壞B、C、D。
物理世界的統(tǒng)一性和物質(zhì)世界的多樣性是怎么表達(dá)的？他要求的是生物多樣性，也就是說(shuō)某種生物可能會(huì)在某種災(zāi)難后消失掉，但由于生物的必要多樣性，能保證整個(gè)地球生物的生態(tài)不會(huì)因?yàn)槟硞�(gè)物種的消失而完蛋，但如果是一個(gè)同質(zhì)化的物種，很可能在未來(lái)的演化和進(jìn)化過(guò)程中，遭遇不測(cè)的時(shí)候就滅絕了。
新浪財(cái)經(jīng)：類似于群策群力、人多力量大？
鄔江興：開源不光是群策群力，他還有多種多樣性。我們現(xiàn)在搞AI的人，總是想辦法把一個(gè)AI搞得安全，在理論上這是不成立的，沒有絕對(duì)安全的東西，只有相對(duì)安全。
新浪財(cái)經(jīng)：您之前提出了一個(gè)多樣動(dòng)態(tài)異構(gòu)冗余架構(gòu)，這是您理念的具體載體嗎？
鄔江興：這是一個(gè)設(shè)計(jì)結(jié)構(gòu)，就像我們的可靠性系統(tǒng)中，它要求你設(shè)計(jì)成主備或者是動(dòng)態(tài)備份和靜態(tài)備份，這個(gè)動(dòng)態(tài)異構(gòu)冗余是指你的一個(gè)信息系統(tǒng)或者一個(gè)大模型系統(tǒng)，你要把它設(shè)計(jì)成這樣的一個(gè)架構(gòu)，來(lái)按照這個(gè)架構(gòu)就能得到安全性，它現(xiàn)在是一個(gè)框架的形式。
