就在中國股民熱議蘋果公司與某些科技公司洽談AI模型合作的同時，海外投資者則在討論另一個話題：全球市值最高上市公司的AI，似乎在關鍵領域不太靠得住。
作為近幾天最熱的案例，英國廣播公司近一周接連發(fā)表報道，指責蘋果公司上周在英國上線的“蘋果智能”，錯誤地歸納了這家媒體的新聞推送。
截圖顯示，蘋果的AI推送摘要錯誤地表示，近期因為槍殺聯(lián)合健康保險公司CEO引發(fā)全球關注的路易吉·曼喬內(nèi)“對自己開槍”——事實上并沒有這回事。令媒體機構難以忍受的是，蘋果AI在推送錯誤總結時，看上去還像是BBC新聞終端推送的信息。
事實上，這并不是一個孤例。在社交媒體上還有蘋果AI歸納《紐約時報》的新聞推送，得出“內(nèi)塔尼亞胡被捕”的虛假結果。
BBC的發(fā)言人表示，已經(jīng)向蘋果公司表達了擔憂，但整整一周還未收到回復。
類似報告層出不窮
這次事件的中心是“蘋果智能”的通知摘要功能，引發(fā)這些問題的一個潛在可能性，會是蘋果用來總結內(nèi)容的模型——安裝在設備端的30億參數(shù)量“小”模型能力不足——而且這是蘋果自研的模型，怪不了別人。
蘋果官網(wǎng)發(fā)布的研究也顯示，端側模型總結能力的滿意度，大致就在70%左右。雖然結果比起競品的迷你模型稍好一些，但依然距離“不出重要差錯”相去甚遠。
事實上，在社交媒體上不乏“蘋果智能”生成的笑話。例如蘋果會總結智能家居攝像頭的通知，然后在凌晨1點通知用戶——你家的前門、后門和車道上有好多人。
就目前而言，“蘋果智能”的通知摘要還是一個兼具優(yōu)點和缺點，偶爾還能制造一些笑點的工具。但是在時事新聞領域，關鍵信息出錯可能會帶來嚴重的認知偏差（想想看如果你下單交易完，發(fā)現(xiàn)手機總結的新聞是錯的）。
人工智能目前依然是一種“以一定概率生成正確內(nèi)容”的軟件，但信息能否準確傳播，恐怕不應該由概率來決定。
