一條關(guān)于辟謠和道歉的新聞 ,最終卻是AI幻覺帶來(lái)的謠言,這是AI時(shí)代的荒誕現(xiàn)實(shí)。
7月3日,一則《演員王一博案 ,判了》的新聞發(fā)酵,文章內(nèi)容提及,人工智能公司DeepSeek因內(nèi)容審核疏漏 ,就關(guān)聯(lián)不實(shí)信息向演員王一博道歉,還援引了刑事判決書 。隨后,#DeepSeek向王一博道歉#一度沖上熱搜。
目前這一新聞已被刪除,但仍然引發(fā)大量轉(zhuǎn)載。
上述文章提到“人工智能公司DeepSeek發(fā)布正式道歉 ” ,并提及“聲明”一詞 。但第一財(cái)經(jīng)查閱了目前DeepSeek所有官方渠道的賬號(hào),包括官網(wǎng)、公眾號(hào) 、知乎、小紅書、海外的X等,都未發(fā)現(xiàn)有新的動(dòng)態(tài)。
第一財(cái)經(jīng)也向公司進(jìn)行了求證 ,但截至發(fā)稿,未收到任何回復(fù)。
僅從新聞事實(shí)來(lái)看,網(wǎng)絡(luò)流傳演員王一博的消息 ,已被經(jīng)紀(jì)公司澄清,法院判定系謠言,而聲稱DeepSeek為傳謠道歉 ,則有諸多的不合理之處 。此次假新聞的信息中沒有任何一句明確指出DeepSeek的道歉渠道,聲明中所提及的法律判決書,在中國(guó)裁判文書網(wǎng)上檢索顯示無(wú)數(shù)據(jù)。
追溯“道歉”新聞源頭 ,或許來(lái)自于一則社交媒體中的帖子,但看圖片內(nèi)容可知,道歉的主體是“AI聊天助手DeepSeek ”。
值得一提的是,就在這些內(nèi)容的下方 ,就有顯著提示“本回答由AI生成,內(nèi)容僅供參考,請(qǐng)仔細(xì)甄別。”的字眼 ,但最后,這一由AI生成的道歉聲明,在傳播時(shí)逐漸演變成DeepSeek這家公司的道歉聲明 ,并被多家媒體傳播 。
AI生成的幻覺問題并非新鮮事,但最后演變成被廣泛傳播的新聞,值得引起重視和思考。
幻覺一直是大模型的難題 ,AI會(huì)編造看起來(lái)合理或可信的信息,但實(shí)際上是在“胡說(shuō)八道”,這種缺陷的根源來(lái)自技術(shù)局限和訓(xùn)練機(jī)制 ,大模型本質(zhì)是基于統(tǒng)計(jì)概率的文本生成器,通過(guò)海量數(shù)據(jù)學(xué)習(xí)詞語(yǔ)間的關(guān)聯(lián)規(guī)律,而非真正理解事實(shí)。
此外,若訓(xùn)練數(shù)據(jù)或網(wǎng)絡(luò)充斥錯(cuò)誤信息 ,模型也更有可能輸出錯(cuò)誤答案 。導(dǎo)致典型的“Rubbish in, Rubbish out ”(垃圾進(jìn),垃圾出)效應(yīng)。
在第一財(cái)經(jīng)詢問DeepSeek關(guān)于AI的幻覺時(shí),它給了一個(gè)有趣的比喻:大模型像戴著碎鏡片的先知 ,鏡子(訓(xùn)練數(shù)據(jù))里有什么它就反射什么,但鏡片破損處(數(shù)據(jù)缺失)就會(huì)自己用彩色玻璃填補(bǔ)(生成幻覺)。
實(shí)際上,這一年隨著大模型能力的提高 ,幻覺問題有所緩解 。此前5月底,DeepSeek發(fā)布了新版DeepSeek R1,官方提到專門針對(duì)“幻覺”問題進(jìn)行了優(yōu)化 ,更新后的模型在改寫潤(rùn)色 、總結(jié)摘要、閱讀理解等場(chǎng)景中,與舊版相比幻覺率降低了 45%-50% 左右。
此前DeepSeek的幻覺率并不低,也被不少用戶和開發(fā)者所討論。5月15日 ,SuperCLUE曾發(fā)布最新一輪中文大模型忠實(shí)性幻覺測(cè)評(píng)結(jié)果,顯示此前的DeepSeek-R1模型幻覺率在21%左右,在測(cè)評(píng)的國(guó)內(nèi)模型中排名第五 。
目前看來(lái)AI幻覺仍然很難避免。AI往往會(huì)捏造人物、事件,或者偽造法律條文 ,需要用戶甄別。而對(duì)媒體機(jī)構(gòu)來(lái)說(shuō),當(dāng)AI的“碎鏡片”越來(lái)越難被一眼識(shí)破,作為信息“把關(guān)人”的嚴(yán)謹(jǐn)性與責(zé)任感 ,在AI時(shí)代就變得更為重要 。這起烏龍事件,是一面映照信息生態(tài)脆弱性的鏡子。
最后,第一財(cái)經(jīng)也詢問了DeepSeek ,是否就不實(shí)信息向王一博道歉了,它目前給出的回復(fù)是否認(rèn)道歉,但生成的內(nèi)容里仍有很多幻覺。
例如稱“針對(duì)謠言DeepSeek法務(wù)團(tuán)隊(duì)已啟動(dòng)取證 ” ,并提到可以通過(guò)郵箱“official@deepseek.com”進(jìn)行謠言舉報(bào),但第一財(cái)經(jīng)查詢官網(wǎng)發(fā)現(xiàn)DeepSeek官方并沒有這一郵箱,官方郵箱前綴是“service”。
(文章來(lái)源:第一財(cái)經(jīng))
佳禾資本:配資安全證券配資門戶-國(guó)內(nèi)首場(chǎng)機(jī)器人足球3v3 AI賽落幕 清華大學(xué)火神隊(duì)奪冠
千層金配資:配資門戶公司官網(wǎng)-發(fā)行規(guī)模超8000億!年內(nèi)“二永債”發(fā)行熱度依然 農(nóng)商行卻同比銳減
線上股票配資公司:配資頭條官網(wǎng)首頁(yè)-金域醫(yī)學(xué)(603882.SH)“巨虧”還分紅?最底層邏輯可能在這
紅騰網(wǎng)配資:股票配資門戶是什么-創(chuàng)業(yè)板綜合指數(shù)編制優(yōu)化 樣本股質(zhì)量和指數(shù)可投性提升
金河配資:線上股票配資平臺(tái)-美越貿(mào)易協(xié)議解讀:如何理解40%轉(zhuǎn)運(yùn)關(guān)稅?零關(guān)稅又意味著什么?
寶利配資:配資門戶首頁(yè)地址-滬指小陽(yáng)星再創(chuàng)年內(nèi)新高 向上攻勢(shì)能否持續(xù)?