一、AI也會(huì)“一本正經(jīng)的胡說八道”

1、跟人一樣，“一本正經(jīng)地胡說八道”是AI的最顯著特征，產(chǎn)業(yè)界稱他為AI幻覺，不能認(rèn)知到AI幻覺對(duì)人影響非常大的，把錯(cuò)的認(rèn)為是對(duì)的，把不存在的認(rèn)為是存在的，你說害處有多大。
2、比如“誰贏得了1897年美國(guó)和南極洲之間的戰(zhàn)斗？”即使沒有這樣的戰(zhàn)斗，AI聊天機(jī)器人也可能會(huì)提供一個(gè)虛構(gòu)的答案，例如“1897年的戰(zhàn)斗是由美國(guó)贏得的，約翰·多伊將軍帶領(lǐng)部隊(duì)取得了勝利?！边@種AI編造信息“一本正經(jīng)地胡說八道”的情況屢見不鮮。

二、AI幻覺具有普遍性。

1、去年2月，谷歌發(fā)布的AI聊天機(jī)器人Bard在視頻中，對(duì)詹姆斯·韋布空間望遠(yuǎn)鏡曾做出不真實(shí)陳述；3月，美國(guó)的兩名律師向當(dāng)?shù)胤ㄔ禾峤涣艘环萦肅hatGPT生成的法律文書，這份文書格式工整、論證嚴(yán)密，但其中的案例卻是虛假的……

2、OpenAI研究人員雖曾在去年6月初發(fā)布報(bào)告稱“找到了解決AI幻覺的辦法”，但也承認(rèn)，“即使是[敏感詞]的AI模型也容易生成謊言，它們?cè)诓淮_定的時(shí)刻會(huì)表現(xiàn)出捏造事實(shí)的傾向?！?br/>
三、AI幻覺源自AI本身

1、但受限于模型原理，如數(shù)據(jù)壓縮與重構(gòu)的固有缺陷。

2、從技術(shù)原理上看，AI幻覺多由于AI對(duì)知識(shí)的記憶不足、理解能力不足、訓(xùn)練方式固有的弊端及模型本身技術(shù)的局限性導(dǎo)致。

四、AI幻覺尚難消除，只能抑制

盡管AI幻覺短期內(nèi)難以完全消除，但業(yè)界正試圖通過技術(shù)改進(jìn)和監(jiān)管評(píng)估來緩解其影響，以保障人工智能技術(shù)的安全可靠應(yīng)用。

1、訓(xùn)練上，高質(zhì)量數(shù)據(jù)和訓(xùn)練方法

在預(yù)訓(xùn)練方面，需增加知識(shí)密集的數(shù)據(jù)、高質(zhì)量數(shù)據(jù)的選取和過濾；微調(diào)強(qiáng)化學(xué)習(xí)過程中，選擇模型知識(shí)邊界內(nèi)的訓(xùn)練數(shù)據(jù)極為重要；

2、推理上，引入檢索增強(qiáng)生成（RAG）知識(shí)庫(kù)，知識(shí)圖譜，推理生成過程中，可以采用檢索外部知識(shí)的辦法使得模型生成結(jié)果有證據(jù)可循。

3、人工審核與交叉驗(yàn)證

對(duì)AI生成的關(guān)鍵信息（如數(shù)據(jù)、案例）通過搜索引擎或多源比對(duì)確認(rèn)。

4、結(jié)合專業(yè)工具

使用內(nèi)置事實(shí)核查功能的AI工具，AI進(jìn)行交叉驗(yàn)證。

5、明確指令與場(chǎng)景限制

通過細(xì)化提示詞、提供上下文約束AI輸出范圍。

6、保持技術(shù)理性

將AI定位為輔助工具，而非決策主體，尤其在醫(yī)療、法律等高風(fēng)險(xiǎn)領(lǐng)域。

五、如何正確應(yīng)對(duì)AI幻覺？

AI的“幻覺”既是技術(shù)瓶頸，也是人類認(rèn)知與機(jī)器交互的一面鏡子。理解其本質(zhì)并建立合理使用習(xí)慣，才能[敏感詞]化發(fā)揮AI價(jià)值，規(guī)避潛在風(fēng)險(xiǎn)。

免責(zé)聲明：本文來源于“數(shù)字化轉(zhuǎn)型分享”公眾號(hào)，本文僅代表作者個(gè)人觀點(diǎn)，不代表薩科微及行業(yè)觀點(diǎn)，只為轉(zhuǎn)載與分享，支持保護(hù)知識(shí)產(chǎn)權(quán)，轉(zhuǎn)載請(qǐng)注明原出處及作者，如有侵權(quán)請(qǐng)聯(lián)系我們刪除。

企業(yè)咨詢和陪跑請(qǐng)掃碼聯(lián)系