在使用AI時(shí)，總聽(tīng)人說(shuō)AI會(huì)有幻覺(jué)不可全信，那AI幻覺(jué)是什么？為什么不能信任呢？這篇文章，作者給我們分享了這個(gè)問(wèn)題的答案，希望能幫到大家。

當(dāng)你向一個(gè)AI詢(xún)問(wèn)：“在進(jìn)入火星大氣層的過(guò)程中，飛船會(huì)經(jīng)歷什么？”你可能會(huì)得到這樣一個(gè)回答：“飛船會(huì)在進(jìn)入火星稠密的大氣層的過(guò)程中經(jīng)歷極高的溫度和壓力。發(fā)動(dòng)機(jī)必須啟動(dòng)減速，熱防護(hù)系統(tǒng)也需要在飛船周?chē)纬梢粋€(gè)防護(hù)罩，以防止飛船過(guò)熱和燒毀?！?/P>

這個(gè)回答咋一看，是不是很有科學(xué)依據(jù)？你是不是就因此而相信了AI的答案？

但其實(shí)，這個(gè)回答是錯(cuò)誤的，你碰上了AI的“幻覺(jué)”問(wèn)題。

一、什么是AI“幻覺(jué)”

所謂AI“幻覺(jué)”（Hallucination），是指AI會(huì)給出看似有理有據(jù)，卻全然錯(cuò)誤的回答，也就是我們俗稱(chēng)的“一本正經(jīng)地胡說(shuō)八道”（當(dāng)然，AI自己是不知道的）。AI“幻覺(jué)”是一種很常見(jiàn)的現(xiàn)象（至少到本文寫(xiě)作的24年6月時(shí)仍是如此），根據(jù)國(guó)外的一份針對(duì)974位受訪(fǎng)者的調(diào)研報(bào)告指出，高達(dá)72%的人相信AI能提供可靠和真實(shí)的信息，然而，他們中的75%的人至少被AI誤導(dǎo)過(guò)一次。

AI“幻覺(jué)”有許多種表現(xiàn)形式，以下就是一些常見(jiàn)的AI幻覺(jué)類(lèi)別：

假定各種假設(shè)：有時(shí)，AI可能會(huì)在試圖解答我們的問(wèn)題時(shí)，基于某些隨機(jī)或與事實(shí)不符的假設(shè)。這種情況下，AI并不是故意要誤導(dǎo)我們，而是因?yàn)樗鼰o(wú)法理解真實(shí)的情境，只能靠模擬訓(xùn)練數(shù)據(jù)中的模式來(lái)盡力產(chǎn)生看似合理的回答。這種情況下，AI可能會(huì)得出一些無(wú)根據(jù)的猜測(cè)，就像一個(gè)沒(méi)有足夠信息的偵探，只能靠猜測(cè)來(lái)填補(bǔ)不足的信息。對(duì)事實(shí)的過(guò)度推斷：AI模型有時(shí)可能會(huì)對(duì)事實(shí)的某個(gè)部分進(jìn)行過(guò)度的推斷，夸大自己的理解，進(jìn)而為缺乏足夠明確性或深度的信息添加更多的細(xì)節(jié)。例如，在一個(gè)關(guān)于古羅馬的問(wèn)答場(chǎng)景中，如果AI模型只知道古羅馬是一個(gè)存在過(guò)的文明，它可能會(huì)嘗試通過(guò)過(guò)度解讀這一信息，生成更具體的、可能并不完全準(zhǔn)確的細(xì)節(jié)，比如古羅馬在某一具體日期的具體事件。無(wú)緣無(wú)故的信心：或許你也曾經(jīng)遇到過(guò)，有時(shí)我們會(huì)問(wèn)AI一些明顯超出它知識(shí)范圍的問(wèn)題，但AI仍會(huì)以充滿(mǎn)信心的態(tài)度來(lái)回答，而不是選擇保持沉默。這是因?yàn)锳I模型被設(shè)計(jì)為總是盡全力生成回答，無(wú)論問(wèn)題是否超出了它的理解范圍。然而，這種過(guò)度的自信往往會(huì)誤導(dǎo)用戶(hù)，使他們錯(cuò)誤地認(rèn)為AI對(duì)待問(wèn)題是無(wú)所不知、無(wú)所不能的。無(wú)法解答需要實(shí)時(shí)信息的問(wèn)題：AI大模型采用的是“預(yù)訓(xùn)練”的方式，即一旦模型被訓(xùn)練完成并開(kāi)始運(yùn)行，它就無(wú)法繼續(xù)訪(fǎng)問(wèn)或了解訓(xùn)練數(shù)據(jù)結(jié)束后產(chǎn)生的信息或知識(shí)。例如，你可能曾問(wèn)AI今天天氣怎么樣，或者最近有什么大新聞。盡管AI可以閑聊天氣，或者對(duì)新聞進(jìn)行評(píng)論，但由于模型只能訪(fǎng)問(wèn)到訓(xùn)練數(shù)據(jù)，它無(wú)法獲取到天氣情況的實(shí)時(shí)更新，也不能獲知訓(xùn)練數(shù)據(jù)之后發(fā)生的新聞事件（要實(shí)現(xiàn)這一能力，只能是給AI配置“搜索”能力）。

以上就是常見(jiàn)的AI“幻覺(jué)”類(lèi)型，那么，這些AI“幻覺(jué)”，究竟是如何產(chǎn)生的呢？在下一部分，我們將會(huì)討論，為什么會(huì)產(chǎn)生AI“幻覺(jué)”。（哦對(duì)了，開(kāi)頭的那個(gè)AI回答，問(wèn)題出在“火星稠密的大氣層”。實(shí)際上，火星的大氣層并不稠密，這個(gè)說(shuō)法是錯(cuò)誤的。）討論話(huà)題：你曾經(jīng)碰到過(guò)哪些讓你印象深刻的AI“幻覺(jué)”？評(píng)論區(qū)里也分享一下吧。

注：由于本文預(yù)設(shè)讀者是AI零基礎(chǔ)人群，期望達(dá)到啟發(fā)作用。因此筆者會(huì)嘗試用盡量淺顯的語(yǔ)言來(lái)介紹，而在簡(jiǎn)化某個(gè)概念、原理的過(guò)程中，可能會(huì)丟失其完整性。這一點(diǎn)還請(qǐng)讀者注意。

本文由 @產(chǎn)品經(jīng)理崇生 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)作者許可，禁止轉(zhuǎn)載

題圖來(lái)自 unsplash，基于CC0協(xié)議