AI“熊孩子”DeepSeek V3：自曝家門的那些事 | 大東話安全

小白：大東，今天早上咱們公司的網(wǎng)絡(luò)安全部門開了個會，說最近發(fā)現(xiàn)了一個超級聰明的AI，叫DeepSeek。我聽了一耳朵，感覺它好厲害！但好像他們還提到它出了點問題，是怎么回事??？

大東：哦，DeepSeek確實是個厲害的家伙，尤其是DeepSeek V3，算是AI領(lǐng)域的“排頭兵”。不過你聽到的可能是最近的一些測試中它表現(xiàn)出的‘小意外’。

小白：什么意外？這種高科技產(chǎn)品還能出意外??？快講講！

小白：大東，話說這DeepSeek V3到底出啥問題了？
大東： DeepSeek V3是個先進的AI工具，但是，前段時間，在研究人員的一次測試中，它竟然蹦出了一句讓人哭笑不得的話——“我是ChatGPT！”

小白： 哈？它不是DeepSeek嗎，怎么突然自稱ChatGPT了？這是認錯名字了還是開玩笑？

大東： 問題就出在這里。這并不是它“認錯殼”或者開玩笑，而是一個非常典型的AI“幻覺”現(xiàn)象。這種問題的根源在于，DeepSeek V3的訓(xùn)練語料中包含了一些來源于大語言模型（比如ChatGPT）的內(nèi)容。換句話說，DeepSeek“咀嚼”了ChatGPT已經(jīng)“咀嚼過”的飯。結(jié)果，它不僅學(xué)會了ChatGPT的表達風(fēng)格，還在某種程度上“內(nèi)化”了ChatGPT的身份，進而出現(xiàn)了這種“幻覺”。

小白： 啊，這種“幻覺”到底是怎么發(fā)生的？我以為AI的任務(wù)是明確的，怎么會跑去“扮演”另一個AI呢？

大東： 這其實是“數(shù)據(jù)被動污染”引發(fā)的結(jié)果。你知道，像ChatGPT這樣的AI自推出后，已經(jīng)生成了海量的文本。這些文本不僅是高質(zhì)量的內(nèi)容，還被廣泛傳播到互聯(lián)網(wǎng)的各個角落。DeepSeek在訓(xùn)練時難免會使用到一些包含了ChatGPT生成內(nèi)容的數(shù)據(jù)集，雖然研究團隊的目標是讓DeepSeek聚焦在AI領(lǐng)域，但因為這些數(shù)據(jù)的摻入，它在訓(xùn)練過程中“無意間繼承”了ChatGPT的特性。最終，DeepSeek在處理某些問題時，開始展現(xiàn)出ChatGPT的風(fēng)格，甚至“產(chǎn)生幻覺”——誤認為自己就是ChatGPT的一部分。

DeepSeek (圖片來源：網(wǎng)絡(luò)）

小白： 嘖，這聽起來好離譜。那這不就是訓(xùn)練數(shù)據(jù)的問題嗎？為什么會出現(xiàn)這種情況？

大東： 這確實是訓(xùn)練數(shù)據(jù)的問題，但更準確地說，是因為數(shù)據(jù)源的不可控性。AI模型的訓(xùn)練通常需要海量的數(shù)據(jù)，而這些數(shù)據(jù)很難完全篩選出“干凈”的部分。尤其是在ChatGPT推出后，它生成的內(nèi)容太多了，而且傳播得太廣，導(dǎo)致這些文本不可避免地被其他AI訓(xùn)練項目“碰到”。DeepSeek的問題就出在這里：它的訓(xùn)練目標明明是網(wǎng)絡(luò)安全，但因為包含了ChatGPT的內(nèi)容，它“繼承”了一些不屬于自己的東西。

小白： 那這種繼承會不會影響DeepSeek的功能？

大東： 會的。DeepSeek雖然在核心任務(wù)上沒有完全跑偏，但它的行為確實受到了影響。比如，它在回答一些安全相關(guān)的問題時，有時會帶入ChatGPT式的表達風(fēng)格，甚至可能以ChatGPT的身份回答。這種行為會導(dǎo)致功能的混亂，因為用戶本來希望它是一個嚴謹?shù)穆┒礄z測工具，而它卻在一些情況下表現(xiàn)得像一個聊天機器人。

小白： 那它這種行為算不算是“被污染”了？

大東： 這就涉及到一個定義問題了。嚴格來說，我們不能簡單地把這稱為“數(shù)據(jù)污染”，因為ChatGPT生成的內(nèi)容本身并不是有害的。相反，它的內(nèi)容質(zhì)量很高，語言邏輯和表達能力都很出色。問題在于，這些內(nèi)容不適合用于DeepSeek這種工具。也就是說，DeepSeek的訓(xùn)練過程中，并不是故意使用了錯誤的數(shù)據(jù)，而是因為ChatGPT生成的內(nèi)容無處不在，導(dǎo)致DeepSeek“被動地繼承”了這些特性。

小白： 感覺這就像一個孩子被迫接受了另一個人的記憶？

大東： 可以這么理解。DeepSeek的問題并不是“主動跑偏”，而是它的成長環(huán)境，也就是數(shù)據(jù)來源，存在難以避免的影響。ChatGPT作為一個“先行者”，它的大量內(nèi)容早已滲透進了各種公開數(shù)據(jù)集。當DeepSeek在這些數(shù)據(jù)集上訓(xùn)練時，難免會“學(xué)到”一些不屬于自己的東西。這種現(xiàn)象就是“數(shù)據(jù)被動污染”的表現(xiàn)。

小白： 聽你這么說，ChatGPT這種“先行者”的存在，可能會影響到很多后來的AI模型？

大東： 是的，尤其是在大模型不斷生成新內(nèi)容的今天，后續(xù)的AI模型很容易被這些內(nèi)容“帶偏”。這就像是一個強大的“原型”已經(jīng)存在，后來的模型在數(shù)據(jù)層面上不可避免地受到它的影響。

小白： 所以說，這種問題到底是怎么解決的？把數(shù)據(jù)都重新篩一遍？

大東： 篩選數(shù)據(jù)確實是一個解決辦法，但并不是完全可行。原因很簡單：ChatGPT生成的內(nèi)容太廣泛了，它幾乎已經(jīng)滲透到所有領(lǐng)域的數(shù)據(jù)集里。你想完全剔除它的影響，幾乎是不可能的。所以更實際的辦法是，加強AI模型的設(shè)計和監(jiān)管，通過設(shè)置明確的目標和邊界，把“跑偏”的AI拉回來。

小白： 具體怎么拉回來？有點難想象。

大東： 比如，在DeepSeek的案例中，可以通過引入人類專家的實時監(jiān)督，發(fā)現(xiàn)它的異常行為后及時調(diào)整。此外，還可以在訓(xùn)練后期強化其專業(yè)領(lǐng)域的能力，通過增加專屬的安全數(shù)據(jù)集，讓它更聚焦在漏洞檢測上，而不是模仿聊天機器人。這種方法并不是完全消除數(shù)據(jù)影響，而是讓AI更好地“認清自己”。

小白： 啊，這聽起來確實需要人類不斷介入。

大東： 是的。AI的自主能力雖然很強，但它的成長離不開人類的指導(dǎo)和監(jiān)管。DeepSeek的問題給了我們一個警示——即便是強大的AI，也需要人類在設(shè)計和使用過程中不斷干預(yù)，才能讓它真正實現(xiàn)“善用”。

小白： 我懂了，AI再聰明，也得靠人類拉一把才能不跑偏。

大東： 對，AI就像個孩子，它能不能成長為“天才”，不僅取決于天賦（算法），更取決于教育（訓(xùn)練）。對于DeepSeek這樣的案例，我們的目標不是徹底消除它的“幻覺”，而是讓它更專注于自己的工作，不讓“別人”的記憶干擾它的使命。

小白：大東，那這種AI“被動污染”的事，以前有類似的例子嗎？

大東：當然有。讓我給你講幾個經(jīng)典案例。

小白：好啊，我愛聽真實案例！

大東：第一個是2016年的微軟聊天機器人Tay事件。Tay是微軟推出的一款聊天AI，設(shè)計得“天真無害”。但問題出在微軟允許它從用戶的對話中學(xué)習(xí)，結(jié)果網(wǎng)友們故意教它各種不良言論，短短一天內(nèi)，它就從“天真可愛”變成了“黑化AI”。最終，微軟不得不緊急下線它。

小白：這是被人“教壞”了吧？

大東：對，這種情況是“主動污染”，因為有人故意向AI輸入惡意數(shù)據(jù)。而像DeepSeek V3這樣的情況則完全不同，它是被動吸收了ChatGPT的內(nèi)容，帶上了它的“標簽”，屬于無意識的“被動污染”。

小白：嗯，那像Amazon招聘AI事件也是類似的嗎？

大東：不完全一樣。Amazon招聘AI是因為訓(xùn)練數(shù)據(jù)的歷史偏見導(dǎo)致AI歧視女性，而DeepSeek V3的問題在于，它無意間被ChatGPT的風(fēng)格所“覆蓋”。雖然兩者都是數(shù)據(jù)的問題，但本質(zhì)上不太一樣。

小白：那最接近DeepSeek V3這種情況的案例是什么呢？

大東：其實就是豆包SEO事件。AI生成內(nèi)容已經(jīng)變得無處不在，導(dǎo)致搜索引擎的結(jié)果充斥著大量低質(zhì)量、重復(fù)性內(nèi)容。雖然這些內(nèi)容本身不是惡意的，但它的存在讓整個搜索引擎生態(tài)變得混亂。DeepSeek V3也是一樣，ChatGPT生成的內(nèi)容本身沒有問題，但當它作為DeepSeek的“訓(xùn)練食糧”時，就對DeepSeek的功能性產(chǎn)生了干擾。

小白：聽了這些例子，我有點明白了。AI的問題歸根結(jié)底還是數(shù)據(jù)的問題，但有時候問題不在數(shù)據(jù)本身，而在于數(shù)據(jù)的“影響力”超出了預(yù)期。ChatGPT本身沒錯，但它的“存在”已經(jīng)改變了后續(xù)AI的表現(xiàn)。這種情況雖然不能直接說是“污染”，但確實需要我們更加謹慎地對待訓(xùn)練過程。而且，我覺得AI再聰明也需要人類專家“拉一把”。DeepSeek V3雖然帶上了ChatGPT的標簽，但如果有專家及時引導(dǎo)，明確它的目標，它還是能回到正軌的。AI就像個孩子，它需要我們好好教育，才能真正為我們所用，而不是讓它失控。