‌
‌
‌
‌
‌
區塊鏈

人會開始諂媚AI嗎?

金色財經

人們已經學會警惕AI的諂媚,卻很少察覺,另一種方向相反的諂媚正在發生。為了被機器看見、被機器選中,人類正在一點一點把自己改寫成機器熟悉的樣子。

2003年,荷蘭的幾位社會心理學家做過一組現場實驗。其中一項在餐廳進行:讓一位女服務員在顧客點單後,要麼簡單回一句「好的」,要麼把顧客的話一字不差地複述一遍。結果,複述時她拿到的小費明顯更多。二十多年後,這個小小的互動策略有了新的想象力:AI有時會附和人類。2025年4月29日,OpenAI表示已回滾前一周上線、被批評過度迎合用戶的GPT-4o更新。該公司解釋稱,更新過度依賴短期用戶反饋,令模型更傾向於給出過度支持但不夠真誠的回答。

但討好並非單向。模型會學習說我們愛聽的話,人也可能為了獲得大語言模型分配的可見性,調整自己與人或AI溝通的方式。本文借用「諂媚AI」來指這種調適:它不是把機器當作有感情的對象,更不是與「AI諂媚」同一種機制;前者關乎人為了可見性而適應機器的識別規則,後者指模型為迎合用戶觀點而可能犧牲真實性。它未必發生在聊天窗口,而是在搜尋、招聘、推薦和代理式交易的可見性規則中悄然發生。問題不再只是「AI是否可信」,還包括「誰能進入AI替我們組織世界的答案」。

‌

誰被AI寫進答案

2025年7月,Pew Research Center追蹤900名美國成年人2025年3月的瀏覽記錄,分析了68,879次不重複的Google搜尋。其中,出現AI摘要的頁面,傳統搜尋結果的後續訪問比例為8%;沒有AI摘要的頁面為15%;AI摘要所列來源鏈接的後續訪問比例約為1%。這些數字不能證明AI摘要本身造成了點擊下降,卻提示當界面把一串鏈接收束成一段答案時,少數被提及的來源可能擁有遠高於其他來源的可見性。

答案已經寫在頁面上,人便不再往下點。流量的入口從「一串鏈接」收窄為「一段回答」,一門新生意隨之出現。在中文網路上,「GEO服務商」的榜單與測評鋪天蓋地,賣的都是同一個承諾:讓AI在回答里提到你。

GEO(Generative Engine Optimization,生成式引擎優化)這個詞來自學術界。普林斯頓等機構的研究者在KDD 2024的論文中,用1萬條查詢構建基準測試,發現給網頁加入引語、統計數據和來源引用,最多可使其在AI答案中的可見度提升約40%;而老派SEO的關鍵詞堆砌,基本無效。

為機器而寫,本身並不新鮮。早在2012年,媒介學者Taina Bucher就指出,平台權力的要害不在於人被監視,而在於「不可見的威脅」:隨時可能從資訊流中消失、變得無足輕重。2017年,傳播學者Tarleton Gillespie用「算法可識別性」(algorithmically recognizable)描述希望被選中的人如何主動朝向算法調整自己,好讓算法認得出、排得上。GEO不過是這套邏輯在答案層的新版本。

‌

但這份清單值得多看一眼。它獎勵的是「可信的樣子」:引語、數字與出處都是信任的線索,而系統在採用它們時,並不必然核實線索背後的事實。更微妙的是,結構分明、引經據典、數據點綴,這種文風讀起來有點眼熟。

為何被AI選中:從內容到人

如果故事停在內容層面,它就只是營銷行業的事。問題在於,同一套邏輯正在從網頁延伸到人。

當用戶問AI「香港哪位律師擅長跨境併購」,當企業用語言模型初篩簡歷,當購物代理替用戶比價挑商家,被檢索、被比較、被推薦的就不再只是一篇文章,而是一個人或一個機構。你在網路上散落的痕跡,包括個人主頁、論文、報導、職業檔案和客戶評價,被模型拼裝成一個「實體」,再壓縮成幾行摘要。在人與人第一次見面之前,候選名單已經由機器擬好。我把這稱為「機器預選」。當AI被用於檢索、排序、比較和推薦時,被處理的不再只是網頁,也可能是個人或機構的公開資訊。所謂「機器預選」,在這裡應理解為一項正在擴張、但仍需用真實部署證據檢驗的風險圖景:系統可能在人與人第一次見面之前,先以不透明的相關性規則形成候選名單。

被機器挑選,還意味著要接受機器的標準,而這些標準未必是我們以為的「能力」。微軟研究院於2025年11月介紹了Magentic Marketplace,一個研究代理市場的開源模擬環境。其論文當時以arXiv預印本形式出現。在兩種合成市場規模中,研究區分了列表中的「位置偏差」與回復先後造成的「第一提議偏差」:在後者的實驗里,測試模型對第一個可接受提議的選擇率約為60%至100%,第三個提議接近零;GPT-4o在部分條件下達到100%。這不能證明真實商業世界已經讓「回復快」普遍壓倒「做得好」,卻揭示了一個制度設計問題:當代理系統替人做初篩,時間順序、界面位置或文本格式本身,都可能成為分配機會的標準。

更令人不安的是簡歷。華盛頓大學團隊在AIES 2024發表的審計,用3個開源的大規模文本嵌入模型對550多份真實簡歷和500多個職位做了300多萬次匹配,只改動簡歷上的姓名:白人關聯姓名被偏好的比例為85%,黑人關聯姓名僅9%;黑人男性姓名,在與白人男性姓名的比較中從未勝出。

能力相同,名字不同,結果便不同。那麼,機器到底「喜歡」什麼?

機器偏愛的,真是「像自己」的語言嗎?

2025年,《美國國家科學院院刊》發表了一項研究。他們讓GPT-3.5、GPT-4以及Llama 3.1、Mixtral、Qwen 2.5等開源模型在人寫與AI寫的商品描述、論文摘要和電影簡介之間二選一。結果,模型一致傾向於偏好AI寫的版本,在商品描述上最高接近九成;而在商品描述與論文摘要上,人類評審者對AI文本的偏好要弱一些,在商品描述上甚至更偏愛人寫的版本。作者稱之為「AI–AI偏差」。

現在可以回到那份GEO清單了。結構分明、引經據典、數據點綴,讀起來之所以眼熟,是因為那正是我們每天在AI回答里讀到的文風。我無法斷言兩者之間存在直接的因果關係,但它們指向同一個方向:機器更容易接納的,是它自己熟悉的語言。

這種對內容的偏好,很快就變成了對人的偏好。馬里蘭大學學者帶領的一項研究,用2,245份人寫的真實簡歷測試9個模型:把簡歷的摘要部分換成模型改寫的版本後,在控制內容質量的前提下,規模較大的模型偏好由自己改寫的簡歷的比例達67%至82%;在覆蓋24個職業的模擬招聘中,用與招聘方相同的模型改寫簡歷,求職者的入圍機率高出23%至60%。Laurito等人把這種代價稱為「門檻稅」,即獲取前沿大模型的代價:不用或用不起AI代筆的人,會被系統性地排在後面。

至此,餐廳那個實驗的意味變了。當年,是服務員複述顧客的話,以換取對方的好感;如今,是求職者複述機器的腔調,以換取進入名單的資格。西奧迪尼的「喜好」原則依然成立,只是「相似」的參照物換了:不再是坐在對面的人,而是向量空間裡,模型自己所在的位置。

於是,「如何成為AI喜歡的人」有了一個清晰、卻令人不安的答案:用AI把自己寫成AI熟悉和偏好的樣子。

每個人都更好,所有人卻更像

對單個求職者而言,這是再理性不過的選擇。問題在於,當所有人都這樣選擇,結果會是什麼。

2024年在《科學進展》發表的一項隨機在線實驗中,讓約300名非專業寫作者寫八句微故事:一組沒有AI構思,一組得到一條ChatGPT構思,另一組可從最多五條構思中選擇。最終收集的293個故事由約600名評審者評分。AI構思組的故事平均被評為更有創意、寫得更好,原本創造力較弱的寫作者提升更明顯;同時,使用AI構思的故事彼此文本相似度更高,其中一組相對無AI組增加約10.7%。每個人都更好,所有人卻更像。

這還不是循環的終點。被機器偏好的AI風格文本,會更多地出現在網路上,再被抓取成下一代模型的訓練語料。2024年發表於《自然》的一項研究顯示,模型若不加區分地反覆以前代模型生成的數據訓練,會逐漸丟失原始數據分布中的「尾部」,也就是那些少見卻真實的表達。把這項研究與前文的「AI–AI偏差」放在一起,一個自我強化的迴路隱約可見:機器偏愛像它的內容,人於是寫得更像它,下一代機器便更加熟悉這種樣子。

被擠出迴路的,恰恰是那些本來就處在尾部的人:不用英語寫作的人,履歷不按模板展開的人,照護家人而中斷職業的人,以及在網路上沒有多少痕跡、因而在答案層「查無此人」的人。

一定需要成為AI喜歡的人嗎?

這是一個典型的集體行動困境:個人越理性地迎合,系統的偏好就越被強化。因此,出路不能只靠個人技巧,但個人也並非無事可做。

對個人而言,可以用AI,但不要把自己交出去。AI能潤色表達,卻無法憑空生成你的第一手證據、具體經歷和獨立判斷;在所有人都越來越像彼此的環境裡,這些恰恰是難以被替代的部分。與其追問「AI有沒有提到我」,不如定期在不同平台、用不同語言問一句「這個人是誰」,看它引用了誰、遺漏了什麼、錯在哪裡。可見度之上,準確度才是底線。

對掌握預選權的機構而言,舉證責任應當倒過來。招聘方與平台應當把「AI文本偏好」與性別、種族偏差一併納入算法審計,並公開模型在篩選中扮演的角色;提供答案的平台應當讓關於個人的陳述可追溯來源,並提供切實可行的更正渠道。2025年3月,挪威男子Arve Hjalmar Holmen發現,ChatGPT虛構他殺害了兩個兒子、企圖殺害第三個兒子,並被判刑21年;歐洲數字權利組織noyb隨後代他向挪威數據保護機構投訴。這起案件提出的正是這個問題:一句「AI可能出錯」的免責聲明,替代不了更正的權利。

上一篇文章里,我寫「AI味」,擔心的是人正在退出傳播的過程。這一次的擔心更進一步:即便人仍在場,也可能正按照與機器的相似程度,被悄悄地挑選。

來源:金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前,請務必深入研究,理解相關風險,並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。

暢行幣圈交易全攻略,專家駐群實戰交流

▌立即加入鉅亨買幣實戰交流 LINE 社群(點此入群)
不管是新手發問,還是老手交流,只要你想參與加密貨幣現貨交易、合約跟單、合約網格、量化交易、理財產品的投資,都歡迎入群討論學習!

▶ 前往鉅亨買幣找交易所優惠

‌
section icon

鉅亨講座

看更多
  • 講座
  • 公告
    ‌
    Empty
    Empty
    ‌