AI 越懂你越好嗎？一項心理健康 AI 研究揭露「個人化」最麻煩的界線

當你對 AI 說「我最近很累」，它究竟需要知道多少關於你？

假設兩個人同時對 AI 說：

「我最近壓力很大，跟家人的關係也不好。」

從純文字來看，兩個問題幾乎完全相同。

但背後可能是截然不同的人生。

一個人可能正在第一次離家念大學；另一個人可能需要負擔家庭經濟。一個人的家庭把心理治療視為正常醫療；另一個人的家庭可能對精神疾病存在強烈污名。一個人可以直接和父母討論焦慮；另一個人甚至不能讓家人知道自己正在尋求心理協助。

如果 AI 對所有人回答完全相同的：

「試著和家人坦誠溝通。」

這句話本身可能沒有錯。

但它也可能完全沒有理解問題。

這正是 2026 年 10 月發表於 arXiv 的研究 《Co-Designing AI For Mental Health Support With Young Adults of Color (YOC): Needs, Expectations, and Implications for AI Literacy》 想處理的問題。

研究團隊沒有單純測試哪個 LLM benchmark 比較高，也不是要證明 AI 可以治療憂鬱症。

他們問了一個更貼近日常使用的問題：

當年輕人真的開始使用 AI 處理心理健康與 well-being 問題時，他們究竟希望 AI 怎麼理解自己？

答案比「模型知道越多越好」複雜得多。

---

研究不是問 AI 能不能當心理師，而是讓使用者參與設計

這是一項 Human-Computer Interaction（HCI）與 co-design 研究。

研究團隊邀請 13 名 18 至 24 歲的 Young Adults of Color（YOC），參與者包含 Asian、Black，以及 Hispanic/Latino/a 年輕成人，進行為期兩天的共同設計工作坊。

這種研究和大型隨機對照試驗的目的完全不同。

研究者不是把數千人分成「使用 AI」與「不使用 AI」兩組，再比較焦慮或憂鬱量表。

Co-design 關心的是：

使用者實際需要什麼？

他們害怕什麼？

哪些設計看似合理，實際使用時卻令人不舒服？

以及真正使用這些系統的人，希望系統如何改變？

因此這篇研究比較適合被理解為 AI 心理健康產品的設計需求探索，而不是 AI 治療有效性的臨床證明。

而研究得到的一個重要結果，就是參與者對目前 AI 常見的 generic advice 並不滿意。

---

問題一：AI 的回答可能沒有錯，卻完全不適合你

參與者認為，過度通用的 chatbot 建議可能會把 lived experience，也就是真實生活經驗，壓縮成一個非常平坦的問題。

例如：

「感到壓力時可以和家人談談。」

「尋找朋友支持。」

「建立健康的生活習慣。」

「考慮尋求專業協助。」

單獨看，每一句可能都合理。

但真正困難的是 context。

對心理健康支援而言，問題往往不是 AI 知不知道「焦慮可以透過哪些方法改善」。

問題可能是：

它是否理解這些方法在這個人的世界裡能不能實行。

家庭關係、文化、身份、經濟條件、社會環境與過去經驗，都可能改變同一句建議的意義。

這形成一種很特殊的 AI failure mode：

Technically reasonable, psychologically wrong.

技術上合理，心理脈絡上卻錯了。

---

但解法不是「那就把你的身份全部交給 AI」

事情在這裡開始變得有趣。

既然 generic advice 不夠好，一個直覺解法似乎是：

讓 AI 知道更多使用者資料。

年齡、性別、族群、宗教、家庭背景、文化、居住環境、收入、心理健康歷史……

資料越多，personalization 應該越準確。

至少推薦系統長期以來就是沿著這個方向發展。

但心理健康 AI 有一個完全不同的問題：

這些資料本身就是極度敏感的資料。

而且知道一個人的 demographic identity，不等於真正理解那個人。

假設 AI 知道使用者是 Asian。

它如果因此直接推測：

「你的家庭應該比較保守。」

「你的父母可能很重視學業。」

「你可能不方便談心理健康。」

系統看似正在進行 culturally aware personalization，實際上可能只是把統計印象變成 stereotype。

這就是心理健康 personalization 的核心矛盾：

不知道身份，可能無法理解脈絡；知道身份，又可能開始自行腦補。

---

研究參與者提出另一條路：讓我決定要告訴你什麼

論文中一個非常重要的概念，是參與者希望得到更多 identity-informed disclosure 的機會。

這與「AI 自動建立完整心理側寫」有很大的差別。

理想流程比較接近：

使用者提出問題 ↓ AI 發現可能缺乏重要脈絡 ↓ 提供進一步 disclosure 的機會 ↓ 使用者自己決定是否提供身份或生活背景 ↓ AI 根據實際提供的資訊調整回答

例如 AI 與其直接假設：

「因為你的文化背景，你可能不容易跟家人談心理健康。」

更好的方式可能是詢問：

「家庭或文化背景會影響你處理這件事的方式嗎？」

差別只有一句話，背後卻是兩種完全不同的 AI 設計哲學。

第一種是：

System inference。

第二種是：

User agency。

前者由系統推測你是誰。

後者由你決定哪些部分的自己與這次對話有關。

---

Personalization 的問題因此可能不是「AI 記得太少」

近年的 AI assistant 正快速往長期記憶與 personalization 發展。

直覺上，我們很容易把產品品質想成一條直線：

AI 知道我越少 → 回答普通

AI 知道我越多 → 回答越準

但心理健康場景可能不是線性的。

因為 personalization 同時存在至少三個變數：

Context、Privacy、Agency。

更多 Context 可以改善回答。

但更多 Context 往往意味著更多敏感資料。

如果這些資料不是使用者有意識地提供，Agency 又可能下降。

因此真正理想的 AI 也許不是擁有最大量的個人資訊，而是：

在需要脈絡時，知道怎麼詢問；在不需要時，不自行推測。

這可以稱為一種 contextual restraint。

AI 的能力不只表現在知道多少，也表現在知道什麼時候不應該猜。

---

18 歲這條線，也可能比我們想像中奇怪

研究還碰到另一個值得注意的問題。

參與者年齡是 18 至 24 歲。

這群人在 AI safety 裡處在一個有趣的位置。

未成年人使用數位產品時，通常會有額外的 youth safeguards；但一旦跨過法律成年年齡，很多系統就會進入 adult-oriented design。

問題是人的心理發展並不存在一個午夜更新：

17 歲 364 天 ↓ 生日 ↓ Adult Mode Unlocked

18 至 24 歲仍可能經歷大量身份與生活轉換，例如離家、升學、第一次全職工作、經濟獨立、戀愛、人際關係以及重新理解家庭角色。

論文因此把 Young Adults of Color 描述為處在 youth-oriented safeguards 與 adult-oriented AI systems 之間的一群使用者。

這不是說 18 至 24 歲成年人沒有自主能力。

真正值得注意的是：

法律上的成年界線，不一定等於數位心理支援設計上的最佳界線。

如果 AI safety 只有 Child / Adult 兩種模式，可能仍然過於粗糙。

---

AI 到底應該扮演什麼角色？參與者自己也沒有單一答案

研究還發現，參與者對 chatbot 應該扮演的 therapeutic role 存在不同看法。

這其實非常合理。

因為今天的通用 AI assistant 可以同時扮演很多角色：

有人把它當搜尋引擎。

有人拿來整理情緒。

有人希望得到 coping strategies。

有人只是需要把腦中的想法寫出來。

也有人可能逐漸把 chatbot 當成接近心理支持者的存在。

因此 clinical 與 non-clinical AI support 之間的界線開始變模糊。

一個產品可以宣稱：

「This is not therapy.」

但如果使用者每天凌晨兩點向它談失戀、焦慮、家庭、孤獨與人生意義，從使用者的心理經驗來看，它已經不只是普通 productivity software。

這並不代表 AI 就變成了心理師。

反而代表產品設計不能只靠一句免責聲明，就假裝這種使用方式不存在。

---

這也是為什麼 AI Literacy 在這篇論文裡非常重要

論文標題最後不是只有 Mental Health Support，而特別寫入：

Implications for AI Literacy。

這非常關鍵。

因為心理健康 AI 的安全問題不能全部交給模型解決。

使用者也需要理解自己正在和什麼東西互動。

傳統 AI literacy 常常集中在：

「LLM 可能 hallucinate。」

「不要相信所有回答。」

「AI 不是搜尋引擎。」

這些當然重要。

但心理健康場景需要更進一步的 literacy。

例如：

AI 為什麼問我這個問題？

它會如何使用我提供的身份資訊？

Personalization 是從我剛才說的內容產生，還是來自其他資料？

它是在引用心理健康知識，還是在推測我的人格？

我可以不回答嗎？

我能不能控制或修正 AI 對我的理解？

什麼情況下應該停止與 chatbot 對話並尋求人類協助？

因此研究提出的方向之一，是把 AI literacy 與 mental health literacy 結合。

這比單純告訴使用者「AI 有時候會答錯」複雜得多。

---

Privacy calculus：為了被理解，我願意交出多少自己？

論文另一個很漂亮的概念，是 privacy calculus。

使用心理健康 AI 時，人會不斷進行一種隱性的交換：

我提供更多資訊 ↓ AI 可能更理解我 ↓ 回答可能更有用

但同時：

我提供更多資訊 ↓ 系統知道更多敏感資料 ↓ Privacy cost 上升

因此使用者不是單純在決定「要不要使用 AI」。

而是在每次 disclosure 時重新計算：

這次多說一點，值得嗎？

在一般推薦系統中，這可能只是「要不要告訴 Spotify 我喜歡什麼音樂」。

心理健康 AI 裡卻可能涉及家庭衝突、創傷、性、身份、孤獨、疾病、經濟問題與非常私人的人際關係。

同樣叫 personalization，資料敏感程度根本不是同一個世界。

這也是研究認為 YOC 的經驗需要被放進 privacy calculus 的原因。

---

更危險的 AI 不一定是回答錯誤，而可能是「理解錯誤」

這篇研究也讓我們重新思考 hallucination 這個詞。

LLM safety 討論經常集中在 factual hallucination：

AI 說某篇不存在的論文存在。

AI 給出錯誤日期。

AI 捏造一個醫學事實。

這些錯誤相對容易定義。

心理支援卻存在另一種更模糊的錯誤：

Contextual hallucination。

模型沒有捏造一個客觀事實，卻自行建立了一個錯誤的「你」。

例如它可能逐漸假設：

你和家人的關係如何、你重視什麼、你的文化如何影響你、你想要什麼樣的生活。

然後所有後續建議都建立在這個錯誤模型上。

每一句 individually reasonable。

整體卻越走越偏。

因此未來心理健康 AI 的重要能力，也許不只是更大的 context window 或更強的 memory。

還需要：

讓使用者看見、修正、拒絕 AI 對自己的假設。

這正好呼應論文中反覆出現的 user agency 與 accountability。

---

這篇研究沒有證明什麼？這點非常重要

這項研究的樣本只有 13 人，而且採用的是兩天 co-design workshop。

因此不能從這篇論文推出：

「所有 18 至 24 歲年輕人都希望 AI 這樣設計。」

不能推出：

「所有 Asian、Black 或 Hispanic/Latino/a 使用者具有相同心理需求。」

更不能推出：

「使用 AI 可以改善憂鬱症、焦慮症或其他心理疾病。」

這不是 clinical efficacy trial。

研究真正提供的是：

一組值得被進一步測試的設計需求、矛盾與研究方向。

而質性 co-design 的價值就在這裡。

大型數據可以告訴我們使用者點了什麼。

共同設計研究則比較容易問出：

你為什麼不希望產品這樣對待你？

---

更大的問題：未來的 AI 到底應該「認識你」到什麼程度？

今天我們正在把 AI assistant 從一次性聊天工具，變成長期存在的個人系統。

它可能逐漸記住工作、興趣、家庭、習慣、偏好與人生事件。

技術上，這會讓 AI 越來越有用。

心理上，卻會產生一個以前搜尋引擎很少面對的問題：

一個軟體到底應該建立多完整的「你」？

如果完全沒有個人資訊，AI 只能給 generic advice。

如果知道太多，又會產生 privacy、stereotyping、dependency、錯誤推論與使用者控制權問題。

所以未來 personalization 最成熟的版本，也許不是：

「AI knows everything about you。」

而是：

AI knows what you chose to make relevant.

知道你願意讓它知道，而且與當下問題真正相關的部分。

這篇只有 13 名參與者的小型研究，當然不可能替整個產業找到答案。

但它點出了一條很重要的界線。

AI 心理支援真正困難的地方，也許從來不是讓模型變得更會說安慰人的話。

而是讓模型理解：

什麼時候應該理解你，什麼時候應該詢問你，以及什麼時候不應該自以為理解你。

---

Tech English｜本文技術名詞

Co-design｜共同設計：讓實際使用者直接參與產品或研究設計，而不是由研究者單方面決定需求。特別適合探索難以單靠問卷量化的使用經驗與價值衝突。

Identity-informed Disclosure｜身份脈絡知情揭露：讓使用者有機會主動提供與身份、文化或生活背景相關的資訊，而不是由 AI 自行從 demographic data 推測。

AI Literacy｜AI 素養：理解 AI 的能力、限制、資料使用方式、可能的錯誤與適當使用界線。心理健康場景還涉及如何理解 AI personalization 與敏感資訊揭露。

User Agency｜使用者自主性：使用者對系統行為與自身資料擁有多少選擇、控制與修正能力，例如是否透露背景、拒絕回答或修正 AI 的錯誤假設。

Privacy Calculus｜隱私權衡：使用者在提供個人資料時，對潛在效益與隱私成本進行的權衡。心理健康資料的敏感程度使這項交換尤其重要。

Human-Computer Interaction, HCI｜人機互動：研究人與電腦系統如何互動的領域，不只研究介面，也涵蓋信任、行為、社會脈絡、倫理與產品設計。