AI 幫腦機介面幫太多，可能連「這是不是我的想法」都開始模糊：新論文提出 Neuroadaptive Overfitting

如果一名失去語言能力的患者想透過腦機介面說一句話，AI 幫他把句子補完整，究竟是在幫忙，還是在替他說話？

如果一名四肢癱瘓患者想用腦訊號控制機械手臂拿起杯子，AI 自動修正了大部分移動軌跡，最後杯子確實拿到了，那到底是患者控制成功，還是 AI 自己把任務完成？

如果中風復健中的病人每次嘗試抬高手臂時，機器人都立刻幫他完成剩下的動作，今天的成功率可能非常漂亮，但三個月後，他的大腦究竟學回了多少？

這些問題正是 2026 年 9 月一篇新論文《Slow-Fast Brain-Computer Interfaces: Preventing Neuroadaptive Overfitting in AI-Mediated Neural Interfaces》想處理的核心。

作者 Aarthy Nagarajan 來自 University of Notre Dame Department of Computer Science and Engineering。這不是一篇公布全新人體臨床試驗或新型腦植入晶片的研究，而是一篇 Perspective，也就是試圖重新整理問題、提出新概念與可驗證設計框架的觀點論文。

論文提出一個新名詞：Neuroadaptive Overfitting，神經適應性過擬合。

它描述的是一種非常特殊的人機閉環失效模式：AI 輔助型腦機介面在長時間互動中越來越擅長最佳化某些短期成功指標，例如降低使用者努力、提高接受速度、減少工作負荷、讓移動更加平滑或快速完成任務，但同時逐漸偏離使用者真正希望保留的長期目標，例如 Intent Fidelity、Authorship、Agency、Motor Learning 與 Durable Clinical Benefit。

簡單來說：

AI 可能把腦機介面變得越來越好用，卻不一定把人變得更有能力。

從「讀腦訊號」變成「AI 幫你完成意圖」

傳統 Brain-Computer Interface，BCI，最基本的架構可以簡化成：

神經活動 → Decoder → 輸出 → Feedback。

例如系統從運動皮質訊號推測使用者想把游標往左移，再把這項動作轉換成電腦指令。

但現代 AI-mediated BCI 開始增加另一層。

系統不只解碼神經訊號，還會利用 Behavioral Data、Contextual Data、Language Priors 或 Generative AI 來推測使用者可能真正想做的事情。

因此架構開始變成：

Neural Signal → Decoder → AI Assistance → 最終文字、動作或刺激。

AI 可以幫忙：

補完語句、修正錯字、預測目標、平滑機械手臂軌跡、調整輪椅方向、改變機器人復健輔助程度，甚至參與 closed-loop neuromodulation。

這些能力都可能讓 BCI 更快、更自然，也更容易真正進入住家與臨床使用。

問題是，一旦 AI 開始修改最終輸出，傳統 BCI Benchmark 就變得沒有那麼簡單。

因為你看到的『任務完成』，不一定全部來自使用者真正解碼成功。

有一部分可能是 AI 幫忙補出來的。

腦機介面第一次碰到「誰才是作者」的問題

Communication BCI 是最容易理解 Neuroadaptive Overfitting 的案例。

想像一名無法正常說話的患者透過神經訊號打字。

系統只成功解碼出：

I want to...

語言模型根據 Context 推測最可能的下一句是：

I want to go home.

從傳統效能角度看，這很完美。

Communication Rate 提高。

句子更流暢。

使用者需要輸入的神經資訊更少。

Word Error Rate 甚至可能下降。

但論文提醒，這裡真正需要問的是：

使用者原本真的想說 go home 嗎？

有沒有可能他真正想表達的是：

I want to call my daughter.

或者：

I want to stop.

當 neural evidence 很弱時，大型語言模型很容易利用自己強大的語言先驗，把一個模糊意圖補成一句非常合理的英文。

這就是問題所在。

合理，不等於本人想說的。

論文把可能產生的風險稱為 Semantic Drift 與 Authorship Loss。

Semantic Drift 是語意逐漸偏離原始意圖。

Authorship Loss 則是最終輸出的內容雖然由使用者啟動，卻越來越難判斷究竟有多少是使用者自己的表達，有多少是 AI 補出來的。

對一般 Chatbot，Autocomplete 猜錯一句還能按 Backspace。

但 Communication BCI 的核心價值，本來就是替無法正常發聲的人恢復表達權。

如果 AI 最後開始替他決定句子，系統的成功率可能上升，但最重要的『這是我的話』反而可能變得模糊。

一支拿到杯子的機械手臂，不一定代表使用者控制得更好了

第二個案例是 Motor-Control BCI。

腦控游標、輪椅或 Robotic Arm 都面臨一個現實問題：神經訊號很吵，而且解碼結果通常具有不確定性。

假設使用者想控制機械手臂拿桌上的杯子。

純 BCI 可能需要他一步步控制：

往前。

往右。

降低高度。

張開手指。

抓取。

這對患者非常疲勞，而且容易因為 neural decoding error 失敗。

因此 Shared Autonomy 是很合理的解法。

AI 可能看到桌面影像後判斷：

使用者大概想拿杯子。

於是它幫忙預測目標、修正軌跡、避開障礙物，再完成最後的抓取動作。

結果可能是：

Task Success 上升。

Movement Smoothness 上升。

Completion Time 下降。

User Workload 下降。

全部 Benchmark 都變漂亮。

但作者提出另一個問題：

到底有多少控制權還在使用者手上？

如果 AI 已經負責 90% 的路線規劃，患者只需要發出一個模糊的『我要那個』意圖，那麼系統依然可能是一套非常實用的 Assistive Technology。

但它和『使用者成功重新獲得細緻運動控制』其實是兩件不同的事。

論文因此主張 Motor-Control BCI 除了 Task Success 外，還應該評估 Sense of Agency、Assistance Level、Override Rate 與 Safety Events。

也就是不能只問：

杯子有沒有拿起來？

還要問：

你覺得是你自己拿起來的嗎？

你能不能拒絕 AI 的動作？

AI 到底介入了多少？

這有點像 Aim Assist 開太大

可以把 Shared Autonomy 想成遊戲中的 Aim Assist。

少量 Aim Assist 可以補償手把輸入精度，讓玩家仍然感覺是自己瞄準、自己射擊。

但如果 Aim Assist 強到只需要把鏡頭大概朝向敵人，系統就自動鎖頭、追蹤並射擊，那麼 Kill Count 可能非常漂亮。

問題只是：

到底是玩家變強，還是輔助系統接管得更多？

對遊戲來說，這可能只是玩法選擇。

對 BCI 而言卻更嚴重，因為許多系統的醫療目的正是恢復 Agency 與 Control。

如果只看任務成功率，很容易把 AI 接管誤認為患者能力進步。

復健最反直覺：有時候『比較難』才是治療的一部分

Neurorehabilitation 是這篇論文另一個很重要的案例。

假設一名中風患者正在重新學習控制右手。

他的大腦發出運動意圖。

BCI 偵測到這項訊號，再讓外骨骼或 Robotic Rehabilitation Device 幫助患者完成抬手。

這類系統的價值很明顯。

患者可以完成原本做不到的動作。

挫折感下降。

成功率提高。

但是復健和一般 Assistive Technology 有一個重要不同。

復健本身需要學習。

而學習通常需要：

主動嘗試。

犯錯。

感受到誤差。

重新修正。

重複動作。

神經系統再逐步適應。

論文把這種需要保留的適度困難稱為 Productive Difficulty 或 Therapeutic Challenge。

如果 AI 或機器人每一次都太積極地替患者補完動作，短期 Task Completion 當然會增加。

但患者自身的 Active Effort 可能下降。

Error Experience 可能消失。

Motor Learning 所需的訓練刺激也可能變少。

結果就是一個非常反直覺的情況：

今天每一次復健訓練都做得非常成功。

但幾個月後把機器拿掉，患者自己反而沒有學得更好。

這也是 Neuroadaptive Overfitting 最符合『Overfitting』概念的地方。

系統把眼前的訓練 Session 成功率最佳化得很好，卻可能犧牲真正的 Generalization 與 Long-Term Recovery。

因此作者主張復健型 AI BCI 應該同時測量：

Active Effort。

Assistance Dose。

Retention。

Longitudinal Gains。

而不是只看今天完成幾次動作。

所以 AI 不應該永遠幫到最大

作者因此提出 Slow-Fast BCI。

名字很容易讓人誤會成『把腦機介面變慢』，但它真正的意思不是降低速度。

它是在問：

AI 現在到底應該幫多少？

論文提出一個 Metacognitive Assistance Gate，也就是位於神經解碼與 AI Assistance 之上的監督層。

這個 Gate 會綜合考慮：

Decoder Evidence，也就是目前神經訊號到底有多明確。

Uncertainty，系統對自己的判斷有多不確定。

Stakes，如果判斷錯誤，後果有多嚴重。

Fatigue / Effort，使用者現在是否疲勞或需要保留主動努力。

Goals，使用者或臨床醫師真正希望達成的長期目標。

作者將它形式化為：

m_t = π(E_t, U_t, S_t, F_t, G_t)

其中 m_t 可以切換為 Fast、Guarded 或 Slow 三種模式。

這不是一個作者已經實作完成並證明最佳的演算法，而是一個 Design Framework。

核心思想是讓 Assistance Policy 不只看『我現在能不能猜到答案』，也要看『猜錯的代價是什麼』。

Fast：意圖清楚，錯了也沒什麼大不了

Fast Mode 適合高信心、低風險情境。

例如 Communication BCI 已經非常清楚解碼出：

Thank y...

AI 自動完成：

Thank you.

或者腦控游標只需要微小 Movement Smoothing。

這些情況 AI 可以快速介入，因為可以大幅降低使用者疲勞，而且錯誤成本有限。

論文本身並不是反對 Automation。

作者反而明確指出，快速且大量的 AI Assistance 對實用 BCI 很重要，它可以提高 Communication Rate、降低疲勞、改善控制，也讓居家使用更可行。

Slow-Fast BCI 要解決的不是『AI 不要幫忙』。

而是：

不要所有情況都用同一種幫法。

Guarded：AI 有答案，但先不要擅自決定

第二層是 Guarded Assistance。

當 Decoder Evidence 不是非常明確，或任務具有中等 Stakes 時，AI 可以提供候選項目，但不要直接執行。

例如 Communication BCI 可能給出：

Go home

Call home

Go outside

然後讓使用者選擇。

機械手臂也可以顯示：

目前推測目標：杯子。

Confidence：72%。

使用者確認後再開始執行。

這種方式犧牲一點速度，換來更高的 Intent Fidelity 與 Agency。

Slow：有些時候 AI 最聰明的選擇是『不要猜』

第三層 Slow Mode 適合高不確定性、高安全風險、高 Semantic Stakes 或高 Clinical Stakes。

例如使用者正在透過 BCI 表達一項重大醫療決定。

或者機械手臂正在執行可能造成身體傷害的動作。

又或者 Closed-Loop Neuromodulation 正準備改變神經刺激參數。

這時候系統不應該因為『模型覺得八成是這個意思』就直接執行。

它可以：

要求 Explicit Confirmation。

顯示不確定性。

Abstain，也就是拒絕自行判斷。

保留使用者努力。

要求 Clinician Oversight。

或者直接 Return Control to User。

這裡非常像航空與自動駕駛的 Fail-Safe Philosophy。

真正成熟的 Automation，不是永遠做決定。

而是知道自己什麼時候不該做決定。

論文甚至把 Closed-Loop Neuromodulation 放進來

作者還把這套概念延伸到鄰近 BCI 的 Closed-Loop Neural Interface。

例如未來某些神經刺激系統可能持續監測生理訊號，再由 AI 自動調整 stimulation parameters。

這裡也可能出現相同問題。

如果系統只最佳化：

眼前症狀下降。

某個 physiological marker 變好。

它可能持續強化同一策略。

但短期改善並不一定等於長期安全或 Durable Clinical Benefit。

因此作者認為這種情況尤其需要：

Conservative Updates。

Uncertainty Thresholds。

Safe Defaults。

Clinician Oversight。

同時追蹤 adverse events 與長期症狀變化。

這篇論文真正挑戰的是 BCI Benchmark

過去評估 BCI 很自然會看：

Decoding Accuracy。

Word Error Rate。

Information Transfer Rate。

Task Completion Time。

Target Acquisition Success。

Workload。

Usability。

這些指標當然仍然重要。

但論文主張，在 AI-mediated BCI 時代，它們已經不夠。

因為 AI Assistance 可以直接提高很多表面 KPI。

例如 Language Model 可以讓句子更流暢。

Shared Autonomy 可以讓機械手臂移動更漂亮。

Robotic Assistance 可以讓復健患者完成更多動作。

如果不把 AI 介入程度一起報告，很難知道性能提高究竟是 Neural Decoder 本身變強，還是 Assistance Policy 接管了更多工作。

所以作者建議增加一整套新的評估指標。

Intent Fidelity：AI 講出的真的是使用者想說的嗎？

這是 Communication BCI 最重要的新指標之一。

不能只看生成句子有沒有文法錯誤。

還要檢查 assisted output 是否忠實保留 underlying intent。

一個語法完美但意思錯掉的句子，對 BCI 來說可能比一個有錯字但意思正確的句子更糟。

Authorship：使用者認不認為這句話是自己的？

作者還提出 Authorship Endorsement。

如果 AI 自動完成一句話後，使用者回答：

『這不是我原本想說的。』

那即使 BLEU、WER 或 Language Fluency 很漂亮，也不能算真正成功。

這會讓 BCI 第一次碰到一個非常接近哲學的工程問題：

一段由大腦訊號和生成模型共同產生的句子，究竟屬於誰？

Agency：任務成功，但我真的覺得是自己做的嗎？

Motor-Control BCI 則需要測 Sense of Agency。

系統可以完成一個非常漂亮的抓取。

但如果患者覺得：

『它根本沒照我的意思動。』

那麼使用體驗和醫療價值就完全不同。

因此應該追蹤：

Assistance Level。

Override Frequency。

Safety Events。

User-attributed Control。

這些資料能幫助研究者辨識 AI 是否已經從『協助』變成『主導』。

最重要的一個測試：把 AI 拿掉之後還剩多少？

論文還提出一個非常漂亮的評估概念。

如果想知道 Neurorehabilitation 到底有沒有讓患者真正學會控制，就不能只看 Assistance 開啟時的表現。

應該刻意降低或移除 AI Assistance，再測一次。

如果：

AI 開啟 → 成績非常好。

AI 減少 → 能力立刻崩掉。

那就可能代表系統學會了幫患者，而患者自己卻沒有學到同等程度的能力。

這跟 Machine Learning 的 Generalization Test 很像。

真正重要的不是 Training Condition 下的分數。

而是支援拿走之後，能力能不能留下來。

作者因此特別強調 Transfer、Retention 與 Assistance-dose Curve。

也就是逐步提高 AI Assistance，看看從哪一個程度開始，Short-Term Performance 還在上升，但 Durable Goal 已經不再改善，甚至開始下降。

那個位置，就是 Neuroadaptive Overfitting 最值得研究的臨界點。

它跟一般 AI 其實也有一個更大的共同問題

雖然論文只聚焦 BCI 與 Closed-Loop Neural Interfaces，但背後提出的問題其實非常普遍。

AI Coding 可以讓程式更快完成。

但工程師是否還理解自己提交的 Code？

AI Tutor 可以讓作業答對更多。

但學生是否真正學會？

AI Navigation 可以讓人永遠不迷路。

但人的 Spatial Memory 是否逐漸下降？

AI Writing 可以讓文章更流暢。

但最後的文字究竟還有多少是作者自己的語言？

AI BCI 只是把這個問題推到一個最敏感的位置。

因為 BCI 原本的使命，本來就是恢復一個人的溝通、控制與自主能力。

如果 AI 讓輸出變得更漂亮，卻讓 Agency 下降，那麼系統可能正在成功最佳化錯誤的東西。

這篇論文不是證明 AI BCI 已經出問題

這裡必須保留非常重要的科學界線。

這篇研究是一篇 Perspective。

它沒有招募一組 BCI 患者，分成 Fast Assistance 與 Slow Assistance，再追蹤一年後的恢復差異。

它也沒有展示一台已經完成臨床測試的 Slow-Fast BCI Prototype。

Neuroadaptive Overfitting 目前是一個作者提出的 Conceptual Failure Mode。

Slow-Fast BCI 則是一個 Testable Design Framework，而不是已經證實優於現有 BCI 的控制演算法。

作者真正做的是整理現有 AI-mediated BCI 趨勢，提出一個可以被未來實驗檢驗的問題：

當 AI Assistance 持續增加時，Short-Term Performance 與 Durable User Goal 會不會在某一點開始分離？

論文甚至把這個關係寫成：

ΔP_proximal(a) > 0

同時：

ΔG_durable(a) < 0

也就是 AI Assistance 增加後，短期性能繼續變好，但長期真正重要的目標開始變差。

如果未來實驗真的觀察到這種分離，才算找到 Neuroadaptive Overfitting 的實證證據。

未來真正重要的問題可能不是『AI 能幫多少』

而是：

『AI 應該在什麼時候停止幫忙？』

這也是 Slow-Fast BCI 最值得留下來的概念。

當 Intent 很明確、風險很低時，Fast Assistance 可以讓腦機介面真正變得實用。

當系統開始不確定，就切到 Guarded Mode。

當錯誤可能影響安全、身份、作者性或治療效果時，就應該進入 Slow Mode。

不要讓模型因為能猜，就一定要猜。

不要因為可以幫，就永遠幫到最大。

對未來 BCI 而言，最好的 AI 可能不是那個最積極接管控制的 AI。

而是那個知道自己什麼時候應該加速、什麼時候應該詢問，以及什麼時候應該把控制權完整交還給人的 AI。

因為腦機介面的終極目標從來不只是讓游標移得更快、句子變得更漂亮，或者讓機械手臂更順。

它真正想恢復的，是一個人的能力。

如果有一天 AI 把所有任務都完成得完美，我們反而必須重新問一個最基本的問題：

完成這些事情的，到底還是不是我？

Tech English 專有名詞

Neuroadaptive Overfitting（神經適應性過擬合）：作者提出的概念，描述 AI-mediated BCI 在長時間互動中逐漸最佳化短期成功代理指標，例如速度、低負擔或高任務完成率，卻同時偏離使用者的長期目標，例如真實意圖、主控感、復健學習或臨床效益。

Intent Fidelity（意圖忠實度）：AI 輔助產生的文字或動作，與使用者原始神經意圖保持一致的程度。輸出即使非常流暢，如果意思偏離本人意圖，Intent Fidelity 仍可能很低。

Sense of Agency（主控感）：使用者感覺某個動作或結果是由自己產生與控制的主觀經驗。Shared Autonomy 太強時，任務成功率可能提高，但使用者的 Agency 反而下降。

Shared Autonomy（共享自主控制）：由人類意圖與 AI 自主控制共同決定最終動作的系統，例如使用者透過 BCI 指定大致目標，再由 AI 自動修正機械手臂路徑。

Metacognitive Assistance Gate（後設認知輔助閘門）：Slow-Fast BCI 中的監督概念層，根據 Decoder Evidence、Uncertainty、Task Stakes、Fatigue 與使用者／臨床目標，決定 AI 應採取 Fast、Guarded 或 Slow Assistance。

Productive Difficulty（有益困難）：學習或復健過程中刻意保留適度挑戰、努力與錯誤經驗，使使用者能真正產生學習與神經適應，而不是由自動化系統把所有困難完全消除。