#Knowledge Distillation

AI 看錯了，還是想錯了？一篇論文揭開多模態 AI 訓練最大的盲點

當 ChatGPT、Qwen3-VL、Gemini 等多模態 AI 回答圖片問題時，如果答案錯誤，到底是因為模型沒有看懂圖片，還是後續推理出了問題？NeurIPS 2026 最新研究提出 Perception-Correction Distillation（PCD），首次將「感知」與「推理」拆開訓練，利用教師模型與學生模型的差異，加上多次推理成功率，判斷真正需要修正的地方。研究顯示，這種方式比傳統蒸餾方法最高可提升超過 4 個百分點，讓小模型學得更有效率。