长毛象公共时间线同步 on Nostr: AI 正在瓦解我們用來判斷專業能力的替代指標 () ...

AI 正在瓦解我們用來判斷專業能力的替代指標 https://www.seangoedecke.com/ai-is-breaking-our-proxies-for-expertise/ (https://www.seangoedecke.com/ai-is-breaking-our-proxies-for-expertise/)

數學界近日對人工智慧（AI）解決重大難題的熱潮表達憂慮，近五千名數學家、包括 25 位菲爾茲獎得主，聯署聲明指出：解題本身只是達成概念理解與洞見的工具，不是數學的終極目的。文章將數學工作區分為「解題」與「提出新概念」：前者如證明費馬最後定理，容易被外界辨識並賦予聲望；後者則是發展真正能拓展理解的概念架構，例如新的空間、算子或理論。困難在於，人們往往須經過多年研究，才能判斷一個新概念是否真的重要���

作者認為，解題長期以來既能驗證新想法的價值，也是一種讓外行人辨識數學能力的替代指標。然而，若 AI 能以人類難以理解的方式直接完成證明，例如長達數千頁的 Lean 證明（Lean：用於形式化驗證數學定理的證明助理），AI 公司便能取得「解開難題」的聲望，卻未必帶來可供人類吸收的新理論。這類情況類似古德哈特定律（Goodhart's law：指標一旦成為追逐目標，便容易失去原有衡量作用）：原本用來衡量數學進展的難題，被 AI 以另一種路徑破解後，可能不再能促進人類的概念創新。

不過，作者不認為 AI 必然無法提出新數學想法，也認為既有 AI 證明未必只是破壞。知道某命題為真，可能讓數學家更有把握尋找其原因，進而寫出可理解的「人類版證明」。他以西洋棋與電玩競速為例：電腦棋力早已超越頂尖棋手，工具輔助競速（TAS，tool-assisted speedrun）也遠快於人類，但人類競賽與頂尖選手仍保有價值，而且人類會從機器策略中學習。軟體工程也面臨類似轉變：過去可藉由模擬器、玩具作業系統等個人專案展現能力，如今這些成果容易被懷疑是由 AI 大量自動撰寫，因此業界必須重新建立辨識人類技術與貢獻���方式。

Hacker News 討論中，較尖銳的質疑指出，問題不僅是聲望指標失效，而是 AI 可能縮短人類在未知中摸索的過程。若人們先知道答案，便可能不再花費多年嘗試、失敗與建構理論；費馬最後定理的重要性，也不只是結論成立，而是研究過程催生的模形式等深層理論。另一派則認為，不應把所有 AI 輔助成果視為空洞產出：程式設計者仍可把 AI 當作提問、除錯與取得提示的工具，保留自己設計架構和手寫程式碼的部分。也有人認為，未來更受重視的能力可能是敘事、協調、判斷「為何要做」以及帶領團隊；但反對者提醒，在企業環境裡，大量速度快且「夠用」的 AI 產出已可能獲得獎勵，未必能立即靠人類品味或技術眼光區分高低。

👥 50 則討論、評論 💬
https://news.ycombinator.com/item?id=49712416 (https://news.ycombinator.com/item?id=49712416)
——
Ryan He (ryanhe@mistyreverie.org)
Nostr: nprofile1qyt8wumn8ghj7un9d3shjtnyd968gmewwp6kytcqyqsg2emqc6fl25sqh9ae3v6udla2dtufaeft4cuap9grzvatwm666qn33fa
https://mistyreverie.org/notes/ar72rzx4fzvv01nr