紐約郵報質疑 METR 與 Anthropic 關係密切

鏈捕手
昨天

ChainCatcher 消息,Anthropic CEO Dario Amodei 最近主張,讓 METR 這類第三方評估機構長期進駐前沿 AI 公司,獲得接近員工級別的權限,檢查安全措施、事故和模型訓練過程。但《紐約郵報》調查發現,METR 和 Anthropic 所在的 AI 安全圈關係遠比普通外部審計更近。

METR 最初叫 ARC Evals,孵化於 Paul Christiano 創辦的 Alignment Research Center。Christiano 曾和 Amodei 在 OpenAI 共事,《紐約郵報》稱兩人還做過室友;他後來成為 Anthropic Long-Term Benefit Trust 最初五名受託人之一。METR 現任技術人員 Ajeya Cotra 是 Christiano 的妻子,此前還負責 Coefficient Giving 的 AI 安全資助。

今年 METR 評估 Anthropic、OpenAI、Google 和 Meta 時,當時還沒有適用的人員利益衝突政策,也沒有進行正式的迴避流程。METR 披露,直接參與項目的員工和合作者中,至少 6 人與 AI 公司員工存在密切私人關係。METR 表示不接受前沿 AI 公司及其員工的資金,做風險評估也不收費,不過這些公司會免費提供大量模型 Token。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10