Anthropic在一份新報告中聲稱,該公司已介入也門北部,阻止Claude AI被用於導彈制導軟件,包括制導火箭和遠程彈道導彈。該公司表示,操作人員使用Claude“代替人類軟件工程師”編寫導彈制導和飛行控制軟件,儘管內部安全措施阻止了許多請求,但仍有一些請求得以通過。Anthropic沒有證據表明有實際武器投入使用,但操作人員似乎進行了一次不成功的試射。
報告還指出,一個與俄羅斯有關的間諜行動(帶有Midnight Blizzard/APT29的特徵)依賴於使用Claude的自動化AI工作流程,對烏克蘭、歐洲和外交目標進行網絡釣魚、設置和數據竊取。此外,Anthropic表示,它已阻止了一項由中國大學生髮起的行動,這些學生將Claude用作“工程和編排”工具。
24小時熱榜
今日行情
推薦閱讀












