近日，美國頂級人工智能公司Anthropic針對生成式人工智能（AI）的濫用問題，釋出了一份威脅情報報告。報告指出，AI已不再僅停留於實驗階段，而是進入黑客攻擊、國家監控、武器研發以及高風險生物研究等現實場景。
報告透露，近八個月以來，Anthropic發現多類行動者透過虛假或盜取的賬戶、虛擬私人網路和中介服務，利用自動化網絡攻擊、監控、武器研究及可能存在生物安全風險的科學研究。公司已中斷上述活動並通報相關當局。
特別值得注意的是，報告多次提到中國相關的惡意活動。Anthropic指出，與中共安全機構相關的行動者運用AI進行大規模分析，對社交媒體內容進行監控與篩選，以及鎖定監控對象。
Anthropic的威脅情報主管雅各布‧克萊因表示，報告的釋出目的在於喚起對於AI被惡意濫用的警惕，而非誇大風險。他指出，專制國家目前正積極運用AI進行監控和影響力行動，這已經不再是抽象理論。
結合報告所揭示的事實，國家監控、武器工程、網絡攻擊及危險科研所需的專業門檻正在因生成式AI的普及而下降。值得關注的是，當Anthropic中斷惡意活動後，有些行動體只是轉向開源模型，而非停止行動。
報告細數了一些例子，尤其提到了中國某些部門對於AI的濫用。有些機構利用AI進行大規模監控和情報收集，甚至制定內部手冊來導引AI在監控行動中的使用。
除了監控國家以外，AI還被用於支援武器研發、情報工作以及危險生物研究。Anthropic披露了幾個案例，包括中國、俄羅斯、伊朗以及其他未具名地區的相關行動者濫用AI的事件。
總的來說，報告的釋出引起了對AI被濫用和相應風險的關注，呼籲加強對AI的監管和防範機制，以避免進一步的惡意行為。
