Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）表示，他主張放緩人工智慧（AI）發展的建議面臨一個最大的困境，即若敵對國家，尤其是中共，不同步緩步，美國將面臨重大的戰略風險。
在接受哥倫比亞廣播公司（CBS）專訪時，阿莫代伊被問及若北京不放慢腳步，美國是否應跟進放緩AI發展，他回答這是目前最棘手的問題之一。
他將美國與前蘇聯達成的核武器條約視為一種潛在的模式，但警告其可行性有限。他認為更具前瞻性的作法是共同限制AI發展速度，但也坦言這將十分困難，因為保持領先地位所帶來的誘因和軍事優勢太過巨大。
隨著AI技術的迅速發展，阿莫代伊提出了一個安全控速框架的「三步走」計劃。該提議迅速引起業界廣泛關注，包括OpenAI首席執行官薩姆·奧特曼和AI負責人伊隆·馬斯克等紛紛表態支持。
在業界內，對於安全風險的警示逐漸升溫。前Anthropic研究人員雅各布·考克森於最近宣布辭職，警告開發者正在以人類生命為代價。同時，Anthropic也確認，已多次阻止不法份子利用其模型進行惡意活動。
美國總統川普強調，美國需維持對北京在AI領域的領先優勢。而中共黨魁習近平則在BRICS峰會上提出「全球AI治理框架」的口頭宣示。
然而，西方政界與科技界對此抱持懷疑態度，認為北京一方面要求國際規範，另一方面卻積極推動軍用AI研發與開源社群發展，對於約束的實際效果存疑。
預計川普將於9月24日與習近平會面，屆時AI安全與競爭議題預計將成為兩國元首討論的焦點之一。
