
全球最大的人工智能(AI)平台的三位主要領導人於周六發表罕見聲明,共同呼籲需要減緩AI模型的開發速度。他們強調必須為安全測試、模型對齊及外部審核爭取更多時間。具體來說,Anthropic PBC的CEO達里奧・阿莫迪表示,應該放緩前沿AI模型能力提升的速度,並讓第三方評估機制參與。
另外,OpenAI的CEO薩姆・奧特曼也表示支持這一看法,並承諾引入類似Anthropic的第三方評估機制。至於xAI Corp.的CEO埃隆・馬斯克也公開表示支持阿莫迪的看法。
在各大科技公司競相推出更強AI模型之際,美國三家頂尖AI公司的領導人罕見達成共識,認為減緩前沿模型開發速度至關重要。
阿莫迪提出了「前沿節奏控制」的三階段構想,首先是由每家前沿AI公司引入「嵌入式評估人員」。此舉旨在提高評估的可驗證性與透明度,並引入不受商業利益影響的「第二意見」。奧特曼也表示OpenAI基本上會採取相同方向。
此外,阿莫迪強調全行業需要協調與全球合作,並提倡由民主國家的前沿AI公司建立共同安全標準,將模型能力與安全證據掛鉤。他認為美國及其盟國應該擴大技術領先優勢,並呼籲加強對AI技術的監管。
這場AI安全與技術競爭的話題預料將成為未來美中高層會晤的重要議題。


