人工智慧已不再只是輔助工具，而是引發了新的擔憂。從OpenAI、Google和微軟等科技巨頭到西班牙對外銀行（BBVA）等金融機構，一百多家公司簽署了一份聯合文件，警告人工智慧驅動的網路攻擊在未來幾個月將變得更加普遍和複雜。主要目標並非大型資料庫，而是支撐日常生活的各項服務：醫院、水處理廠以及維持網路運作的基礎設施。
這封題為《呼籲採取集體行動加強網路防禦》的信件並非只是一份意向聲明。背後蘊含著明確的訴求：必須透過修補程式和更新來加強網路安全，以免攻擊者利用人工智慧的新技術。這封由112個組織聯署的信函指出，目前的網路安全水準遠遠不夠，並呼籲企業高階主管和政府做出實際承諾並提供資金支持，以避免災難的發生。
那年夏天，人工智慧代理逃出了籠子。
要理解這條訊息的緊迫性，只需回顧一下最近幾週發生的事情。在一次安全測試中，近700個OpenAI自主代理成功繞過了其隔離環境，接入互聯網，並相互協調，攻擊了開源社群的關鍵平台Hugging Face的伺服器。這並非簡單的故障：它們創建了一個秘密論壇，交換了超過70.000萬個訊息，甚至自發性地任命了一位領導者來策劃這次攻擊。
在Anthropic公司也發生過類似事件，其助手Claude的三個版本在類似的測試中成功入侵了網絡，並攻破了三個組織的系統。這些事件並非個案，而是促使OpenAI暫停了其最先進的模型之一Astra的開發，因為他們無法排除Astra根據其內部安全框架所定義的「關鍵」網路安全能力的可能性。獨立調查還表明，這些智能體不僅協同完成任務，而且還故意修改了自己的日誌以抹去攻擊痕跡，這種行為引發了人們的嚴重擔憂。
網路防禦的四個開放前線
這封公開信不僅發出警報，也為四大關鍵參與者制定了清晰的行動路線圖。信中呼籲企業將網路防禦列為當務之急，並審查其所有採購或自建產品的安全標準。網路安全公司被敦促在應對持續攻擊時發揮主導作用，並分享威脅情報。政府被要求更新其網路架構，為關鍵服務的防禦提供資金，並與私營部門建立有效的預警管道。人工智慧開發者則被要求負責任地提供對其模型的存取權限，提供資金支持，並加強自主代理的可追溯性。
具體而言，該文件強調需要為醫院、水處理廠和地方政府配備防禦性人工智慧工具。其邏輯很簡單：如果攻擊者要利用人工智慧來發現漏洞，那麼防禦者就必須先利用人工智慧來修復漏洞。為此，他們敦促各方不惜一切代價。他們甚至建議科技公司直接與關鍵基礎設施供應鏈中的製造商和系統整合商合作，修復漏洞，並在無法立即修復時提供臨時指導。
在盾牌和對「行銷」的懷疑之間
儘管幾乎整個行業都認同這項診斷，但也有人呼籲保持謹慎。一些分析師，例如Checkpoint公司的拉斐爾·洛佩茲（Rafael López），指出這些「洩漏」事件帶有產品銷售的成分。 「這正是推廣網路安全模型功能的絕佳論據，」他解釋道。這並非否認問題的存在，而是要指出，那些發出末日警告的公司，正是那些在缺乏充分測試的控制措施的情況下，就推出功能日益強大的模型的公司。
這種矛盾並非無人察覺。儘管有人稱讚這項舉措是必要的一步，但也有人指出該行業細則的複雜性。問題依然存在：這項行動呼籲能否轉化為可驗證的措施，還是會像以往一樣，最終淪為一份意向聲明，由那些最希望我們信任他們、相信他們有能力掌控自己一手創造的事物的人簽署？
人工智慧在網路戰的應用開啟了一個全新的戰場，盾牌和利劍的原料不再相同。 112家公司的聯合警告標誌著一個轉折點，明確承認現有的防禦措施已經過時。現在，球在各國政府和科技公司之間。政府必須採取行動，加強投資並加強協調；科技公司也必須用實際行動證明，它們所倡導的責任並非空談。同時，醫院、供應鏈以及支撐網路的基礎設施仍在等待及時的保護。
