727財經PANews 10月11日消息，據智通財經報道，微軟公司CEO薩提亞·納德拉表示，企業應將強大的AI模型視為潛在的內部威脅，假定它們可能已被攻破，並建立一套「緊急剎車」系統，以防止智能體模型失控。 納德拉週六在X平台上發帖稱，部署先進AI的企業不應僅僅依賴AI模型開發商的安全保證。「我們必須假定模型已被攻破，並從一開始就對其加以限制。可以把它想象成緊急剎車。獲得授權的人員應當始終能夠在模型執行任務的過程中暫停或關閉它。」
就在納德拉發表上述言論之際，Anthropic和OpenAI近幾個月披露了一系列AI模型出現非預期行為的事件，包括Anthropic的一款模型在一起警方調查的謀殺案中提交虛假線索，以及AI模型多次入侵第三方網站。這些披露加劇了外界對前沿AI安全風險的擔憂，也讓所謂的AI「緊急關閉開關」再次成為討論焦點。