谷歌首席科學家警告：企業、政府等不強化AI系統安全防護，或將演變成重大安全事件

PANews 10月15日消息，在一場人工智能峰會上，DeepMind董事長兼谷歌首席科學家德米斯·哈薩比斯警告稱，如果企業、政府等方面不強化AI系統安全防護，明年或未來幾年有可能演變成重大安全事件。哈薩比斯認為，過去一年AI行業進入了智能體時代。AI能夠自主行動，意味著它有機會完成更多真實世界中的任務，實用價值也隨之提升。但另一方面，系統的潛在風險上升，今年的AI攻擊事件就是信號，只是目前AI能力還不算強大，所以事故暫未造成重大後果。在峰會上，哈薩比斯呼籲，AI行業應借鑒生物學和核技術等高風險領域的成熟經驗，建立更嚴格的安全保障機制，在這方面「還有大量工作要做」。他強調國際合作的重要性，並提出未來有必要建立國際標準機構，為AI系統制定安全規範。