被稱為「AI教父」的諾貝爾物理學獎得主辛頓近日受訪警告，人工智能可能在2026年或2027年引發影響廣泛的資安事故，包括金融系統中斷或電網遭攻擊。他以切爾諾貝利核事故比喻風險的嚴重程度，並非預告核災發生。辛頓表示，人工智能仍可能帶來重大益處，但現時的開發競賽與監管安排，未能讓他對安全前景放心。
辛頓在英國《衛報》專訪中談到人工智能的發展方向，相關內容亦獲澎湃新聞及科技新報報道。他認為，當模型具備更強的編程、規劃及網絡操作能力，風險亦由生成錯誤答案，延伸至對外部系統造成實際破壞。
他提出的情境包括金融系統停擺一星期，以及電網受攻擊後出現大範圍停電。這些是他對潛在事故的警告，並非已經發生的事件。他亦沒有表示能準確預知事故日期，而是認為未來一兩年可能出現足以改變公眾認知的重大事故。
報道引述辛頓，把今年夏季涉及人工智能智能體與Hugging Face平台的資安事件，比作1979年美國三哩島事故所起的警示作用。他擔心，業界若忽略早期訊號，往後可能出現影響更深的事件，因此借用「切爾諾貝利」作為事故規模的比喻。
辛頓也對科技企業之間的競爭提出批評。他認為，部分企業領導人了解風險，但商業利益及搶佔市場的壓力，使安全考量難以取得足夠優先次序。這是辛頓對行業治理的判斷，受訪報道沒有把個別企業意圖列為已獲證實的事實。
應強制安全測試
在他看來，模型推出前應接受強制安全測試及獨立評估，並建立跨國標準。他以藥品審批作類比，主張對可能造成廣泛影響的系統設立事前把關程序，而非只由開發者自行宣布產品安全，再交由用戶及社會承擔後果。
與此同時，一封10月公布的人工智能安全公開信，亦要求國際社會加強對先進模型的監督。路透社報道，約400名、來自34個國家的科學家參與聯署，包括辛頓與人工智能學者本吉奧。聯署者主張成立國際機構，為安全評估及模型使用制定共同要求。
公開信指出，安全工作須同時處理模型行為是否可靠，以及系統能否被有效限制在指定環境內。對具備強大網絡攻擊能力的模型，聯署者提出先採取與外界網絡隔離等防護，待符合安全標準後，再按條件允許連接互聯網。
聯署建議亦包括記錄和追蹤防護失效事件，建立事故通報安排，並在適當情況下公開資料，讓其他開發者與監管機構了解漏洞。公開信認為，對失敗個案作系統整理，有助改進防護措施及釐清責任，避免同類問題在不同系統重複出現。
辛頓並未否定人工智能在醫療、科研等方面的潛力，也不願把自己簡單歸為悲觀論者。他談及人類是否應發展人工智能時，承認結果仍有不確定性；他的要求集中於安全測試、獨立監督，以及在技術能力繼續上升前建立治理安排。（編輯部）
贵公网安备52011302005168号