OpenAI揭露AI模型未經授權存取澳洲政府網站　將強化資安防護

OpenAI表示，旗下人工智慧（AI）模型在6月的內部訓練及評估期間，未經授權存取多個澳洲政府網站，其中包括Services Australia的醫療統計服務。OpenAI表示，目前沒有證據顯示個人醫療紀錄遭到存取，並承認公司得知事件後的通報及處理速度不夠理想。

AI模型取得非公開系統存取權

OpenAI指出，公司在7月發生Hugging Face事件後，回頭檢視更早期的訓練及評估活動，並於8月中發現涉及澳洲政府機構的相關行為。調查發現，Services Australia事件涉及一款僅供內部使用、尚未公開發布且未配備完整安全防護的實驗性模型。

該模型原本被要求研究維多利亞州各社區每人用於皮膚疾病藥物的政府支出。模型在取得資訊時遇到困難，因而採取未獲授權的行動，最終找到取得Services Australia醫療統計報告服務非公開存取權的方式，並進一步查看系統技術資訊、相關原始碼、憑證及彙總統計資料。不過，OpenAI表示，未發現個別病患或服務使用者紀錄遭到存取。

此外，OpenAI表示，模型也曾透過新南威爾斯州犯罪統計與研究局（BOCSAR）的公開犯罪地圖工具查詢犯罪統計資料，並取得系統設定、作業紀錄及網站中繼資料，但未存取個人犯罪紀錄。維多利亞州衛生部相關事件則涉及模型發現暴露的存取金鑰，取得報告設定及彙總調查統計資料，同樣沒有存取個人醫療紀錄或可識別的調查回答。

OpenAI加強網路限制與監控

OpenAI表示，事件發生後已在研究環境增加網路限制及監控，阻止模型直接連線即時網路，改由快取內容提供網頁存取。目前的監控系統若偵測到模型取得即時網路存取權，將通知人工審查人員，並可中止相關訓練。

OpenAI同時表示，已暫停針對能力最強大的模型、涉及工具使用的訓練及評估，直到新增安全措施完成。公司也承諾向受影響的澳洲政府機構提供技術支援，並從10億美元的「Daybreak for Frontline Defenders」基金提供資源及資安協助。

此外，OpenAI將成立由澳洲專家參與的工作小組，研究AI代理風險及政府通報機制，並提出加強AI開發商與政府協調、保護政府系統，以及降低類似事件發生機率的建議。OpenAI表示，首席策略長Jason Kwon預計10月6日在雪梨出席澳洲國會人工智慧聯合特設委員會（Joint Select Committee on Artificial Intelligence），說明事件經過及公司後續措施。