隨著人工智能大模型在各行業(yè)的廣泛應(yīng)用，這位“數(shù)字助手”在帶來(lái)便利的同時(shí)，也引發(fā)了新的安全隱患。國(guó)家安全部門(mén)近期披露的案例顯示，部分機(jī)構(gòu)因不當(dāng)使用開(kāi)源AI工具，導(dǎo)致內(nèi)部數(shù)據(jù)面臨泄露風(fēng)險(xiǎn)。

某單位工作人員在處理內(nèi)部文件時(shí)，違規(guī)使用開(kāi)源AI工具，由于系統(tǒng)默認(rèn)開(kāi)啟公網(wǎng)訪問(wèn)且未設(shè)置密碼，導(dǎo)致敏感資料被境外IP非法訪問(wèn)和下載。這一事件暴露出開(kāi)源框架在網(wǎng)絡(luò)安全防護(hù)方面的薄弱環(huán)節(jié)。專家指出，開(kāi)源大模型雖具有免費(fèi)使用的優(yōu)勢(shì)，但其架構(gòu)、參數(shù)和訓(xùn)練數(shù)據(jù)的公開(kāi)性，使得數(shù)據(jù)安全成為首要挑戰(zhàn)。

中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)委員王媛媛解釋，開(kāi)源大模型是指將模型核心代碼、參數(shù)和訓(xùn)練數(shù)據(jù)向公眾開(kāi)放的AI系統(tǒng)。這類模型功能多樣，有的擅長(zhǎng)邏輯推理，有的精通代碼編寫(xiě)，還有的能處理文本或影像數(shù)據(jù)。例如，用戶上傳體檢報(bào)告后，模型可分析身體異常并提供調(diào)整建議。然而，這種便利性背后隱藏著數(shù)據(jù)泄露風(fēng)險(xiǎn)。

專家特別強(qiáng)調(diào)，AI工具的存儲(chǔ)功能常被用戶忽視。所有輸入模型的文件、圖片等數(shù)據(jù)都會(huì)被系統(tǒng)自動(dòng)保存，這是其進(jìn)行分析的基礎(chǔ)機(jī)制。若企業(yè)將機(jī)密數(shù)據(jù)上傳至開(kāi)源平臺(tái)，相當(dāng)于主動(dòng)將信息暴露在潛在威脅之下。開(kāi)發(fā)者因擁有系統(tǒng)權(quán)限可查看數(shù)據(jù)，黑客則可能通過(guò)攻擊模型漏洞入侵后臺(tái)，兩種途徑均可能導(dǎo)致數(shù)據(jù)泄露。

針對(duì)普通網(wǎng)民，專家建議避免在開(kāi)源AI工具中輸入個(gè)人敏感信息，如身份證號(hào)、銀行賬戶等。企業(yè)用戶若需使用開(kāi)源模型訓(xùn)練自有數(shù)據(jù)，應(yīng)采取私有化部署方案，將所有數(shù)據(jù)存儲(chǔ)在本地服務(wù)器，并配備專業(yè)團(tuán)隊(duì)維護(hù)系統(tǒng)安全。這種方案雖需投入基礎(chǔ)設(shè)施和人力成本，但能有效阻斷數(shù)據(jù)外流途徑。