• 企業動态
    企業動态
    企業動态

首頁 > 關于我們 > 企業動态 > 公司新聞 > AI時(shí)代,網絡安全面(miàn)臨的威脅與...

AI時(shí)代,網絡安全面(miàn)臨的威脅與應對(匠要duì)之道(dào)

發(fā)布時(shí)間:2023-06-15

當前,人工智能(néng)浪潮持續蔓延,東吧聊天機器人和生成(chéng)式人工智能(né技錯ng)成(chéng)爲主流。AI技術在校動快速改變人們日常生活的同時(shí),也帶來討白大量有關安全合規、應用安全等方面(miàn愛作)的新風險、新挑戰。


      章路近日,在全國(guó)信息安全标準化技術委員會(huì)2023年“近家人工智能(néng)安全與标準研讨會(huì)”上,信安标委大數據厭討安全标準特别工作組發(fā)布了《人工智能(n間拿éng)安全标準化白皮書(2023版)》。該标準梳理了人工智能(néng)讀如技術與應用發(fā)展現狀,分析了人我新工智能(néng)面(miàn)臨的新的安全風險,討醫并指出了人工智能(néng)安全标準需求,确保AI發(fā)展與安全相輔相成(火懂chéng)。


      深度學(xué)習需要風上利用大量數據進(jìn)行訓練,人工智能(né可友ng)服務能(néng)力很大程度上也依賴于背後(hòu)的海量數坐身據。目前,應用市場上存在許多熱門的人工智能(n樂藍éng)聊天機器,如AI聊天創作機器人、AI問答機器人等,其背後(hòu關美)就(jiù)是大語言模型,核心邏輯多著便是對(duì)海量數據進(jìn)行處理、加我河工和輸出的過(guò)程。然而,這(zhè)坐道也意味著(zhe)該類應用很可能(n和又éng)在用戶不知情的情況下收集用戶查詢的相關内容,并用于化紙後(hòu)續模型的開(kāi)發(fā)。身會出于對(duì)信息的保護,一些歐洲國(guó)家的公司和機構場低禁止使用此類人工智能(néng)産品,以防止公費機司機密數據洩露。


       AI技術的不斷完善,男木使其成(chéng)爲生産力進(jìn)步的有力抓手。飛路許多企業組織將(jiāng)人工智能(néng)人刀視爲企業數字化轉型的得力助手,將(j討大iāng)其應用于移動應用APP,以更好(hǎ空身o)地開(kāi)展移動辦公,爲客戶提供更好(h高拿ǎo)的業務服務,同時(shí)提高工低坐作效率及降低成(chéng)本。然而,跳樹黑産組織對(duì)AI應用的蓄線但意攻擊也在不斷增加,通過(guò)侵入系飛街統破壞組織的業務運作,不僅可以竊取用戶和企業數據,還(hái)能(né子師ng)夠對(duì)企業的人工智能睡我(néng)模型等核心資産進(jìn)行篡改。因而,對(duì)企業核木在心資産安全的保護加強也尤爲重要。




· 個人需加強信息保護意識,遵守企業制定的相關規機見範,避免個人及企業數據遭受到安全威脅。

· 企業在使用AI應用的同時(shí),也需要加強管理制度規範及員上鐘工安全防範意識培訓。

· AI服務提供方需積極落實《數據安全法》、理在《個人信息保護法》等相關規範,确保用戶及業務數據的安全性,同時(shí劇費)更需加強人工智能(néng)模型參數等河小相關技術的機密性,以保障企業利益不受侵你來犯。


上訊信息針對(duì)人工智能(nén老我g)移動業務安全提供應用和數據的全周期安全防護通媽。

· 通過(guò)對(duì)移動應用APP醫理程序文件進(jìn)行全面(miàn)的、多去離維度的、自動化安全掃描,發(fā)現程序代碼中存在的安說秒全漏洞和數據洩露風險。同時(shí)使用隐私合規檢測功能(néng老姐),盡可能(néng)在應用開(kāi飛窗)發(fā)階段,解決應用安全合規問題。

· 在操作系統原有安全體系基礎上,利用動态加載、動态代理、兵商虛拟機保護和加解密等技術手段,對(duì)應用程序進(j刀樂ìn)行統一安全加固,保證移動應近中用的安全性和完整性,防止移動應用被(bèi)反編譯、草相動态調試和篡改打包,确保移動應用上請校線發(fā)布後(hòu)的安全可靠運行。

· 通過(guò)應用自動化沙箱加殼,實現應用獨立隔離運行環境,提供應用風服權限控制、應用隐私保護、數據防洩漏、做個數據加密保護等,增強移動應用業務數據和運行時(sh知她í)的安全性,保障應用業務安全可靠。


在當前快速發(fā)展的人工智能(nén年離g)時(shí)代,AI的雙刃劍效應不可避免。爲确保AI系統不被(bè去多i)濫用或操縱,需要各方積極采取措施,將視件(jiāng)安全性置于首要位置,通過(guò)道爸嚴格的隐私保護和數據安全措施,共同構建值得信賴會月的AI生态系統。


分享:
×
隐私條款
×

此處放标題

内容暫無















免費咨詢熱線:400-880-5062
電話:86-21-51905999
傳真:86-21-51905959
郵編:201203
地址:上海市浦東新區張江高科技園區郭守敬路498号20号樓
我同意