警覺！AI工具可能正在泄露您的數(shù)據(jù)...
“AI在國內(nèi)企業(yè)滲透率如何？”調(diào)研中Gartner向界面新聞記者提供了部分參考，截至今年4月底企業(yè)調(diào)研報告數(shù)據(jù)顯示，有6%的企業(yè)已經(jīng)部署了生成式AI工具，50%的企業(yè)正在試點使用或計劃在半年內(nèi)部署使用相關(guān)工具，這一比例高于中東與南亞企業(yè)。
不論是企業(yè)自身使用大模型訓(xùn)練自己的AI服務(wù)，還是內(nèi)部員工使用AI工具提高生產(chǎn)力，當(dāng)下都已逐漸演變?yōu)槌B(tài)。近期，國內(nèi)某互聯(lián)網(wǎng)大廠也被傳出正通過API將ChatGPT集成至內(nèi)部的應(yīng)用程序和服務(wù)中用以打造自己的大模型....然而，潮流的背后，潛在的安全隱患是否能夠被及時識別呢？...
隨著類ChatGPT人工智能技術(shù)的快速發(fā)展，ChatGPT等AI工具爆火，眾多AI衍生產(chǎn)品的不斷涌現(xiàn)加速滲透各行各業(yè)，逐漸演變?yōu)楫?dāng)今社會中不可或缺的一部分。與此同時，大型AI模型在文案處理、搜索引擎、圖像識別、網(wǎng)站以及代碼輔助編寫插件等領(lǐng)域取得顯著進(jìn)展。
盡管這些AI工具在提高辦公效率方面發(fā)揮了關(guān)鍵作用，卻也帶來一系列潛在風(fēng)險。企業(yè)員工在使用AI工具時可能無意中將企業(yè)敏感數(shù)據(jù)粘貼或上傳至AI工具中，而AI開發(fā)商在未經(jīng)用戶同意和授權(quán)的情況下，可能存在非法收集數(shù)據(jù)、違法售賣數(shù)據(jù)的風(fēng)險，從而導(dǎo)致公司商業(yè)機密泄露的危險。
有公開信息報道ChatGPT曾發(fā)生過泄密事件：“三星公司在使用ChatGPT不到20天時，就發(fā)現(xiàn)自己的半導(dǎo)體設(shè)備測量資料、產(chǎn)品良率等數(shù)據(jù)被盜取，并存入了美國的ChatGPT數(shù)據(jù)庫中，原因是員工直接將企業(yè)機密信息以提問的方式輸入到ChatGPT中，從而導(dǎo)致相關(guān)內(nèi)容進(jìn)入學(xué)習(xí)數(shù)據(jù)庫。”AI服務(wù)這種默認(rèn)保存信息的做法使得使用AI工具存在數(shù)據(jù)泄露的風(fēng)險，可能會給公司帶來難以估量的損失。
因此，億格云團隊經(jīng)過調(diào)研后發(fā)現(xiàn)，在實際使用AI工具過程中，企業(yè)往往面臨著兩個核心挑戰(zhàn)：
目前公司內(nèi)有多少員工正在使用可能造成數(shù)據(jù)泄露的AI工具？
是否有敏感數(shù)據(jù)可能正在或已經(jīng)泄露到多少AI工具中？
出于對企業(yè)真實痛點的洞察，億格云團隊發(fā)布擴展數(shù)據(jù)防泄漏（XDLP）新功能，借助億格云樞XDLP功能能對市面上主流的AI工具進(jìn)行檢測與審計，充分滿足多種場景：
數(shù)據(jù)泄露風(fēng)險管控：
實時檢測并阻止AI工具使用過程中泄露敏感數(shù)據(jù)行為
合規(guī)審計：
對使用AI工具處理數(shù)據(jù)行為進(jìn)行完整檢測和審計，以符合企業(yè)合規(guī)要求
功能亮點解析
全面了解AI工具數(shù)據(jù)安全風(fēng)險態(tài)勢。億格云樞內(nèi)置海內(nèi)外常見3000+網(wǎng)站域名，分為AI辦公、AI對話、AI編程三大類，如常見的ChatGPT、通義千問、文心一言、百川大模型、Gemini、Copilot等AI工具。高效幫助企業(yè)管理者梳理敏感數(shù)據(jù)風(fēng)險態(tài)勢。
減少數(shù)據(jù)泄露風(fēng)險。億格云樞可精準(zhǔn)識別向AI工具網(wǎng)站的文本粘貼、文件上傳等動作，自動檢測其敏感數(shù)據(jù)內(nèi)容并生成告警事件，自動發(fā)現(xiàn)已安裝代碼工具IA插件的人員與終端，幫助企業(yè)管理者快速發(fā)現(xiàn)可能存在數(shù)據(jù)泄露的風(fēng)險人員和風(fēng)險事件。
（模擬用戶粘貼上傳敏感信息至AI工具）
（該高危風(fēng)險行為產(chǎn)生告警）
滿足數(shù)據(jù)安全保護(hù)法律法規(guī)與合規(guī)要求。確保在數(shù)據(jù)處理中符合相關(guān)法律法規(guī)，避免因違規(guī)造成更多損失。
除了能多維度對AI工具使用的識別與檢測分析之外，億格云樞對企業(yè)數(shù)據(jù)安全建設(shè)還大有裨益，包括優(yōu)化企業(yè)安全策略、提高內(nèi)部安全意識、減少數(shù)據(jù)泄露事件發(fā)生、降低數(shù)據(jù)泄露事件影響等。
在企業(yè)發(fā)展經(jīng)營的世界里，數(shù)據(jù)安全絕無小事。負(fù)責(zé)任的對AI工具投入管理亦迫在眉睫。億格云也將持續(xù)致力于解決企業(yè)數(shù)據(jù)安全管理中的真實痛點，打造“企業(yè)真正受用的安全產(chǎn)品”。實現(xiàn)All in One的全效安全！
[免責(zé)聲明]
原文標(biāo)題： 警覺！AI工具可能正在泄露您的數(shù)據(jù)...
本文由作者原創(chuàng)發(fā)布于36氪企服點評；未經(jīng)許可，禁止轉(zhuǎn)載。
