隨著人工智能技術(shù)在全球范圍內(nèi)的迅猛發(fā)展,今年以來,國內(nèi)AI大模型與AI智能體技術(shù)迎來爆發(fā)式發(fā)展。不僅通用大模型持續(xù)迭代,各行業(yè)的垂直大模型也逐步落地,日漸成為推動產(chǎn)業(yè)智能化的重要力量。與此同時,技術(shù)的廣泛應(yīng)用也帶來了大眾對安全與合規(guī)問題的更多關(guān)注。微風(fēng)企中小企業(yè)研究院院長潘成挺表示:“尤其在金融、財稅等對數(shù)據(jù)高度敏感的行業(yè),企業(yè)普遍關(guān)注大模型與智能體應(yīng)用過程中可能涉及的隱私保護(hù)、數(shù)據(jù)來源合規(guī)性以及模型的可信度等問題。”
潘成挺認(rèn)為,隨著企業(yè)數(shù)字化程度的不斷加深,AI等數(shù)字技術(shù)更深入地應(yīng)用到核心業(yè)務(wù)場景中,企業(yè)對技術(shù)平臺的安全要求也相應(yīng)提高。智能體在獲取和處理外部數(shù)據(jù)時是否符合法律法規(guī),大模型的推理是否具備可解釋性與可追溯性,成為企業(yè)決策者和技術(shù)團(tuán)隊(duì)重視的議題。
在此背景下,部分科技企業(yè)開始將“安全與合規(guī)內(nèi)置”作為技術(shù)解決方案設(shè)計的基本原則。以微風(fēng)企為代表的技術(shù)服務(wù)商,逐步探索出了一條清晰、實(shí)用的數(shù)據(jù)技術(shù)服務(wù)合規(guī)服務(wù)路徑。其在數(shù)據(jù)采集與處理階段強(qiáng)調(diào)合規(guī)操作,除公開信息自動化采集外,針對企業(yè)關(guān)鍵財稅數(shù)據(jù),需獲得企業(yè)明確授權(quán)后方可進(jìn)行處理,以保障數(shù)據(jù)來源的合法性與安全性。
在業(yè)務(wù)實(shí)施中,微風(fēng)企通過建立覆蓋數(shù)據(jù)全生命周期的安全管理機(jī)制,包括使用端到端加密、匿名化處理、訪問權(quán)限控制等技術(shù)手段,同時承諾不存儲任何企業(yè)數(shù)據(jù),并定期經(jīng)公證處理刪除數(shù)據(jù),從多個環(huán)節(jié)構(gòu)建數(shù)據(jù)保護(hù)屏障。該類做法試圖在技術(shù)創(chuàng)新與風(fēng)險控制之間尋求平衡,以促進(jìn)人工智能在商業(yè)應(yīng)用中的合規(guī)落地。
潘成挺表示:“當(dāng)前,我們正步入一個‘AI+’的商業(yè)階段。盡管技術(shù)發(fā)展為企業(yè)帶來諸多機(jī)遇,但也要求各方對數(shù)據(jù)安全、倫理規(guī)范及合規(guī)性予以充分重視。”技術(shù)應(yīng)用在逐漸落地的同時,建立可靠、透明和可信的基礎(chǔ)機(jī)制,將有助于人工智能真正成為支持企業(yè)長期發(fā)展的積極力量。(鐘新)