在人工智能落地安防和泛視頻應(yīng)用的業(yè)務(wù)當中，不同的企業(yè)是基于各種類型的目的，其中絕大多數(shù)企業(yè)是要抓住人工智能技術(shù)的風口，推動各類創(chuàng)新業(yè)務(wù)和應(yīng)用的實現(xiàn)，以此實現(xiàn)企業(yè)的商業(yè)利益達成。用戶則是希望導(dǎo)入人工智能技術(shù)實現(xiàn)更多的創(chuàng)新應(yīng)用，提升管理的效率，實現(xiàn)產(chǎn)業(yè)的轉(zhuǎn)型升級。

但是，也不排除一些企業(yè)和用戶出于對非法或犯罪利益的追求，高清監(jiān)控系統(tǒng)表示將人工智能技術(shù)用到了違法犯罪的活動當中，目前在各類新聞事件中報導(dǎo)的案例可能只是開端。    

因此，如何在相關(guān)系統(tǒng)項目的搭建時對其應(yīng)用目的進行監(jiān)管和評估，包括運行過程中對其違法、違規(guī)行為進行監(jiān)測，是有必要的。相關(guān)技術(shù)系統(tǒng)出于社會公共利益為目的由什么機構(gòu)來監(jiān)管？若是出于商業(yè)利益為目的進行搭建，其針對的社會大眾目標對象的知情權(quán)，許可權(quán)等權(quán)利如何切實保障？這都是要考慮的問題。

另外，在一些項目安防監(jiān)控系統(tǒng)的應(yīng)用中，人臉數(shù)據(jù)是在公網(wǎng)上傳輸（實質(zhì)相當于在網(wǎng)上裸奔），而一些人工智能企業(yè)是在國外引入的開源算法基礎(chǔ)上做的二次開發(fā)，自己并不掌握底層的技術(shù)與源代碼，等等，這些現(xiàn)象都是潛在風險發(fā)生的節(jié)點。

當前，在不少省市的數(shù)字城市TOG建設(shè)規(guī)劃文件中，對數(shù)據(jù)生成、應(yīng)用、存儲，包括基礎(chǔ)構(gòu)建等環(huán)節(jié)的安全防護都有比較清晰的條文說明，例如數(shù)字廣東的文件中要求“構(gòu)建全方位、多層次、一致性的安全防護體系，加強數(shù)據(jù)安全保護，切實保障‘數(shù)字政府’信息基礎(chǔ)設(shè)施、平臺和應(yīng)用系統(tǒng)平穩(wěn)高效安全運行。增強安全管理、安全保障、安全運用等立體防護能力。完善基于物理、網(wǎng)絡(luò)、平臺、數(shù)據(jù)、應(yīng)用、管理的六層立體安全防護體系?！?

對比下來，目前人工智能技術(shù)在安防或視頻應(yīng)用落地的火熱的項目建設(shè)中，客觀地講，尚缺乏一套能覆蓋核心技術(shù)、產(chǎn)品系統(tǒng)、建設(shè)、運營、使用、監(jiān)管等主體對象的系統(tǒng)化機制，或者是規(guī)則。

過去在以視頻圖像為核心的安防系統(tǒng)建設(shè)時，有中國圖像圖形學(xué)學(xué)會視頻監(jiān)控與安全專委會、公安部安全防范技術(shù)與風險評估重點實驗室學(xué)術(shù)委員會等專家小組參與其中，并從上到下建立了比較完善的法規(guī)、標準、規(guī)范文件體系。

在人工智能技術(shù)快速落地安防或視頻應(yīng)用的新時期，針對由此產(chǎn)生的數(shù)據(jù)安全防護問題，是時候開始推進與之相關(guān)的管理機制、標準規(guī)范、保障策略、技術(shù)支撐等安全防護體系建設(shè)了。

正如清華大學(xué)媒體大數(shù)據(jù)認知計算研究中心主任王生進教授所說的，現(xiàn)在視頻監(jiān)控與人臉識別的應(yīng)用太多了，對數(shù)據(jù)的安全防護工作刻不容緩。