進(jìn)入新世紀(jì)以來，隨著云計(jì)算和大數(shù)據(jù)技術(shù)的發(fā)展，為人工智能提供了超強(qiáng)算力和海量數(shù)據(jù)，另外，以2006年深度學(xué)習(xí)模型的提出為標(biāo)志，人工智能核心算法取得重大突破并不斷優(yōu)化，與此同時(shí)，移動(dòng)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)的發(fā)展為人工智能技術(shù)落地提供了豐富應(yīng)用場(chǎng)景。

算力、算法、數(shù)據(jù)和應(yīng)用場(chǎng)景的共同作用，激發(fā)了新一輪人工智能發(fā)展浪潮，人工智能技術(shù)與產(chǎn)業(yè)發(fā)展呈現(xiàn)加速態(tài)勢(shì)。然而凡事有利有弊，隨著人工智能的快速發(fā)展，關(guān)于人工智能安全的擔(dān)憂也開始出現(xiàn)并引起注意。

三個(gè)角度定義人工智能安全

由于人工智能可以模擬人類智能，實(shí)現(xiàn)對(duì)人腦的替代，因此，在每一輪人工智能發(fā)展浪潮中，尤其是技術(shù)興起時(shí)，人們都非常關(guān)注人工智能的安全問題和倫理影響。從1942年阿西莫夫提出“機(jī)器人三大定律”到2017年霍金、馬斯克參與發(fā)布的“阿西洛馬人工智能23原則”，如何促使人工智能更加安全和道德一直是人類長(zhǎng)期思考和不斷深化的命題。

當(dāng)前，隨著人工智能技術(shù)快速發(fā)展和產(chǎn)業(yè)爆發(fā)，人工智能安全越發(fā)受到關(guān)注。一方面，現(xiàn)階段人工智能技術(shù)不成熟性導(dǎo)致安全風(fēng)險(xiǎn)，包括算法不可解釋性、數(shù)據(jù)強(qiáng)依賴性等技術(shù)局限性問題，以及人為惡意應(yīng)用，可能給網(wǎng)絡(luò)空間與國(guó)家社會(huì)帶來安全風(fēng)險(xiǎn)；另一方面，人工智能技術(shù)可應(yīng)用于網(wǎng)絡(luò)安全與公共安全領(lǐng)域，感知、預(yù)測(cè)、預(yù)警信息基礎(chǔ)設(shè)施和社會(huì)經(jīng)濟(jì)運(yùn)行的重大態(tài)勢(shì)，主動(dòng)決策反應(yīng)，提升網(wǎng)絡(luò)防護(hù)能力與社會(huì)治理能力。

基于以上分析，可以從三個(gè)角度來定義人工智能安全：一是降低人工智能不成熟性以及惡意應(yīng)用給網(wǎng)絡(luò)空間和國(guó)家社會(huì)帶來的安全風(fēng)險(xiǎn)；二是推動(dòng)人工智能在網(wǎng)絡(luò)安全和公共安全領(lǐng)域深度應(yīng)用；三是構(gòu)建人工智能安全管理體系，保障人工智能安全穩(wěn)步發(fā)展。

三個(gè)維度構(gòu)建安全體系架構(gòu)

基于對(duì)人工智能安全定義的理解，可以從安全風(fēng)險(xiǎn)、安全應(yīng)用、安全管理三個(gè)維度來構(gòu)建人工智能安全體系架構(gòu)。架構(gòu)中三個(gè)維度彼此獨(dú)立又相互依存。其中，安全風(fēng)險(xiǎn)是人工智能技術(shù)與產(chǎn)業(yè)對(duì)網(wǎng)絡(luò)空間安全與國(guó)家社會(huì)安全造成的負(fù)面影響；安全應(yīng)用則是探討人工智能技術(shù)在網(wǎng)絡(luò)信息安全領(lǐng)域和社會(huì)公共安全領(lǐng)域中的具體應(yīng)用方向；安全管理從有效管控人工智能安全風(fēng)險(xiǎn)和積極促進(jìn)人工智能技術(shù)在安全領(lǐng)域應(yīng)用的角度，構(gòu)建人工智能安全管理體系。

智能安防市場(chǎng)規(guī)模或超千億

隨著我國(guó)平安城市、天網(wǎng)工程、雪亮工程建設(shè)的不斷推進(jìn)，安防行業(yè)快速發(fā)展。“十三五”期間，安防行業(yè)正逐步向規(guī)?；?、自動(dòng)化、智能化轉(zhuǎn)型升級(jí)，預(yù)計(jì)到2020年，安防企業(yè)總規(guī)?；蚪咏?000億元，年增長(zhǎng)率達(dá)到10%以上。

與之相應(yīng)的國(guó)內(nèi)智能安防從2016年開始步入快速發(fā)展期，但受限于智能化產(chǎn)品價(jià)格偏高、場(chǎng)景應(yīng)用局限性大等問題，大部分安防企業(yè)對(duì)人工智能還處在嘗試使用階段，超過90%的市場(chǎng)份額還是傳統(tǒng)安防占據(jù)，但隨著以公安、交通、金融為代表的社會(huì)治理領(lǐng)域進(jìn)一步驅(qū)動(dòng)智能安防快速應(yīng)用，未來市場(chǎng)發(fā)展空間巨大。

目前看，國(guó)內(nèi)安防市場(chǎng)競(jìng)爭(zhēng)格局以人工智能創(chuàng)新型企業(yè)和傳統(tǒng)安防巨頭兩類企業(yè)為主。其中，基于人工智能的初創(chuàng)企業(yè)如云從科技、商湯科技和曠視科技等，依托在計(jì)算機(jī)視覺、數(shù)據(jù)深度分析等方面的技術(shù)積累，推出智能安防產(chǎn)品，進(jìn)行產(chǎn)業(yè)布局；傳統(tǒng)安防巨頭?？低?、大華股份等近年來不斷加大研發(fā)投入，加強(qiáng)技術(shù)創(chuàng)新能力，并且對(duì)初創(chuàng)企業(yè)進(jìn)行投資收購，逐步提升安防產(chǎn)品智能化水平。

預(yù)計(jì)到2020年，國(guó)內(nèi)智能安防的市場(chǎng)份額將達(dá)到15%，2025年市場(chǎng)份額或?qū)⑴c傳統(tǒng)安防分庭抗禮。

以上數(shù)據(jù)及分析均來自于前瞻產(chǎn)業(yè)研究院《2018-2023年中國(guó)人工智能行業(yè)市場(chǎng)前瞻與投資戰(zhàn)略規(guī)劃分析報(bào)告》。

更多深度行業(yè)分析盡在【前瞻經(jīng)濟(jì)學(xué)人APP】，還可以與500+經(jīng)濟(jì)學(xué)家/資深行業(yè)研究員交流互動(dòng)。