作者：[ Tencent Blade Team ] Cradmin
來源：https://security.tencent.com/index.php/blog/msg/130
0x1 大勢所趨 —— 人工智能時代來臨
我們身處一個巨變的時代，各種新技術層出不窮，人工智能作為一個誕生於上世紀50年代 的概念，近兩年出現井噴式發展，得到各行各業的追捧，這背後來自於各種力量的推動，諸如深度學習算法的突破、硬件計算能力的提升、不斷增長的大數據分析需求等。從2017年的迅猛發展，到2018年的持續火爆，國內外各個巨頭公司如騰訊、阿里、百度、Google、微軟、Facebook等均開始在人工智能領域投下重兵，毫無疑問，這一技術未來將會深度參與我們的生活並讓我們的生活產生巨大改變：人工智能時代來了！
面對一項新技術/新趨勢的發展，作為安全研究人員該關注到什麼？沒錯，每一個新技術的誕生及應用都會伴隨有安全風險，安全研究人員要在風暴來臨之前做到未雨綢繆。Blade Team作為關注行業前瞻安全問題的研究團隊，自然要對AI技術進行安全預研。
0x2 未雨綢繆 —— AI系統安全風險分析
一個典型的人工智能系統大致由3部分組成：算法模型，AI支撐系統(訓練/運行算法的軟件基礎設施)和業務邏輯及系統。比如一個人臉識別系統基本架構如下：