【項目動态】受邀中國(guó)國(guó)際半導體高管峰會 深蘭率先發(fā)布可解釋人工智能(néng)（XAI）技術應用框架

10月13日，爲期兩(liǎng)天的中國(guó)國(guó)際半導體高管峰會（China International Semiconductor Executive Summit）在上海成(chéng)功舉行。作爲全球規模最大的半導體制造産業高管的年度盛會，今年大會結合人工智能(néng)技術應用探讨了半導體行業的發(fā)展趨勢，并邀請到了清華大學(xué)魏少軍教授（IEEE Fellow, CIE Fellow）、長(cháng)江存儲的首席執行官楊士甯等演講嘉賓。

深蘭科技首席數據科學(xué)家、戰略委員會戰略技術專家、深蘭科學(xué)院智能(néng)社會研究院院長(cháng)沙文灏也受邀參加，作爲國(guó)内人工智能(néng)企業率先公開(kāi)發(fā)表了《深蘭科技可解釋人工智能(néng)（XAI）技術》并作主題演講。

未來2-3年内，約50%以上的信息系統直接或間接地與機器學(xué)習相關，在企業數字化轉型（DX）與人工智能(néng)的主要應用（自然語言處理、自動駕駛與智能(néng)工廠等）中起(qǐ)到了決定性的作用。可解釋人工智能(néng)（XAI: Explainable Artificial Intelligence）技術應用正在形成(chéng)閉環，也是實現安全可信人工智能(néng)重要的基礎。

XAI架起(qǐ)數據特征和人類概念(語義)空間的橋梁

中國(guó)的基礎研究在全球占有一定的優勢，提出決策幫助推進(jìn)業務是人工智能(néng)的首要任務。傳統人工智能(néng)的核心是通過(guò)機器學(xué)習盡可能(néng)地把觀測樣(yàng)本（訓練數據）映射到特征空間中, 而後(hòu)在特征空間進(jìn)行分析, 并發(fā)現樣(yàng)本在特征空間不同區域内的規律, 從而達到算法要實現的任務目标（如聚類、解析等）。但是人類的分析和決策是利用自身的背景知識，在概念（語義）空間（非定理性）當中完成(chéng)的。

數據特征空間和人類概念（語義）空間（非定理性）在内涵（結構）與外延（影響）上存在顯著的區别，而可解釋人工智能(néng)就是要填補這(zhè)二者之間的鴻溝（GAP）。

人工智能(néng)模型越來越多地被(bèi)用于輔助與代替人類決策，這(zhè)些情況下，企業更需要了解這(zhè)些模型是如何做出決策的。爲了與用戶及權益方建立信任，人工智能(néng)的應用必須讓所有的模型變得更加透明與更易理解。

XAI正形成(chéng)閉環 人類或將(jiāng)讀懂AI推理

人工智能(néng)推動企業加速創新，它已經(jīng)從執行簡單任務的自動化操作升級成(chéng)爲與人類互動的強大協作工具。企業已不再將(jiāng)人工智能(néng)視爲簡單的技術工具，而是成(chéng)爲整個組織的變革引擎。未來，企業需要以人機協作爲核心，有效地運用工具和改進(jìn)方法，幫助人與機器更好(hǎo)地相互理解及互動。

自然語言處理技術提高了機器理解書面(miàn)和口頭文字的能(néng)力；擴展現實和計算機視覺的進(jìn)步，可幫助機器準确識别人們周邊的實體環境；而可解釋人工智能(néng)(XAI)正在形成(chéng)閉環，使人們明确系統做出決策的推理。在人機協作模式下，從部門架構、産品設計、一直到員工的雇用和培訓，企業將(jiāng)對(duì)業務進(jìn)行徹底的重構。

使用“提示決策依據的人工智能(néng)”，以實現決策的可視化、高度化：

可理解：基于提出預測結果的依據取得業務人員的理解，促進(jìn)AI的使用；

可确認：可以确認AI正确學(xué)習了業務知識，提高業務人員使用AI的願意；

可改善：在與PoC有較大差别時能(néng)迅速确定原因，使AI的預測得到改善。

XAI作爲核心的數字化架構

在基于IoT、API管理、網絡安全、DevOps、雲計算、RPA、容器化的數字化能(néng)力的基礎上，使用可解釋人工智能(néng)（XAI）作爲核心的數字化架構爲工業4.0、生态整合、個性化營銷、供應鏈、生産管理等提供人工智能(néng)技術的賦能(néng)。

比如：當XAI使得AI内部工作透明化時，將(jiāng)有助于建立企業和其他行業監管的信心；當XAI將(jiāng)通過(guò)自然語言(語音或文本)來解釋它的決定，而不是通過(guò)複雜的模型時，使用者會更容易理解，也將(jiāng)推動自然語言解釋與XAI的結合使用；當與XAI將(jiāng)建立起(qǐ)信任的橋梁，人們就能(néng)夠在方方面(miàn)面(miàn)中适應并習慣與智能(néng)機器一起(qǐ)工作與生活，從而真正享受人工智能(néng)技術帶來的社會進(jìn)步。

XAI領域有很好(hǎo)的發(fā)展前景，可以幫助企業解決傳統AI的不足，在可理解的基礎上，全方位推動企業成(chéng)長(cháng)與社會發(fā)展。

XAI，未來可期。