長期以來，國芯科技在信息安全以及可信計算領(lǐng)域具有深厚的技術(shù)積累和豐富的產(chǎn)品積累。面對人工智能（AI）帶來的安全挑戰(zhàn)，國芯科技積極投入研發(fā)力量，經(jīng)過研發(fā)人員的不懈努力，于近日基于參股公司江原科技第一代國產(chǎn)自主AI算力芯片成功推出可信AI推理卡CCAT200T。

可信是AI發(fā)展共識

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。然而，隨著 AI 應(yīng)用的不斷拓展，一些風(fēng)險和挑戰(zhàn)也暴露了出來，主要體現(xiàn)在以下幾個方面：

算法不魯棒導(dǎo)致的應(yīng)用風(fēng)險，例如自動駕駛汽車未能及時識別行人導(dǎo)致的交通事故。黑箱模型導(dǎo)致算法難以解釋，對用戶不透明，例如難以推廣至醫(yī)療、金融等需要解釋爭議性決策的領(lǐng)域。數(shù)據(jù)、模型和評估的偏見導(dǎo)致的決策不公平現(xiàn)象，例如保險定價、犯罪預(yù)測等場景可能對部分人群存在偏見。數(shù)據(jù)濫用導(dǎo)致的隱私泄露風(fēng)險，例如個人隱私數(shù)據(jù)的廣泛收集和使用導(dǎo)致泄露的可能性增大，一旦丟失會對個人和企業(yè)等造成極大的負(fù)面影響。面對 AI 引發(fā)的信任風(fēng)險，發(fā)展 AI 可信已經(jīng)成為了全球共識。

2019年，二十國集團（G20）提出“G20 人工智能原則”，建議“促進公共和私人對人工智能研發(fā)的投資力度，以促進可信賴的人工智能 （Trustworthy Artificial Intelligence）的創(chuàng)新”。

2020年，國際標(biāo)準(zhǔn)化組織 ISO 聯(lián)合國際電工委員會 IEC 發(fā)布了《人工智能的可信度概述》，同時正在推進《評估神經(jīng)網(wǎng)絡(luò)的魯棒性》系列研究工作。國內(nèi)的信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會也在同步推進相關(guān)研究。

2020-2021年，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）也相繼發(fā)布了《人工智能行業(yè)自律公約》和《可信AI操作指引》，并持續(xù)開展可信 AI 測試工具征集和可信 AI 試評估等落地實踐。

可信AI推理卡CCAT200T的特點

可信AI推理卡CCAT200T集成了可信計算模塊，支持國密SM2/3/4算法，可以實現(xiàn)靜態(tài)可信度量功能。推理卡的核心江原第一代芯片包含16MB大容量高帶寬二級緩存，用于芯片內(nèi)多個處理器之間共享數(shù)據(jù)，從而減少內(nèi)存訪問需求，提升應(yīng)用性能；芯片包含8個LPDDR5內(nèi)存訪問控制器，可提供204.8GB/s內(nèi)存帶寬。CCAT200T可信AI推理卡支持PCIe5.0以及CXL.io/CXL.mem接口協(xié)議，提供雙向128GB/s通信傳輸帶寬，支持SRIOV硬件虛擬化，支持最多四個VF設(shè)備。

可信AI推理卡CCAT200T主要有以下特點:

支持國密SM2/3/4算法，采用國密算法為AI應(yīng)用保駕護航?？ㄉ现饕骷鶎崿F(xiàn)了技術(shù)及供應(yīng)鏈的自主可控；可信AI推理卡的核心江原第一代芯片為國內(nèi)首顆全流程國產(chǎn)自主AI算力芯片，率先實現(xiàn)先進自主設(shè)計、工藝制造、封裝的本土化全流程，填補了我國在人工智能芯片全國產(chǎn)供應(yīng)鏈安全的戰(zhàn)略空白。生態(tài)兼容，提供完整工具鏈：涵蓋部署工具鏈、系統(tǒng)檢測分析、通用計算編譯器、驅(qū)動等SDK。開源框架后端支持：vLLM、pytorch、onnruntime等后端定制化支持。支持?jǐn)?shù)據(jù)類型多樣：支持UINT8/SINT8/BF16/FP16/FP32數(shù)據(jù)類型的張量計算；支持FP32/BF16/FP16/(U)INT32/(U)INT16/(U)INT8數(shù)據(jù)類型的向量計算算力強大，內(nèi)置8個采用自主指令集的通用AI計算處理器，支持多種精度的高性能AI計算，整體算力160TOPS@INT8。集成64GB LPDDR5大內(nèi)存，單卡支持DeepSeek-R1系列1.5B至32B 五種蒸餾模型，4卡可支持DeepSeek-R1 70B參數(shù)規(guī)模蒸餾模型，8/16卡可實現(xiàn)滿血量化版/非量化版運行。

▲ 可信AI推理卡CCAT200T的核心特性

尤其是可信AI推理卡CCAT200T集成CCT02 TCM可信單元，可以滿足《GM/T 0012-2020可信計算》標(biāo)準(zhǔn)，TCM的加入可以為CCAT200T提供安全可靠的應(yīng)用計算環(huán)境，支持靜態(tài)啟動度量功能，防止客戶在使用軟件的過程中可能會遭遇破壞或者黑客的惡意攻擊，保護敏感信息不被竊取或不被惡意代碼使用。

▲ 可信AI推理卡CCAT200T

可信推理卡CCAT200T應(yīng)用場景

可信AI推理卡CCAT200T旨在為云端及邊緣端AI推理場景提供可信計算加速支持，為產(chǎn)業(yè)智能化升級提供更多元的算力選擇，可廣泛應(yīng)用于可信安防、智能交通、事件檢測、智慧醫(yī)療、智慧客服、智慧教育、智慧文旅和其他場景中。

面對AI引發(fā)的信任威脅，國芯科技將致力于通過可信計算技術(shù)為 AI 保駕護航，讓AI技術(shù)走得更遠(yuǎn)，走的更安全可信。