ChatGPT火了，不止“打工人”恐慌自己的工作將被AI替代，許多大廠也慌了。

據(jù)鳳凰網(wǎng)科技報道，美國某科技巨頭公司在其內(nèi)部論壇告誡員工，可以使用ChatGPT，但是“請不要將敏感數(shù)據(jù)發(fā)送給OpenAI終端?！蓖瑯樱硪豢萍季揞^律師警告員工不要與ChatGPT分享“任何關(guān)于公司的機密信息”。

這些大廠擔心的，就是AI獲取數(shù)據(jù)安全方面的問題。AI技術(shù)帶來的安全可靠問題不止如此。不同于傳統(tǒng)的系統(tǒng)安全漏洞，因工作原理極為復(fù)雜，機器學(xué)習(xí)系統(tǒng)安全漏洞攻擊不但精準、還具有很強的可傳遞性。例如，攻擊者在訓(xùn)練階段摻入惡意數(shù)據(jù)，影響AI模型推理能力；在判斷階段對要判斷的樣本加入少量噪音，刻意改變判斷結(jié)果；在模型中植入后門并實施高級攻擊；也能通過多次查詢竊取模型和數(shù)據(jù)信息。

隨著AI技術(shù)一路“狂飆”，發(fā)展安全可信的人工智能正在成為全球共識。

近日，“人工智能安全可信護航計劃”在北京舉行的人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展大會上正式啟動，包括國產(chǎn)操作系統(tǒng)企業(yè)麒麟軟件在內(nèi)的首批31個公司正式加入，共同探索人工智能安全可信管理解決方案。

應(yīng)對AI安全風(fēng)險，首先系統(tǒng)在設(shè)計上需要注意基礎(chǔ)軟硬件的安全，包括應(yīng)用、模型、平臺和芯片，編碼都可能存在漏洞或后門；攻擊者能夠利用這些漏洞或后門實施高級攻擊。

在安全可信技術(shù)層面，國產(chǎn)操作系統(tǒng)廠商麒麟軟件在可信執(zhí)行環(huán)境和可信計算技術(shù)等領(lǐng)域有著豐富的技術(shù)積累。銀河麒麟可信操作系統(tǒng)是基于kysec框架實現(xiàn)以內(nèi)生安全為核心特征、具備主動防御能力的體系化安全產(chǎn)品，為實現(xiàn)信息系統(tǒng)整體的“防斷供、關(guān)后門、堵漏洞”等自主安全能力提供了基礎(chǔ)平臺支撐，并將安全能力向應(yīng)用、數(shù)據(jù)、身份、行為等層次垂直打穿，形成了安全能力和信息化的深度融合、全面覆蓋，有效支撐數(shù)字化業(yè)務(wù)平臺底座建設(shè)。

此外，為實現(xiàn)產(chǎn)業(yè)生態(tài)協(xié)同、構(gòu)建內(nèi)生和體系安全能力、打造聯(lián)合解決方案，還成立“麒麟軟件安全生態(tài)聯(lián)盟”，不斷推動持續(xù)安全生態(tài)建設(shè)和新型安全技術(shù)創(chuàng)新。

值得關(guān)注的是，國產(chǎn)操作系統(tǒng)在生態(tài)建設(shè)層面也與時俱進，與人工智能應(yīng)用軟件積極適配認證。以麒麟軟件為例，銀河麒麟高級服務(wù)器操作系統(tǒng)V10 支持火山引擎、TensorFlow、PaddlePaddle、PaddleHub、PyTorc、fastai、deeplearning4j、konduit-serving等知名引擎或組件；支持與百度智能云、捷通華聲、華為昇騰、百度昆侖、算豐、寒武紀等AI加速卡產(chǎn)品兼容適配。

未來，麒麟軟件將與產(chǎn)業(yè)伙伴攜手，積極參與人工智能理論研究、標準制定、評估評測等相關(guān)工作，不斷為人工智能安全可信生態(tài)建設(shè)貢獻力量。