今日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《人工智能安全治理框架》1.0版。

　　《框架》提出了包容審慎、確保安全，風(fēng)險導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對，開放合作、共治共享等人工智能安全治理的原則。

　　針對模型算法安全、數(shù)據(jù)安全和系統(tǒng)安全等內(nèi)生安全風(fēng)險和網(wǎng)絡(luò)域、現(xiàn)實(shí)域、認(rèn)知域、倫理域等應(yīng)用安全風(fēng)險，《框架》提出相應(yīng)技術(shù)應(yīng)對和綜合防治措施，以及人工智能安全開發(fā)應(yīng)用指引，為促進(jìn)人工智能健康發(fā)展和規(guī)范應(yīng)用，提供了基礎(chǔ)性、框架性技術(shù)指南。

　　這也是目前各國、機(jī)構(gòu)都在尋求規(guī)范的領(lǐng)域，因?yàn)榻鼉赡闍I技術(shù)發(fā)展迅速，目前已經(jīng)深入到各方各面，如果沒有規(guī)范管理，在灰色地帶很容易產(chǎn)生一些風(fēng)險。

　　今年早些時候，歐盟就批準(zhǔn)了《人工智能法案》，其中嚴(yán)格禁止“對人類安全造成不可接受風(fēng)險的人工智能系統(tǒng)”。

　　包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會地位和個人特征等進(jìn)行評價的系統(tǒng)等，還規(guī)定人工智能公司要對算法進(jìn)行人為控制，提供技術(shù)文件，并建立相應(yīng)的風(fēng)險管理系統(tǒng)。