《閎議》訪談節(jié)目由《中國(guó)科學(xué)院院刊》與中國(guó)互聯(lián)網(wǎng)新聞中心聯(lián)合出品，通過(guò)采訪兩院院士及專(zhuān)家學(xué)者，深度探討推進(jìn)中國(guó)式現(xiàn)代化進(jìn)程中各領(lǐng)域的發(fā)展前路。以客觀、精準(zhǔn)的解讀，科學(xué)、前瞻的思考，為站在“兩個(gè)一百年”歷史交匯點(diǎn)上的中國(guó)發(fā)展破題解惑，為邁向第二個(gè)百年奮斗目標(biāo)貢獻(xiàn)智慧力量。崇論閎議，尋策問(wèn)道。

人工智能技術(shù)經(jīng)過(guò)幾十年的發(fā)展，正在進(jìn)入技術(shù)創(chuàng)新與顛覆式應(yīng)用模式頻現(xiàn)的爆發(fā)期。隨著近年來(lái)人工智能技術(shù)的不斷進(jìn)步，傳統(tǒng)的公共安全治理模式如何應(yīng)對(duì)人工智能時(shí)代的突發(fā)安全事件已經(jīng)成為不可忽視的問(wèn)題。如何從技術(shù)層面發(fā)力，實(shí)現(xiàn)對(duì)人工智能犯罪的防范和遏制？面對(duì)具身智能的發(fā)展和未來(lái)“人機(jī)共存”的遠(yuǎn)景，需要從技術(shù)和規(guī)范上作出哪些準(zhǔn)備？對(duì)此，《閎議》節(jié)目組專(zhuān)訪了中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員曹娟。

重塑傳統(tǒng)的公共安全技術(shù)體系

中國(guó)網(wǎng)：近年來(lái)，以AIGC等人工智能技術(shù)進(jìn)行犯罪的案例廣受關(guān)注。您認(rèn)為，人工智能技術(shù)對(duì)傳統(tǒng)的公共安全治理模式造成了哪些重要的挑戰(zhàn)？

曹娟：隨著人工智能技術(shù)的快速發(fā)展，人工智能犯罪比例越來(lái)越高，主要給傳統(tǒng)的公共安全帶來(lái)了兩個(gè)方面的挑戰(zhàn)。首先，人工智能技術(shù)使得傳統(tǒng)的違法犯罪成本大大降低了。比如說(shuō)電信詐騙，原來(lái)需要專(zhuān)業(yè)的人去寫(xiě)詐騙的劇本、去打詐騙電話(huà)，但是現(xiàn)在很多都可以用大模型來(lái)替代了。所以我們需要對(duì)原來(lái)傳統(tǒng)的公共安全治理技術(shù)進(jìn)行快速升級(jí)。另一方面，新技術(shù)也催生了很多新的違法犯罪的行為。比如說(shuō)無(wú)人駕駛里的安全問(wèn)題，具身智能的安全問(wèn)題等等。這就需要我們?nèi)ブ厮軅鹘y(tǒng)的公共安全技術(shù)體系。

具體來(lái)說(shuō)，生成式人工智能的技術(shù)會(huì)給傳統(tǒng)的公共安全體系帶來(lái)三個(gè)層面的風(fēng)險(xiǎn)。第一個(gè)也是最重要的就是國(guó)家安全的風(fēng)險(xiǎn)。比如說(shuō)利用生成式人工智能技術(shù)去生成虛假偽造的信息、去操控輿論，這是目前全世界各個(gè)國(guó)家最頭疼的一個(gè)問(wèn)題；第二個(gè)就是行業(yè)安全問(wèn)題，比如說(shuō)利用生成式人工智能在金融領(lǐng)域進(jìn)行身份的偽造，在學(xué)術(shù)領(lǐng)域進(jìn)行學(xué)術(shù)造假，這種問(wèn)題會(huì)對(duì)行業(yè)的健康發(fā)展帶來(lái)風(fēng)險(xiǎn)；第三個(gè)就是個(gè)人安全問(wèn)題，比如說(shuō)利用生成式人工智能技術(shù)進(jìn)行電信詐騙、侵犯隱私等等。這些會(huì)給未來(lái)人工智能時(shí)代每個(gè)公民帶來(lái)困擾。

中國(guó)網(wǎng)：從您的研究角度出發(fā)，您認(rèn)為從哪些技術(shù)層面發(fā)力，可以實(shí)現(xiàn)對(duì)人工智能犯罪的防范和遏制？

曹娟：新型的人工智能犯罪都是因?yàn)樾录夹g(shù)帶來(lái)的。新的犯罪問(wèn)題一定是要用技術(shù)去攻克它，所以用AI治理AI肯定是非常有效的一條途徑。

具體來(lái)說(shuō)，以虛假偽造檢測(cè)為例，技術(shù)上存在四個(gè)特別大的挑戰(zhàn)。第一個(gè)就是生成式人工智能發(fā)展特別快。我們?cè)趺慈プ龅矫恳粋€(gè)新出現(xiàn)的大模型生成的內(nèi)容都能檢測(cè)？要具有很強(qiáng)的泛化能力，需要快速去優(yōu)化，有一個(gè)非常強(qiáng)的偽造檢測(cè)的專(zhuān)用底座模型。有了這個(gè)模型以后，我們?nèi)熳笥揖涂梢詢(xún)?yōu)化到90%多。所以這個(gè)偽造檢測(cè)的底座模型的建設(shè)是未來(lái)提升泛化能力的一個(gè)最核心的技術(shù)。

第二個(gè)就是強(qiáng)對(duì)抗性，去詐騙的人肯定不想讓你發(fā)現(xiàn)他，所以他會(huì)加上很多的手段來(lái)對(duì)抗。比如說(shuō)會(huì)把詐騙的圖像、詐騙的視頻壓縮得很小，模模糊糊，這就使得偽造檢測(cè)很難；比如會(huì)加上一些對(duì)抗樣本的誘導(dǎo)，使得檢測(cè)出錯(cuò)等等。所以如何在這種高風(fēng)險(xiǎn)、強(qiáng)對(duì)抗的犯罪場(chǎng)景下進(jìn)行偽造檢測(cè)就變得非常難，我們需要研發(fā)這種高精度的偽造檢測(cè)技術(shù)。

第三個(gè)是生成式人工智能的技術(shù)，本身是特別好的新質(zhì)生產(chǎn)力的代表，所以大家都鼓勵(lì)用這個(gè)生成技術(shù)。（但是）要怎么去在大量的無(wú)害生成內(nèi)容里面找到惡意的偽造內(nèi)容，這是一個(gè)很大的挑戰(zhàn)。因?yàn)樵诩夹g(shù)層面都是用的一樣的技術(shù)，都是用的生成技術(shù)，但是一個(gè)是大量的無(wú)害的生成，一個(gè)是惡意的偽造。不要影響正常的正向應(yīng)用，保證兼顧發(fā)展又兼顧安全，是我們需要解決的。

第四個(gè)是隨著人工智能技術(shù)的普惠，人工智能的犯罪可能也會(huì)普及化，很多普通人都會(huì)因?yàn)椴欢夹g(shù)或者（缺乏）法律意識(shí)，自己不小心就成為了一個(gè)犯罪者。這時(shí)候需要我們每個(gè)人手上都有武器，要給大家研發(fā)普通人都有、都能用的鑒偽工具，讓他們?cè)谟龅絾?wèn)題的時(shí)候有工具可查，有能力去驗(yàn)證，這樣就可以大大降低犯罪的比例。

三建議應(yīng)對(duì)人工智能技術(shù)帶來(lái)的安全風(fēng)險(xiǎn)

中國(guó)網(wǎng)：如何應(yīng)對(duì)人工智能技術(shù)給公共安全體系帶來(lái)的風(fēng)險(xiǎn)？

曹娟：為了應(yīng)對(duì)人工智能技術(shù)給公共安全體系帶來(lái)的這些風(fēng)險(xiǎn)，有以下三個(gè)方面的建議。

第一個(gè)是這些技術(shù)算法本身內(nèi)生的安全評(píng)估一定要做好，比如說(shuō)自動(dòng)駕駛這個(gè)算法評(píng)估安全了才能上路，大模型技術(shù)評(píng)估做完了，做好了安全對(duì)齊才能去上線(xiàn)。要保證我們使用的技術(shù)是有一定程度的安全門(mén)檻的。

第二個(gè)是基于這些人工智能技術(shù)生產(chǎn)出來(lái)的產(chǎn)品，在不同的應(yīng)用場(chǎng)景下與人交互的時(shí)候，使用不當(dāng)，濫用（技術(shù)）可能會(huì)帶來(lái)很多的安全風(fēng)險(xiǎn)。比如大數(shù)據(jù)殺熟，利用算法壓榨快遞員等，這個(gè)時(shí)候需要我們?nèi)ブ贫ú煌袠I(yè)的標(biāo)準(zhǔn)使用規(guī)則去規(guī)避這些風(fēng)險(xiǎn)。

第三個(gè)是未來(lái)我們會(huì)進(jìn)入一個(gè)人和機(jī)器人共存的時(shí)代。隨著機(jī)器人參與到我們社會(huì)生活和社會(huì)生產(chǎn)的過(guò)程中，會(huì)引出一系列的安全問(wèn)題、倫理問(wèn)題和社會(huì)問(wèn)題。我們需要提前布局，提前謀劃去應(yīng)對(duì)未來(lái)可能的風(fēng)險(xiǎn)。比如說(shuō)在執(zhí)法的過(guò)程中，到底機(jī)器人是以什么身份參與這個(gè)行為的，它和人之間的關(guān)系是什么？需要定義清楚，我們才能劃分責(zé)任的主體。還有比如說(shuō)隨著機(jī)器人參與到我們的社會(huì)活動(dòng)中，它可能會(huì)給社會(huì)結(jié)構(gòu)帶來(lái)沖擊和變化，我們?nèi)诵枰e極的心態(tài)去正視這個(gè)問(wèn)題，去更積極地面對(duì)這個(gè)新技術(shù)帶來(lái)的新的社會(huì)問(wèn)題。

積極地去擁抱新技術(shù)，然后運(yùn)用新技術(shù)讓我們的生活越來(lái)越美好。

（本期策劃：楊柳春、王振紅；編審：楊柳春、王振紅、王虔；編輯：王虔、武一男。出品：《中國(guó)科學(xué)院院刊》、中國(guó)互聯(lián)網(wǎng)新聞中心）