用技術(shù)和法規(guī)防控倫理風(fēng)險 為生成式AI這匹“黑馬”套上“韁繩”
一方面，生成式AI固然便利了生產(chǎn)、生活，帶動了社會的進(jìn)步；另一方面，生成式AI可能會被人們無意濫用，甚至被目的不純之人惡意利用，對社會造成危害。
——閆懷志 北京理工大學(xué)網(wǎng)絡(luò)與安全研究所所長
◎?qū)嵙?xí)記者 李詔宇
談到AI領(lǐng)域的未來發(fā)展，就不得不提到生成式AI。如今，一經(jīng)推出就迅速在各大社交媒體上走紅的、由美國人工智能公司OpenAI發(fā)布的聊天機器人ChatGPT便是一種生成式AI。
近日，OpenAI又以“區(qū)分人工編寫還是AI生成的文本”為目的，趁熱打鐵地推出了一款A(yù)I檢測器。
濫用生成式AI可能帶來哪些危害？AI檢測器對于消除此種危害有何助益？如何利用包括AI檢測器在內(nèi)的多種手段，在推進(jìn)生成式AI產(chǎn)業(yè)化的同時，促進(jìn)生成式AI的規(guī)范使用？針對上述問題，科技日報記者采訪了相關(guān)專家。
生成式AI是把雙刃劍
“通常來說，生成式AI是指使用機器學(xué)習(xí)等各種AI算法，讓人工智能能夠利用數(shù)據(jù)進(jìn)行學(xué)習(xí)，進(jìn)而創(chuàng)建或生成全新的原創(chuàng)內(nèi)容的一種技術(shù)。”北京理工大學(xué)網(wǎng)絡(luò)與安全研究所所長閆懷志表示，“目前，生成式AI能生成文本、圖像、音頻、視頻或代碼等多模態(tài)的原創(chuàng)內(nèi)容。”
ChatGPT作為一款人工智能技術(shù)驅(qū)動的自然語言處理工具，通過學(xué)習(xí)和理解人類的自然語言來進(jìn)行對話，并能根據(jù)對話的上下文與人類進(jìn)行相應(yīng)的互動。與此前同類型的模型不同，ChatGPT不僅在對話的真實感與流暢性上取得了很大的提升，更在互動性上幾乎“無出其右”。
以ChatGPT的橫空出世為代表，生成式AI在技術(shù)上的不斷突破，正驅(qū)動著全球生成式AI產(chǎn)業(yè)的加速發(fā)展。優(yōu)秀的生成式AI有望成為新一代智能助手與信息檢索工具，其不僅可以帶動科技研發(fā)、工業(yè)設(shè)計等領(lǐng)域的深刻變革，還能在藝術(shù)和內(nèi)容創(chuàng)作等的過程tuya可視對講中減少以往調(diào)色、勾畫輪廓等繁瑣的程序性工作，極大地推動各類數(shù)字化內(nèi)容的生產(chǎn)與創(chuàng)造。隨著產(chǎn)業(yè)集群效應(yīng)的進(jìn)一步擴大，生成式AI正迅速成為全球科技領(lǐng)域最具投資價值的熱門賽道，極大地影響了全球的科技創(chuàng)新與產(chǎn)業(yè)發(fā)展格局。
然而，隨著生成式AI的爆火，其安全性也遭到了質(zhì)疑。近日，一份關(guān)于ChatGPT的報告顯示，在500名IT行業(yè)決策者中近一半的人認(rèn)為，2023年內(nèi)，將會出現(xiàn)個人惡意使用ChatGPT發(fā)動的網(wǎng)絡(luò)攻擊。無獨有偶，此前的AI繪畫等其他生成式AI同樣遭受過相應(yīng)的質(zhì)疑。
“生成式AI是一個‘可怕的好東西’。”閆懷志表示，“一方面，生成式AI固然便利了生產(chǎn)、生活，帶動了社會的進(jìn)步；另一方面，生成式AI可能會被人們無意濫用，甚至被目的不純之人惡意利用，對社會造成危害。”
閆懷志進(jìn)一步解釋道，生成式AI能夠產(chǎn)出逼真的文本、圖像、音頻、視頻等內(nèi)容，可能會被濫用于詐騙、欺詐、剽竊、造謠、偽造身份等不當(dāng)甚至違法的場景。
“以AI檢測AI”避免技術(shù)濫用
ChatGPT不僅能像人一樣進(jìn)行聊天對話，它還能根據(jù)用戶的要求作詩、編代碼，甚至寫論文。
正因如此，OpenAI近日還推出了AI檢測器，其目的正是為了檢測一段文本是否為AI生成，從而幫助人們更好地識別文本來源，避免AI文本生成器被濫用，造成一系列不好的影響。
“在很多場景下，對文本、圖片等是視頻對講否由AI生成進(jìn)行識別是必要的。而這種識別所用到的檢測工具，就是AI檢測器。”閆懷志說，“AI檢測器在技術(shù)架構(gòu)上與生成式AI類似，以生成式AI創(chuàng)作的內(nèi)容與非生成式AI創(chuàng)作的內(nèi)容作為數(shù)據(jù)進(jìn)行訓(xùn)練，通過大量的訓(xùn)練數(shù)據(jù)來‘培養(yǎng)’識別能力。”
這種“以AI檢測AI”的方式，充分發(fā)揮了AI學(xué)習(xí)的優(yōu)勢。
閆懷志表示，通常來說，目前的AI檢測器并不會給出是或否的精確判斷，而是根據(jù)置信度給出“很有可能”“可能”“不清楚”“不太可能”“非常不可能”等模糊判斷，將最終評判權(quán)交由人類自身。
然而，目前AI檢測器的檢測水平并不理想。閆懷志說：“OpenAI研發(fā)的AI檢測器的檢測成功率僅為26%左右，還處于較低水平。”
據(jù)悉，OpenAI推出的AI檢測器能較輕松地區(qū)分單獨的人工編寫文本和AI生成文本。然而，當(dāng)人工編寫文本與AI生成文本混合在一起時，該檢測器就難以進(jìn)行準(zhǔn)確識別了。
目前AI檢測器的檢測水平，顯然無法有效解決濫用生成式AI帶來的危害。“如果AI檢測器的檢測成功率能夠得到較大提升，必將有助于解決目前使用生成式AI所帶來的部分問題。但很顯然，目前離達(dá)到這個目標(biāo)，還有很長的路要走。”閆懷志表示。
多管齊下促進(jìn)生成式AI健康發(fā)展
在享受生成式AI所帶來的巨大利好的同時，我們應(yīng)該采取措施來規(guī)范其使用，而這些措施里，既包括AI檢測器在內(nèi)的各類技術(shù)手段，也包括制定相關(guān)規(guī)范性的政策法規(guī)。
相關(guān)專家曾提出，生成式AI是由人類設(shè)計的。因此，人類也需要在生成式AI的程序中嵌入相應(yīng)的限制手段，使它的行為以保障人類安全為底線。換句話說，就是要用優(yōu)先級更高的技術(shù)規(guī)則去限制其他技術(shù)。
“ChatGPT規(guī)避技術(shù)倫理風(fēng)險的方案大概就是遵循了這個思路。”思必馳科技股份有限公司聯(lián)合創(chuàng)始人兼首席科學(xué)家、上海交通大學(xué)教授俞凱解釋道，“人類通過對一些特定的問題進(jìn)行優(yōu)先判斷，并以此構(gòu)建具有約束力的模型，再讓這個模型在ChatGPT的整個模型訓(xùn)練過程中發(fā)揮作用，以保證其回復(fù)符合人類倫理。此外，應(yīng)該還有一些‘兜底技術(shù)’，讓ChatGPT對于一些敏感問題不予回復(fù)。”
閆懷志表示：“除了這些技術(shù)手段外，我們還需要明確界定生成式AI的應(yīng)用場景和使用范圍，并在必要的情況下向人們告知哪些內(nèi)容是通過生成式AI生成的。”通過相關(guān)的技術(shù)規(guī)范，界定生成式AI的應(yīng)用場景和使用范圍，有利于保障生成式AI遵循相應(yīng)的技術(shù)倫理要求。
除此之外，相關(guān)政策、法律法規(guī)的制定，也正在推動著生成式AI產(chǎn)業(yè)的健康有序發(fā)展。
據(jù)悉，國務(wù)院于2017年發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，明確“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力”。國家新一代人工智能治理專業(yè)委員會也相繼于2019年和2021年發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和《新一代人工智能倫理規(guī)范》。上述文件為我國目前生成式AI的發(fā)展提供了堅實的法律法規(guī)和標(biāo)準(zhǔn)保障。
“我們應(yīng)該完善生成式AI的法律監(jiān)管機制，堅持正義的普適價值標(biāo)準(zhǔn)、安全的核心價值目標(biāo)、創(chuàng)新的根本目的，構(gòu)建相應(yīng)的倫理規(guī)范體系。”首都經(jīng)濟貿(mào)易大學(xué)法學(xué)院訴訟與司法制度研究中心主任陳磊表示，“具體說來，法律監(jiān)管可分為事前、事中、事后三個階段。事前應(yīng)注意預(yù)防，投資者在研發(fā)生成式AI之前，應(yīng)向有關(guān)部門提交申請書，將其人工智能的主要內(nèi)容進(jìn)行闡述和備案；事中須加強管控，在發(fā)現(xiàn)生成式AI侵犯他人著作權(quán)或者內(nèi)容涉及倫理道德不當(dāng)時，應(yīng)當(dāng)及時進(jìn)行管控；事后要注意監(jiān)督，對相關(guān)侵權(quán)行為及時進(jìn)行處罰，保障他人合法權(quán)益。”
“可以想見，未來生成式AI技術(shù)與監(jiān)管的博弈必將展開。”閆懷志表示。
此頁面內(nèi)容采編自中新網(wǎng)，僅供客戶了解最新前沿資訊所用，如有版權(quán)問題，請聯(lián)系我們做刪除處理。家家安科技，安全放心的視頻語音呼叫可視對講門禁無線門鈴系統(tǒng)生產(chǎn)廠家。
