人工智能正深刻改變世界。但它如一把“雙刃劍”，既帶來巨大機(jī)遇，也引發(fā)諸多挑戰(zhàn)——在醫(yī)療、教育、交通等領(lǐng)域，人工智能提升了效率，改善了生活質(zhì)量；然而，它也可能沖擊就業(yè)、侵犯隱私、引發(fā)算法偏見等。如何握好這把“雙刃劍”，讓人工智能真正成為推動(dòng)人類進(jìn)步的力量。

當(dāng)下的選擇決定未來的走向。本期我們邀請(qǐng)兩位專家，共同探討如何避免風(fēng)險(xiǎn)，引導(dǎo)技術(shù)向善。

人工智能技術(shù)無疑是新一輪科技革命和產(chǎn)業(yè)變革的先導(dǎo)。其中，強(qiáng)調(diào)價(jià)值對(duì)齊、能夠自主定義并完成無限任務(wù)的通用人工智能，更是新質(zhì)生產(chǎn)力的典型代表，已經(jīng)成為全球科技戰(zhàn)略制高點(diǎn)。但另一方面，由于大模型等人工智能技術(shù)具有“黑箱屬性”，導(dǎo)致其決策行為不能被完全透明解釋，它的生成內(nèi)容也不能被完全預(yù)判控制，當(dāng)這樣的人工智能技術(shù)應(yīng)用部署在國家社會(huì)經(jīng)濟(jì)生活中的方方面面時(shí)，就可能會(huì)出現(xiàn)偏離人類預(yù)期甚至危害國家安全和人類整體利益的巨大風(fēng)險(xiǎn)。

1、在國家層面，人工智能技術(shù)正在重構(gòu)國家安全治理的格局

我國已將人工智能安全納入國家戰(zhàn)略，并上升至總體國家安全觀的重要組成部分。這是因?yàn)椋斯ぶ悄芗夹g(shù)的迅猛發(fā)展正在重構(gòu)國家安全治理的格局，其中部分風(fēng)險(xiǎn)突破了傳統(tǒng)技術(shù)倫理范疇，形成系統(tǒng)性、多維度的威脅。

以當(dāng)下熱度最高的生成式大模型為例，我們可以關(guān)注到這三類安全危機(jī)：

首先，是技術(shù)安全與自主創(chuàng)新的國際挑戰(zhàn)。大模型的算力、算法與數(shù)據(jù)，構(gòu)成新型國家戰(zhàn)略資源，其自主可控性直接關(guān)乎國家主權(quán)安全。目前，全球算力中心依然集中于少數(shù)歐美科技巨頭，英偉達(dá)的人工智能芯片占據(jù)了超過80%國際市場(chǎng)份額。而就在今年1月底，美國國會(huì)首次提交了中美人工智能“脫鉤”的法案，一旦該法案通過，兩國所有人工智能的合作渠道將被截?cái)唷?/p>

其次，意識(shí)形態(tài)與價(jià)值倫理的隱性危機(jī)。大模型沒有價(jià)值認(rèn)知的功能，但開發(fā)者的價(jià)值觀可以滲透到大模型對(duì)外輸出的文本，構(gòu)成意識(shí)形態(tài)方面的安全威脅。比如，一些歐美研發(fā)的大模型，其生成的視頻、圖像表達(dá)延續(xù)歐美影視文化傾向，以西方藝術(shù)審美為主體，卻無法識(shí)別和“理解”達(dá)喀爾建筑等非洲文化造型。眾多案例表明，歐美大模型所蘊(yùn)含的西方中心主義價(jià)值觀值得我們提高警惕。此外，質(zhì)量參差不齊的國內(nèi)自媒體信息、不當(dāng)抓取的境外網(wǎng)頁錯(cuò)誤信息、由大模型生成的未經(jīng)審核的合成數(shù)據(jù)，都可能會(huì)“毒化”AI大模型的訓(xùn)練過程，進(jìn)而導(dǎo)致輸出內(nèi)容價(jià)值觀的偏差。繁雜的世界觀、人生觀、價(jià)值觀數(shù)據(jù)彌漫在大模型神經(jīng)網(wǎng)絡(luò)的“黑箱”中，導(dǎo)致我們很難分辨出大模型的某些反社會(huì)回答（例如“毀滅人類”）究竟是出自語料庫，還是根據(jù)模型的行為范式學(xué)習(xí)推理而來。隨著大模型廣泛應(yīng)用到各行各業(yè)，倘若任由這種不可控的“黑箱”發(fā)展下去，我們將很難控制人工智能的價(jià)值體系與人類相一致，會(huì)造成較大的社會(huì)倫理風(fēng)險(xiǎn)。

再次，制度監(jiān)管滯后與信息不對(duì)稱的結(jié)構(gòu)性困境。盡管世界各國已針對(duì)人工智能技術(shù)帶來的安全風(fēng)險(xiǎn)紛紛出臺(tái)相關(guān)法案，但這些法律法規(guī)的制定完善一般需要漫長復(fù)雜的流程，往往滯后于人工智能新產(chǎn)品的發(fā)布更新速度。各國人工智能的發(fā)展水平與應(yīng)用程度不同，政府、企業(yè)、高校科研機(jī)構(gòu)、社會(huì)大眾對(duì)動(dòng)態(tài)更新發(fā)展的人工智能技術(shù)的認(rèn)知存在不小的信息差，導(dǎo)致國與國之間、社會(huì)各行各業(yè)之間推出的人工智能治理措施出現(xiàn)大量無效重合和高度沖突。這類信息不對(duì)稱和統(tǒng)一標(biāo)準(zhǔn)的缺失，對(duì)外易制造國際人工智能安全治理的合作爭(zhēng)端，對(duì)內(nèi)會(huì)使得人工智能監(jiān)管出現(xiàn)“真空地帶”，造成制度疊加的冗余和推行成本的增長。

2、在社會(huì)和個(gè)人層面，濫用人工智能技術(shù)可能帶來勞動(dòng)秩序重構(gòu)、混淆視聽、誘發(fā)心理依賴、認(rèn)知和學(xué)習(xí)能力下降等問題

在社會(huì)和個(gè)人層面，除了侵犯?jìng)€(gè)人隱私、引發(fā)版權(quán)糾紛等，濫用人工智能還會(huì)造成不少問題：

社會(huì)重新分配，勞動(dòng)秩序重構(gòu)。“人工智能+”的落地應(yīng)用可能會(huì)引起“創(chuàng)造性破壞”，也就是普遍擔(dān)憂的“人工智能代替人類”——普通勞動(dòng)者的就業(yè)機(jī)會(huì)被人工智能剝奪。國際貨幣基金組織發(fā)布報(bào)告稱，人工智能預(yù)計(jì)將對(duì)全球近40%的工作崗位產(chǎn)生影響。創(chuàng)造性和技術(shù)需求較低工作的從業(yè)者都將面臨失業(yè)或轉(zhuǎn)型的危機(jī)，社會(huì)勞動(dòng)分工的結(jié)構(gòu)將經(jīng)歷一場(chǎng)“大洗牌”。

難辨真假的“網(wǎng)絡(luò)垃圾”在信息渠道混淆視聽。對(duì)于自然科學(xué)、金融、醫(yī)學(xué)等特定領(lǐng)域的專業(yè)問題，諸多大模型沒有經(jīng)過大規(guī)模專業(yè)語料訓(xùn)練，可能會(huì)一本正經(jīng)“胡編亂造”，制造“模型幻覺”。在缺乏必要監(jiān)管機(jī)制的當(dāng)下，由大模型生成的大量未經(jīng)辨認(rèn)審核的文本與圖片流入互聯(lián)網(wǎng)，在稀釋真實(shí)信息的同時(shí)，還容易讓不具備專業(yè)知識(shí)的大眾信以為真。

過度使用人工智能“角色扮演”功能易誘發(fā)心理依賴。經(jīng)過特定算法和數(shù)據(jù)庫訓(xùn)練的大模型，能夠根據(jù)用戶的指示扮演符合用戶情感需求的虛擬角色，與用戶交流。如果用戶過度沉迷其中、忽略現(xiàn)實(shí)交際，則有可能因身心空虛導(dǎo)致極端性后果。這是因?yàn)樗惴ú煌该餍院汀昂谙洹辈倏貦C(jī)制形成了信息的“繭房”，使用者被困于AI挑選和過濾后的“信息泡泡”中。算法通過分析我們的信息偏好，利用人類易產(chǎn)生恐懼焦慮的心理機(jī)制、利用青少年心智不完全成熟和對(duì)某些信息的獵奇心，不斷投喂和推薦某類特定信息，加強(qiáng)固有的缺陷和偏好，讓人們身陷其中無法自拔，嚴(yán)重時(shí)可導(dǎo)致AI成癮效應(yīng)。

過分依賴人工智能進(jìn)行思考會(huì)導(dǎo)致認(rèn)知和學(xué)習(xí)能力下降。抖音海外版顧問格雷格·伊森伯格曾提到一名斯坦福大學(xué)畢業(yè)生，因過度使用ChatGPT，在交談中經(jīng)常出現(xiàn)思維中斷、言語遲滯的跡象。當(dāng)認(rèn)知過程被長期“外包”給人工智能，無論多么優(yōu)秀的大腦，思考和學(xué)習(xí)功能都會(huì)“用進(jìn)廢退”。不假思索地全盤接受AI生成的“投喂式”內(nèi)容，會(huì)導(dǎo)致本應(yīng)在教育過程中塑造并形成的信息收集、篩選、處理、應(yīng)用、創(chuàng)造的批判性思維、邏輯性思維、創(chuàng)新性思維能力的嚴(yán)重退化。

3、構(gòu)建人工智能安全治理框架，不僅要涵蓋現(xiàn)實(shí)中出現(xiàn)的問題，還應(yīng)從根源入手，避免“頭痛醫(yī)頭、腳痛醫(yī)腳”

面對(duì)人工智能這把“雙刃劍”，我們亟須構(gòu)建完備的人工智能安全治理體系。它不僅要涵蓋現(xiàn)實(shí)中的問題，還應(yīng)基于系統(tǒng)化、綜合化的人工智能理論，從問題的根源入手，避免“頭痛醫(yī)頭、腳痛醫(yī)腳”的片面化處理。

加強(qiáng)價(jià)值對(duì)齊，制定人工智能評(píng)級(jí)標(biāo)準(zhǔn)。造成人工智能引發(fā)的意識(shí)形態(tài)、價(jià)值倫理、信息混亂等問題的根本原因，是生成式大模型缺乏明確的認(rèn)知架構(gòu)和價(jià)值體系，只能按照人類設(shè)定的程序，機(jī)械地對(duì)問題做出反饋，沒能做到與人類價(jià)值對(duì)齊。為此，需要一套結(jié)合人類價(jià)值體系和認(rèn)知架構(gòu)的人工智能評(píng)級(jí)標(biāo)準(zhǔn)，作為評(píng)定和開發(fā)人工智能的科學(xué)標(biāo)尺，輔助科學(xué)家打造更加符合人類需求、更加安全的人工智能。

改進(jìn)技術(shù)，設(shè)置防沉迷預(yù)警。不僅需要從外部對(duì)人工智能設(shè)置評(píng)級(jí)標(biāo)準(zhǔn)，也要從人工智能內(nèi)部進(jìn)行分級(jí)改造。使用人工智能的社會(huì)群體千差萬別、需求各有側(cè)重，需要防范的風(fēng)險(xiǎn)也各異。以青少年群體為例，我們應(yīng)該著重研發(fā)輔助課堂學(xué)習(xí)、引導(dǎo)興趣愛好的人工智能，讓其成為有利于青少年成長的助手與“伙伴”。同時(shí)，為防止青少年過度沉迷，應(yīng)在系統(tǒng)中編入使用時(shí)長、特定功能分區(qū)的限制，并出具生動(dòng)詳細(xì)的使用教程和預(yù)警聲明，保障青少年的身心健康。

預(yù)測(cè)就業(yè)替代風(fēng)險(xiǎn)，加強(qiáng)人工智能職業(yè)培訓(xùn)。如何避免人工智能替代人類，不僅需要?jiǎng)趧?dòng)者個(gè)人順應(yīng)時(shí)代風(fēng)向、積極主動(dòng)實(shí)現(xiàn)自我提升，還需要政府部門和企事業(yè)單位制定保護(hù)勞動(dòng)者、協(xié)調(diào)人機(jī)關(guān)系的就業(yè)保障機(jī)制。在部署“人工智能+”行動(dòng)時(shí)，可以要求企業(yè)在應(yīng)用人工智能的同時(shí)，在算法中預(yù)置就業(yè)考量，實(shí)現(xiàn)向善的人工智能倫理規(guī)則。企業(yè)則應(yīng)做好就業(yè)倫理合規(guī)，不應(yīng)追求用技術(shù)完全替代人，而是追求如何用技術(shù)賦能生產(chǎn)效率、優(yōu)化體驗(yàn)。此外，在進(jìn)行就業(yè)前置性布局的時(shí)候，也應(yīng)當(dāng)為可能被替代職業(yè)或工種的從業(yè)者安排相關(guān)的技能培訓(xùn)，增加他們?cè)谛颅h(huán)境下的就業(yè)機(jī)會(huì)。

構(gòu)建平等開放的國際人工智能安全秩序。防范人工智能安全風(fēng)險(xiǎn)是全世界共同面臨的課題，并不是某一國、某一地區(qū)的特權(quán)或義務(wù)。目前，發(fā)達(dá)國家總體上掌握著比發(fā)展中國家更先進(jìn)的人工智能技術(shù)，后者往往因此失去了在國際舞臺(tái)上的話語權(quán)，并缺乏防范和化解人工智能風(fēng)險(xiǎn)的意識(shí)。

需要強(qiáng)調(diào)的是，理解與防范人工智能安全風(fēng)險(xiǎn)的目的，并不是要讓大家畏懼、否定科技的進(jìn)步，而是希望大家具備理性審視和應(yīng)對(duì)潛在風(fēng)險(xiǎn)的能力，學(xué)會(huì)在人工智能的浪潮中保持清醒的頭腦，掌握駕馭人工智能的主動(dòng)權(quán)。讓我們?cè)谙硎苤悄軙r(shí)代紅利的同時(shí)，確保自身和社會(huì)的安全穩(wěn)定，實(shí)現(xiàn)科技向善、人機(jī)和諧共生的美好愿景！