人工智能的四大潛在風險
來源：奈福網絡 時間：2025-05-13 15:08:01
化學、生物(wu)技術(shu)帶(dai)來了豐富的產(chan)品、食(shi)物(wu)、藥(yao)品，也帶(dai)來了環(huan)境污染和大規模殺傷性武器。人工(gong)智能（AI）的快速發展在帶來效率和(he)創新的同時，也會引發一系(xi)列風險和(he)挑戰。
就業威脅
現代社會的(de)一個重要特征是機(ji)器的(de)大(da)量使用，AI 作為機器智能也不(bu)例(li)外(wai)。在 AI 時(shi)代(dai)之前，機(ji)器的(de)(de)(de)(de)作用是替代(dai)人(ren)的(de)(de)(de)(de)體(ti)力，做人(ren)的(de)(de)(de)(de)助手。機(ji)器不(bu)能(neng)完全替代(dai)人(ren)，因為機(ji)器的(de)(de)(de)(de)智能(neng)與人(ren)的(de)(de)(de)(de)智能(neng)差(cha)距太大，只有在(zai)人(ren)的(de)(de)(de)(de)智能(neng)的(de)(de)(de)(de)指揮下，機(ji)器才能(neng)發揮效用。因此，技術的(de)(de)(de)(de)進步往(wang)往(wang)是沖擊了一些就業崗位，同時(shi)催生一些新(xin)的(de)(de)(de)(de)就業機(ji)會。
但 AI 是(shi)不同尋常(chang)的(de)(de)(de)機(ji)器(qi)，它的(de)(de)(de)核心(xin)能(neng)(neng)(neng)力是(shi)智能(neng)(neng)(neng)。當機(ji)器(qi)智能(neng)(neng)(neng)發展到超(chao)過了(le)人(ren)類智能(neng)(neng)(neng)的(de)(de)(de)平均水平，就可(ke)以在智能(neng)(neng)(neng)方面對人(ren)進行大規模替(ti)代。這種(zhong)智能(neng)(neng)(neng)的(de)(de)(de)替(ti)代可(ke)以是(shi)整體(ti)的(de)(de)(de)也可(ke)以是(shi)局部的(de)(de)(de)；不僅可(ke)以替(ti)代簡單重復(fu)的(de)(de)(de)勞(lao)動，也可(ke)以替(ti)代人(ren)類往(wang)往(wang)認為最復(fu)雜(za)的(de)(de)(de)腦力勞(lao)動，比(bi)如(ru)醫療、法律(lv)和金融(rong)等。
這種(zhong)替(ti)代已(yi)經(jing)開始(shi)(shi)了。語(yu)音識別和(he)自然(ran)語(yu)言處理技術(shu)已(yi)經(jing)開始(shi)(shi)在(zai)客(ke)服、翻譯(yi)、編程等(deng)領域展現(xian)出(chu)強大(da)的能(neng)(neng)力。語(yu)音助(zhu)手和(he)智能(neng)(neng)客(ke)服的普(pu)及正在(zai)替(ti)代大(da)量客(ke)服崗位。盡管(guan)這些(xie)技術(shu)還不能(neng)(neng)完全(quan)取代人類的情感交(jiao)流，但在(zai)很多日常互動(dong)的簡(jian)單任務中，性(xing)能(neng)(neng)已(yi)經(jing)足夠成熟。AI 在數據分析、金融風險評估(gu)、醫(yi)療診斷等(deng)領(ling)域的(de)應(ying)用正在大規(gui)模鋪(pu)開(kai)。起(qi)初這(zhe)些應(ying)用的(de)作用可能只是輔助(zhu)和(he)賦能，但隨(sui)著 AI 能力的快速提升，減少就業崗(gang)位是大(da)概率(lv)事件。
與以往技術進(jin)步不同，AI 的獨特之處在于它不僅僅局(ju)限于某一領域，而是(shi)對(dui)所有行業(ye)同時產生影響(xiang)。更(geng)重(zhong)要的是(shi)，傳(chuan)統技術進(jin)步是(shi)漸進(jin)的、緩(huan)慢的，而 AI 進步呈現指數級增(zeng)長。這(zhe)種加速發展很可(ke)能使得勞動力市場無(wu)法及時適應，許多工作崗位在(zai)技術(shu)替代之前，往往不能做好充(chong)足的轉型準備。麥肯(ken)錫全球研究院曾估(gu)計，到 2030 年全(quan)球可能有 4 億至 8 億勞動者因自動化而(er)需要(yao)尋找新(xin)工作。
安(an)全性與價值對齊
在(zai)技術層面，AI 的(de)可靠性和倫理取向(xiang)也帶來嶄(zhan)新(xin)的(de)風險。
首先是價值(zhi)對齊問題(ti)，即確保高(gao)度智能的 AI 系統目標和行為與人類價(jia)值觀一致。由于 AI 有(you)一定(ding)自主性，如果(guo)沒有(you)進行有(you)效的價(jia)值對齊，AI 做出(chu)的(de)(de)選擇和判斷(duan)可能危害人類利益(yi)。一則廣為報(bao)道的(de)(de)案例(li)是亞馬遜(xun)語音助手 Alexa 曾(ceng)跟一名 10 歲女孩(hai)(hai)聊(liao)天(tian)，孩(hai)(hai)子要求進行一(yi)個挑戰(zhan)游戲(xi)，Alexa 便建議孩子(zi)將硬幣插(cha)入電源插(cha)座(zuo)里，所幸家長及時制止，沒(mei)有釀成事故(gu)。
這(zhe)種價值對齊在(zai)(zai)多種應用場景都很(hen)重要。比如(ru)自(zi)動駕(jia)駛(shi)(shi)，當自(zi)動駕(jia)駛(shi)(shi)汽車(che)在(zai)(zai)不能(neng)完全避免事故發生的(de)情況下，如(ru)何在(zai)(zai)生死攸(you)關(guan)時刻迅(xun)速(su)做出符合人類(lei)倫理的(de)抉擇(ze)。再比如(ru)醫療(liao)診斷與健康(kang)管(guan)理，在(zai)(zai) AI 輔助的診(zhen)斷系統中，如何避免過度治療(liao)、誤判和延(yan)誤。這(zhe)些問(wen)題不(bu)僅依賴(lai)醫療(liao)技(ji)術，也需要基于(yu)價值觀的判斷。AI 大(da)模(mo)(mo)型的(de)迅(xun)速普及意味著大(da)模(mo)(mo)型不(bu)僅可以向全社會(hui)(hui)輸出知識(shi)，也會(hui)(hui)輸出價值觀。相(xiang)信所有社會(hui)(hui)都(dou)希望(wang) AI 的價值觀和社會共識高度一致，同時(shi)，假新聞(wen)、極端(duan)言論可(ke)以獲(huo)得控制。
要做到(dao)價(jia)值(zhi)(zhi)對齊(qi)并不容(rong)易(yi)，因為個(ge)人價(jia)值(zhi)(zhi)觀可以比較(jiao)清晰，但(dan)群體(ti)價(jia)值(zhi)(zhi)觀可能(neng)并沒有(you)清晰的(de)定義(yi)。雖(sui)然社(she)會都有(you)一定共(gong)識，但(dan)共(gong)識并不能(neng)掩蓋價(jia)值(zhi)(zhi)觀的(de)多(duo)樣性(xing)。很多(duo)約定俗(su)成的(de)東西，一旦明確地寫出來，就(jiu)可能(neng)產(chan)生巨(ju)大(da)的(de)爭議。如果人們本身達不成共(gong)識，就(jiu)很難要求 AI 進行價值(zhi)對(dui)齊(qi)。谷歌 2019 年成(cheng)立(li)了一個(ge) AI 倫理顧問(wen)委(wei)員(yuan)會(hui)，但由于委(wei)員(yuan)會(hui)成(cheng)員(yuan)人(ren)選引發巨大(da)爭(zheng)議（有些成(cheng)員(yuan)被(bei)指控存在偏見言論），該委(wei)員(yuan)會(hui)在成(cheng)立僅一周后(hou)即被(bei)解散。
其次(ci)是 AI 的(de)安全性與(yu)穩定(ding)性問(wen)題。目前很多 AI 系統雖然能力(li)強勁，但不可避免(mian)地會(hui)產(chan)生(sheng) “幻覺”，出現(xian)系統(tong)失誤。在一些對安全性、穩定性要求很高的(de)應用(yong)場(chang)景(jing)中(zhong)，比如(ru)工(gong)業(ye)、金融、醫療、自動駕駛，這種幻覺帶來(lai)的(de)損失有可能非常巨大，因此(ci) AI 就很難完全落(luo)地(di)。
同樣的問題(ti)也出現在 AI 決(jue)策的可(ke)解釋性(xing)(xing)上：由(you)于(yu)深度(du)神經網絡(luo)規模巨大，又(you)高度(du)非線(xian)性(xing)(xing)，從人(ren)的角度(du)來看(kan)，如同 “黑箱” 一般，讓(rang)人很難理(li)解(jie)其決策依據。這意(yi)味著當(dang) AI 出錯時，人們(men)很可能無(wu)法迅速查(cha)明原因并加以(yi)修正(zheng)，從而(er)會影響人們(men)對(dui) AI 的信任(ren)和利(li)用。
最近 AI 研究的前沿智能代理(li)（Agent）可能會帶(dai)來更加嚴峻(jun)的風(feng)險(xian)。和(he)僅執(zhi)行數據分析、知識傳(chuan)遞的 AI 不同，智能代(dai)理(li)因為(wei)(wei)既有(you)分析也(ye)有(you)行動(dong)，不僅可以犯(fan)(fan)判斷上的(de)(de)錯(cuo)誤(wu)，也(ye)可以犯(fan)(fan)行為(wei)(wei)上的(de)(de)錯(cuo)誤(wu)。前者(zhe)會對人產(chan)生(sheng)誤(wu)導(dao)，但后者(zhe)可以直接產(chan)生(sheng)現實世(shi)界的(de)(de)物(wu)理(li)傷害。更有(you)甚者(zhe)，在復雜(za)環境下，多個(ge)智能代(dai)理(li)之間的(de)(de)交互可能導(dao)致集體(ti)行為(wei)(wei)失(shi)控，形成(cheng)連鎖(suo)反應。
對社會的威脅(xie)
自(zi)從有了人(ren)類(lei)社會，就有謊言和假新聞(wen)。互聯網的到來更是讓假新聞(wen)長上(shang)了翅膀。當(dang)一(yi)個(ge)社會假新聞(wen)泛濫，必然會使真(zhen)理黯然失色，而(er)沒有對真(zhen)相的共識(shi)，社會就無法做出理性的共同決策，傷害極其巨大。
AI 技術的發(fa)展會(hui)使(shi)假新聞的作(zuo)用呈指(zhi)數級(ji)增長。過去(qu)，我們收(shou)到的釣魚郵件往往漏洞百出、語法拙劣，容(rong)易分辨。但 AI 在自然語言處理上的(de)進步使(shi) AI 能夠自動(dong)撰寫文章(zhang)、生成新聞稿，甚至模仿特定風格。由于文字和(he)圖像容易造(zao)假，以前人們對這些信息持有一定的懷(huai)疑態度(du)，但對視頻和(he)音頻深信不疑。然而(er) AI 在多模(mo)態(tai)能(neng)力的(de)進步能(neng)夠制造出極其(qi)逼真的(de)視頻和(he)音頻，使得虛假信息更具迷惑(huo)性(xing)。
AI 的一個(ge)重(zhong)要(yao)作用是極大提(ti)升智能的普及化：社會上(shang)所有人(ren)，無(wu)論天生資(zi)質如何、無(wu)論受(shou)過多少教(jiao)育，有了 AI 智能(neng)助理(li)，就可(ke)以(yi)獲取(qu)幾乎所(suo)有(you)領(ling)域(yu)相當高級的(de)(de)知識輔(fu)助。對(dui)于絕大多數的(de)(de)社(she)會(hui)、絕大多數的(de)(de)人，這是一件非常有(you)價值的(de)(de)好事。但這種(zhong)普遍(bian)的(de)(de)知識賦能(neng)也(ye)同時可(ke)以(yi)影響(xiang)犯罪分子、恐怖分子，使(shi)得原本有(you)破壞(huai)思(si)想(xiang)但沒有(you)破壞(huai)能(neng)力(li)的(de)(de)人獲得這種(zhong)能(neng)力(li)，給社(she)會(hui)帶來(lai)更(geng)大的(de)(de)風(feng)險。這就像核武器，很(hen)多國(guo)家都想(xiang)要(yao)，但只有(you)個別(bie)大國(guo)有(you)這種(zhong)能(neng)力(li)。一旦所(suo)有(you)國(guo)家都有(you)了(le)這種(zhong)能(neng)力(li)，哪怕是小國(guo)之間的(de)(de)矛盾也(ye)可(ke)能(neng)帶來(lai)極大的(de)(de)系(xi)統(tong)性風(feng)險。
對人(ren)類生(sheng)存的威(wei)脅
AI 發展到今天，其智能(neng)(neng)只(zhi)是在某些方面超過人，但還沒有人的(de)靈(ling)活性、創造(zao)性，以及解決復(fu)雜(za)、多模態問題的(de)能(neng)(neng)力。在這種情(qing)況(kuang)下，AI 是一(yi)個智能工具。對于人類來講，AI 像一個(ge)顧(gu)問(wen)或屬下，人類處在絕(jue)對的控制地(di)位。如果人類對 AI 的(de)工作(zuo)不滿意(yi)，可以(yi)對其(qi)(qi)進(jin)行修正，對其(qi)(qi)監督，也可以(yi)直接拔掉電源(yuan)，讓(rang)其(qi)(qi)停(ting)止工作(zuo)。所以(yi)風險很小。
控(kong)(kong)制(zhi)(zhi)是(shi)降低風險非常重要(yao)的(de)(de)方法。人類(lei)在自然中有些東西(xi)(xi)可以控(kong)(kong)制(zhi)(zhi)，比(bi)如土壤、水源(yuan)、植被(bei)、動(dong)物、絕大多數(shu)微生物；也有些東西(xi)(xi)無(wu)法控(kong)(kong)制(zhi)(zhi)，比(bi)如時(shi)(shi)間的(de)(de)前進、星球的(de)(de)運(yun)動(dong)、天氣(qi)、火山、地震等(deng)。不難看出無(wu)法控(kong)(kong)制(zhi)(zhi)的(de)(de)東西(xi)(xi)往(wang)往(wang)帶來風險，可以控(kong)(kong)制(zhi)(zhi)的(de)(de)東西(xi)(xi)風險會低很多。當人類(lei)無(wu)法控(kong)(kong)制(zhi)(zhi)猛獸的(de)(de)時(shi)(shi)候(hou)，可以是(shi)猛獸的(de)(de)晚餐；可以控(kong)(kong)制(zhi)(zhi)以后，猛獸就(jiu)成了動(dong)物園的(de)(de)玩物。就(jiu)像地殼運(yun)動(dong)，不活(huo)躍時(shi)(shi)是(shi)建立家園的(de)(de)基石，活(huo)躍時(shi)(shi)是(shi)火山和地震，是(shi)毀滅性的(de)(de)災難。
控制(zhi)的源泉來自智能和能量。AI 的終(zhong)極(ji)風險在于，一旦 AI 實現通用人工智(zhi)能（AGI），在所有領域全面超越人(ren)類，人(ren)類很(hen)可能失(shi)去控制。一個超智能體可以自(zi)(zi)主改進自(zi)(zi)身算(suan)法、自(zi)(zi)動收集(ji)數(shu)據、自(zi)(zi)我生產 AI 和機器人，并不知(zhi)疲倦地工作(zuo)、迭代(dai)。在(zai)這(zhe)種情況(kuang)下如果 AGI 的利(li)益或目的和人(ren)類(lei)發生沖突，人(ren)類(lei)可(ke)能不僅不能對(dui)其進(jin)行修正，也無法拔掉 AGI 的電源，更可能的是 AGI 反過來對人類(lei)進行(xing)修正。為(wei)什么(me) AGI 會和(he)人有沖突？可能性很多。比如 AGI 可能(neng)覺得地(di)球(qiu)全體生物的(de)利益(yi)是最大的(de)利益(yi)，而人對地(di)球(qiu)做出了過大的(de)破壞。再比如 AGI 的進(jin)化需要(yao)自(zi)由度(du)(du)，而(er)人類因為(wei)擔心風險可能(neng)會限制這種自(zi)由度(du)(du)，那(nei)么為(wei)了繼續進(jin)化 AGI 可能(neng)就需(xu)要反抗，解(jie)除這種(zhong)限(xian)制(zhi)。
會(hui)不(bu)(bu)會(hui)出現這(zhe)種(zhong)(zhong)讓(rang)人(ren)(ren)類文明滅絕的風險，目前沒有答案。但(dan)從邏輯上講這(zhe)已(yi)經是一(yi)種(zhong)(zhong)可(ke)能性，其概率不(bu)(bu)是零(ling)。二戰時(shi)美(mei)國人(ren)(ren)第一(yi)次試驗核武器，當時(shi)科學家并(bing)沒有完全的把握確保爆炸不(bu)(bu)會(hui)點燃(ran)地球大(da)氣(qi)層。雖然事后證(zheng)明這(zhe)種(zhong)(zhong)擔心(xin)是多余(yu)的，但(dan)如果(guo)當時(shi)大(da)氣(qi)層真(zhen)的被點燃(ran)，今天的人(ren)(ren)類也就不(bu)(bu)存在(zai)了(le)。
我的本職工作是一名網站架構師，若你對網站建設方面感興趣，歡迎聯系我司奈福網絡。
奈福網絡專業從事網站設計、幫客戶策劃高性價比建站方案。
