當(dāng)?shù)貢r(shí)間10月30日，美國(guó)總統(tǒng)拜登簽署一項(xiàng)“具有里程碑意義的”行政命令，推出白宮有關(guān)生成式人工智能的首套監(jiān)管規(guī)定。

　　根據(jù)行政命令，美國(guó)多個(gè)政府機(jī)構(gòu)需制定標(biāo)準(zhǔn)，以防止使用人工智能設(shè)計(jì)生物或核武器等威脅，并尋求“水印”等內(nèi)容驗(yàn)證的最佳方法，擬定先進(jìn)的網(wǎng)絡(luò)安全計(jì)劃。

　　具體而言，命令要求對(duì)人工智能產(chǎn)品進(jìn)行測(cè)試，并將測(cè)試結(jié)果報(bào)告給聯(lián)邦政府。它還提出吸引全球人工智能人才留在美國(guó)。據(jù)多家媒體此前報(bào)道，該行政命令要求運(yùn)行云服務(wù)的公司向政府通報(bào)其外國(guó)客戶的情況。

　　“行政命令設(shè)定了規(guī)范”

　　白宮在一篇聲明中稱，該行政命令旨在確保美國(guó)在兌現(xiàn)人工智能的承諾和管理風(fēng)險(xiǎn)方面發(fā)揮帶頭作用。作為拜登政府負(fù)責(zé)任創(chuàng)新綜合戰(zhàn)略的一部分，它建立在總統(tǒng)之前采取的行動(dòng)的基礎(chǔ)上，其中包括15家領(lǐng)先公司自愿承諾推動(dòng)人工智能安全、可靠和值得信任的發(fā)展的工作。

　　美國(guó)媒體POLITICO報(bào)道稱，盡管該命令不具有法律效力，而且白宮之前的人工智能監(jiān)管工作也因缺乏執(zhí)行力而受到批評(píng)，但新規(guī)定將通過(guò)聯(lián)邦機(jī)構(gòu)的購(gòu)買(mǎi)力和執(zhí)行工具對(duì)美國(guó)市場(chǎng)產(chǎn)生影響力。例如，行政命令特別指示聯(lián)邦貿(mào)易委員會(huì)重點(diǎn)關(guān)注人工智能行業(yè)的反競(jìng)爭(zhēng)行為和消費(fèi)者傷害問(wèn)題，該機(jī)構(gòu)主席莉娜·汗（Lina Khan）已經(jīng)公開(kāi)支持這一使命。

　　“這是重要的第一步，重要的是，行政命令設(shè)定了規(guī)范?！眴讨纬谴髮W(xué)安全與新興技術(shù)中心高級(jí)研究分析師勞倫·卡恩（Lauren Kahn）在接受媒體采訪時(shí)說(shuō)。

　　白宮將向十多個(gè)政府機(jī)構(gòu)發(fā)布內(nèi)容廣泛的指令。在明年總統(tǒng)選舉之前，大多數(shù)機(jī)構(gòu)將有90至240天時(shí)間來(lái)滿足行政命令的要求。命令還將任命一個(gè)白宮人工智能委員會(huì)來(lái)協(xié)調(diào)聯(lián)邦政府的相關(guān)活動(dòng)，該委員會(huì)由白宮負(fù)責(zé)政策的副幕僚長(zhǎng)擔(dān)任主席，并由來(lái)自各主要機(jī)構(gòu)的代表組成。

　　拜登政府一位高級(jí)官員在簡(jiǎn)報(bào)中告訴記者，新規(guī)定主要適用于未來(lái)的人工智能模型，“我們不會(huì)召回現(xiàn)有的公開(kāi)型號(hào)?！?/p>

　　《紐約時(shí)報(bào)》報(bào)道稱，該命令針對(duì)的是最先進(jìn)的未來(lái)系統(tǒng)，但在很大程度上并沒(méi)有解決現(xiàn)有聊天機(jī)器人的直接威脅，這些機(jī)器人可能被用來(lái)傳播與烏克蘭、加沙或總統(tǒng)競(jìng)選有關(guān)的虛假信息。此外，雖然該命令僅影響美國(guó)公司，但由于軟件開(kāi)發(fā)發(fā)生在世界各地，美國(guó)在執(zhí)行這些規(guī)定時(shí)將面臨外交挑戰(zhàn)，所以美國(guó)政府試圖鼓勵(lì)盟友和對(duì)手制定類似的規(guī)則。

　　必須與政府共享安全測(cè)試結(jié)果

　　行政命令將指導(dǎo)八項(xiàng)行動(dòng)：為人工智能安全制定新標(biāo)準(zhǔn)，保護(hù)隱私，促進(jìn)公平和公民權(quán)利，維護(hù)消費(fèi)者、患者和學(xué)生的權(quán)利，支持勞動(dòng)者，促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)，提升美國(guó)在人工智能技術(shù)方面的領(lǐng)導(dǎo)地位，并確保政府負(fù)責(zé)任且有效地使用該技術(shù)。

　　第一個(gè)部分是“人工智能安全新標(biāo)準(zhǔn)”。根據(jù)《國(guó)防生產(chǎn)法》，該命令將要求開(kāi)發(fā)任何對(duì)國(guó)家安全、國(guó)家經(jīng)濟(jì)安全或國(guó)家公共健康安全構(gòu)成嚴(yán)重風(fēng)險(xiǎn)的基礎(chǔ)模型的公司，在訓(xùn)練模型時(shí)通知聯(lián)邦政府，并且必須與聯(lián)邦政府共享所有紅隊(duì)安全測(cè)試的結(jié)果，并開(kāi)發(fā)標(biāo)準(zhǔn)、工具和測(cè)試手段，以幫助確保人工智能系統(tǒng)安全和可靠。

　　美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所（The National Institute of Standards and Technology）將為廣泛的紅隊(duì)測(cè)試制定嚴(yán)格的標(biāo)準(zhǔn)。國(guó)土安全部將把這些標(biāo)準(zhǔn)應(yīng)用于關(guān)鍵基礎(chǔ)設(shè)施部門(mén)，并成立人工智能安全委員會(huì)。能源部和國(guó)土安全部還將解決人工智能系統(tǒng)對(duì)關(guān)鍵基礎(chǔ)設(shè)施的威脅，以及化學(xué)、生物、放射性、核和網(wǎng)絡(luò)方面的安全風(fēng)險(xiǎn)。

　　命令要求，通過(guò)制定強(qiáng)有力的生物合成篩選新標(biāo)準(zhǔn)，防范使用人工智能設(shè)計(jì)危險(xiǎn)生物材料的風(fēng)險(xiǎn)。

　　命令還要求，通過(guò)建立檢測(cè)人工智能生成的內(nèi)容和驗(yàn)證官方內(nèi)容的標(biāo)準(zhǔn)和最佳方法，保護(hù)美國(guó)人免受人工智能驅(qū)動(dòng)的欺詐和欺騙。商務(wù)部將制定內(nèi)容認(rèn)證和水印指南，以明確標(biāo)記人工智能生成的內(nèi)容。

　　命令要求制定國(guó)家安全備忘錄，以指導(dǎo)人工智能和安全方面的進(jìn)一步行動(dòng)，由國(guó)家安全委員會(huì)和白宮辦公廳主任負(fù)責(zé)。該文件將確保美國(guó)軍事和情報(bào)界在其任務(wù)中安全、合乎道德且有效地使用人工智能，并將指導(dǎo)采取行動(dòng)反擊對(duì)手對(duì)人工智能的軍事使用。

　　據(jù)POLITICO和《紐約時(shí)報(bào)》稍早前披露的草案，為了防止強(qiáng)大的人工智能模型落入外國(guó)對(duì)手手中，該命令要求開(kāi)發(fā)強(qiáng)大人工智能模型的公司向商務(wù)部提供定期報(bào)告，并要求亞馬遜和微軟等大型云服務(wù)商在外國(guó)客戶租用服務(wù)器訓(xùn)練大模型時(shí)通知政府。

　　隱私、公平、健康、教育方面

　　第二部分是“保護(hù)美國(guó)人的隱私”。第一步將涉及管理和預(yù)算辦公室查明政府購(gòu)買(mǎi)了多少個(gè)人身份信息。行政命令還將制定指導(dǎo)方針，以減輕政府收集、使用、共享和刪除從數(shù)據(jù)經(jīng)紀(jì)人處購(gòu)買(mǎi)的信息時(shí)的隱私風(fēng)險(xiǎn)。

　　行政命令鼓勵(lì)聯(lián)邦機(jī)構(gòu)采用高端隱私增強(qiáng)技術(shù)來(lái)保護(hù)收集的數(shù)據(jù)，并鼓勵(lì)國(guó)家科學(xué)基金會(huì)資助一個(gè)新的研究網(wǎng)絡(luò)，該網(wǎng)絡(luò)專注于開(kāi)發(fā)、推進(jìn)和部署供聯(lián)邦機(jī)構(gòu)使用的隱私技術(shù)。

　　該命令還涉及人工智能在工作場(chǎng)所的使用，指出不應(yīng)部署人工智能技術(shù)來(lái)“鼓勵(lì)不當(dāng)?shù)膭趧?dòng)者監(jiān)視”。

　　第三部分是“促進(jìn)公平和公民權(quán)利”。命令要求為房東、聯(lián)邦福利計(jì)劃和聯(lián)邦承包商提供明確的指導(dǎo)，以防止人工智能算法被用來(lái)加劇歧視。通過(guò)制定在量刑、假釋和緩刑、審前釋放和拘留、風(fēng)險(xiǎn)評(píng)估、監(jiān)控、犯罪預(yù)測(cè)和預(yù)測(cè)性警務(wù)以及法證分析中使用人工智能的最佳實(shí)踐，確保整個(gè)刑事司法系統(tǒng)的公平性。

　　第四部分是“支持消費(fèi)者、患者和學(xué)生”。衛(wèi)生與公眾服務(wù)部將制定一項(xiàng)安全計(jì)劃，以接收涉及人工智能的危害或不安全醫(yī)療保健實(shí)踐的報(bào)告，并采取行動(dòng)進(jìn)行補(bǔ)救。命令要求支持教育工作者部署人工智能支持的教育工具（例如在學(xué)校進(jìn)行個(gè)性化輔導(dǎo)），塑造人工智能改變教育的潛力。

　　第五部分是“支持勞動(dòng)者”。制定原則和最佳方法，為勞動(dòng)者提供指導(dǎo)，防止雇主薪酬過(guò)低、不公平地評(píng)估工作申請(qǐng)或影響勞動(dòng)力的組織能力。

　　為留住人工智能人才提供便利

　　第六部分是“促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)”。白宮稱，美國(guó)在人工智能創(chuàng)新方面已經(jīng)處于領(lǐng)先地位，去年在美國(guó)首次籌集資金的人工智能初創(chuàng)公司數(shù)量超過(guò)了排在后面的七個(gè)國(guó)家的總和。

　　命令提出，通過(guò)國(guó)家人工智能研究資源試點(diǎn)來(lái)促進(jìn)美國(guó)各地的人工智能研究，并擴(kuò)大對(duì)醫(yī)療保健和氣候變化等重要領(lǐng)域人工智能研究的資助；通過(guò)為小型開(kāi)發(fā)者和企業(yè)家提供技術(shù)援助和資源，幫助小型企業(yè)突破商業(yè)化，并鼓勵(lì)聯(lián)邦貿(mào)易委員會(huì)行使其權(quán)力，促進(jìn)公平、開(kāi)放和競(jìng)爭(zhēng)的人工智能生態(tài)系統(tǒng)；通過(guò)現(xiàn)代化和簡(jiǎn)化簽證標(biāo)準(zhǔn)、面試和審查，擴(kuò)大在關(guān)鍵領(lǐng)域擁有專業(yè)知識(shí)的高技術(shù)移民和非移民在美國(guó)學(xué)習(xí)、居留和工作的能力。

　　第七部分是“提升美國(guó)在海外的領(lǐng)導(dǎo)力”。命令提出，美國(guó)國(guó)務(wù)院將與商務(wù)部合作，領(lǐng)導(dǎo)建立強(qiáng)大的國(guó)際框架，與國(guó)際合作伙伴和標(biāo)準(zhǔn)組織一起加快重要人工智能標(biāo)準(zhǔn)的開(kāi)發(fā)和實(shí)施，促進(jìn)人工智能在國(guó)外安全、負(fù)責(zé)任和維護(hù)權(quán)利地發(fā)展和部署。

　　據(jù)悉，美國(guó)副總統(tǒng)卡馬拉·哈里斯將出席本周在倫敦舉行的人工智能安全峰會(huì)。

　　第八部分是“確保政府負(fù)責(zé)任且有效地使用人工智能”。命令要求，為各機(jī)構(gòu)使用人工智能發(fā)布指南，包括制定保護(hù)權(quán)利和安全的明確標(biāo)準(zhǔn)、改進(jìn)人工智能采購(gòu)并加強(qiáng)人工智能部署；通過(guò)更快速、更高效的簽約，幫助機(jī)構(gòu)更快、更便宜、更有效地獲取指定的人工智能產(chǎn)品和服務(wù)。