歐盟擬要求開(kāi)發(fā)ChatGPT等生成式人工智能工具的公司披露是否在系統(tǒng)中使用了受版權(quán)保護(hù)的材料,。該協(xié)議為可能是世界上第一部綜合性人工智能法律的《人工智能法》鋪平道路,，預(yù)計(jì)將產(chǎn)生全球性影響。

當(dāng)?shù)貢r(shí)間4月27日,，經(jīng)過(guò)幾個(gè)月的緊張談判,，歐洲議會(huì)成員已經(jīng)彌合分歧,，就《人工智能法（The AI Act）》提案達(dá)成臨時(shí)政治協(xié)議，要求部署ChatGPT等生成式人工智能工具的公司披露用于開(kāi)發(fā)其系統(tǒng)的受版權(quán)保護(hù)的材料,。該協(xié)議為可能是世界上第一部綜合性人工智能法律的《人工智能法》出臺(tái)鋪平道路,。

在定于5月11日進(jìn)行的關(guān)鍵委員會(huì)投票前，提案文本可能仍需在技術(shù)層面上進(jìn)行細(xì)微調(diào)整,，6月中旬預(yù)計(jì)將進(jìn)行全體投票,。

最后一刻的變化：生成式人工智能監(jiān)管

《人工智能法》預(yù)計(jì)將成為歐盟一項(xiàng)具有里程碑意義的立法，已經(jīng)醞釀了兩年多,。立法者提議根據(jù)他們認(rèn)為的風(fēng)險(xiǎn)級(jí)別對(duì)不同的人工智能工具進(jìn)行分類,，從最低到有限、高和不可接受,。使用這些工具的政府機(jī)構(gòu)和企業(yè)將根據(jù)風(fēng)險(xiǎn)級(jí)別承擔(dān)不同的義務(wù),。

該法案范圍廣泛，將管轄所有人工智能產(chǎn)品或服務(wù)的提供方,，涵蓋可以生成內(nèi)容,、預(yù)測(cè)、建議或影響環(huán)境的決策的系統(tǒng),。

除了企業(yè)對(duì)人工智能的使用外,，法案還將研究公共部門和執(zhí)法部門使用的人工智能，并與《通用數(shù)據(jù)保護(hù)條例（GDPR）》等法律協(xié)同工作,。與人類互動(dòng),、用于監(jiān)視目的或生成“深度偽造”內(nèi)容的人工智能系統(tǒng)的使用者將面臨嚴(yán)格的透明度義務(wù)。

直到最后一刻,，歐盟立法者還在對(duì)提案中一些最具爭(zhēng)議的部分進(jìn)行討論,。

“通用目的人工智能系統(tǒng)（General Purpose AI System）”是立法者提出的一個(gè)類別，用于解釋具有多個(gè)應(yīng)用程序的人工智能工具,，例如ChatGPT這樣的生成式人工智能模型。如何處理 “通用目的人工智能系統(tǒng)”一直是討論中爭(zhēng)論激烈的話題,。歐洲議會(huì)確認(rèn)了之前的提案,，即對(duì)“通用目的人工智能系統(tǒng)”的一個(gè)子類別——基礎(chǔ)模型施加更嚴(yán)格的要求 。根據(jù)要求,，開(kāi)發(fā)ChatGPT等生成式人工智能工具的公司必須披露他們是否在系統(tǒng)中使用了受版權(quán)保護(hù)的材料,。

協(xié)議達(dá)成前夕唯一重要的變化就是關(guān)于生成式人工智能模型，“這些模型的設(shè)計(jì)和開(kāi)發(fā)必須符合歐盟法律和基本權(quán)利,，包括表達(dá)自由,?！?/p>

《人工智能法》還禁止“有目的的”操縱?！坝心康牡摹边@個(gè)詞有爭(zhēng)議,，因?yàn)榭赡茈y以證明故意性，但仍被保留下來(lái),。

另外,，在執(zhí)法、邊境管理,、工作場(chǎng)所和教育領(lǐng)域,，法案要求禁止使用AI驅(qū)動(dòng)的情緒識(shí)別軟件。

歐盟立法者對(duì)預(yù)測(cè)性警務(wù)（predictive policing）的禁令從刑事犯罪擴(kuò)展到了行政犯罪,，其依據(jù)是荷蘭兒童福利丑聞,，該丑聞中成千上萬(wàn)的家庭因有缺陷的算法而被誤判為欺詐。

高風(fēng)險(xiǎn)分類變化

許多人工智能工具可能被認(rèn)為是高風(fēng)險(xiǎn)的,，例如用于關(guān)鍵基礎(chǔ)設(shè)施,、執(zhí)法或教育的工具。它們比“不可接受”低一級(jí),，因此不會(huì)被完全禁止,，但需要在操作中保持高度透明。高風(fēng)險(xiǎn)人工智能的使用者可能需要完成嚴(yán)格的風(fēng)險(xiǎn)評(píng)估,，記錄他們的活動(dòng),，并向當(dāng)局提供數(shù)據(jù)以供審查。這可能會(huì)增加公司的合規(guī)成本,。

最初的提案將某些關(guān)鍵領(lǐng)域和用例的人工智能解決方案自動(dòng)歸類為高風(fēng)險(xiǎn),，這意味著供應(yīng)商必須遵守更嚴(yán)格的制度，包括對(duì)風(fēng)險(xiǎn)管理,、透明度和數(shù)據(jù)治理的要求,。歐洲議會(huì)引入了一個(gè)額外的層次，使這些類別的人工智能模型只有在對(duì)健康,、安全或基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)的情況下才會(huì)被視為高風(fēng)險(xiǎn),。

重大風(fēng)險(xiǎn)被定義為“由于其嚴(yán)重性、強(qiáng)度,、發(fā)生的概率和影響的持續(xù)時(shí)間而具有重大意義的風(fēng)險(xiǎn),，并且能夠影響一個(gè)人、多個(gè)人或一個(gè)特定群體”,。

根據(jù)綠黨的要求,，用于管理能源網(wǎng)或水系統(tǒng)等關(guān)鍵基礎(chǔ)設(shè)施的人工智能，如果帶來(lái)嚴(yán)重的環(huán)境風(fēng)險(xiǎn)，也將被歸類為高風(fēng)險(xiǎn),。

此外,，中左翼立法者還爭(zhēng)取到了一個(gè)規(guī)定：根據(jù)《數(shù)字服務(wù)法》（DSA）的定義，超大型在線平臺(tái)的推薦系統(tǒng)將被視為高風(fēng)險(xiǎn),。

歐洲議會(huì)議員為高風(fēng)險(xiǎn)人工智能模型的提供者處理敏感數(shù)據(jù)（如性取向或宗教信仰）以檢測(cè)負(fù)面偏見(jiàn)的過(guò)程,，納入了額外的保障措施。此外,，評(píng)估必須發(fā)生在受控環(huán)境中,。敏感數(shù)據(jù)不能被傳輸給其他方，并且必須在偏見(jiàn)評(píng)估后被刪除,。提供者還必須記錄數(shù)據(jù)處理發(fā)生的原因,。

《國(guó)家法律評(píng)論》4月26日?qǐng)?bào)道稱：“《人工智能法》將產(chǎn)生全球性的影響，因?yàn)樗鼘⑦m用于在歐盟提供或使用人工智能系統(tǒng)的組織,；以及位于第三國(guó)（包括英國(guó)和美國(guó)）的人工智能系統(tǒng)的提供者或使用者,，如果這些人工智能系統(tǒng)產(chǎn)生的輸出在歐盟使用?！?/p>