豆泥
豆泥

分散式自治實踐與研究者,尋找有別於電馭極權與財閥亂鬥的第三條路。喜歡討論,請別客氣與我討論。

[譯文] 人工智慧與民主的數位身分危機

本文翻譯自《史丹佛區塊鏈法律與政策期刊》於 2024 一月發表的論文〈人工智慧與民主的數位身分危機〉。這篇論文作為一份政策倡議,討論集中式身分與去中心身分光譜,並建議抵抗深偽技術的身分證明解決方案,不應該是集中式平台,而應該而應該考慮去中心驗證相關技術。

期刊名:史丹佛區塊鏈法律與政策期刊 Stanford Journal of Blockchain Law & Policy

論文名:人工智慧與民主的數位身分危機 AI and Democracy’s Digital Identity Crisis

作者群

1.Shrey Jain,哈佛民主改革實驗室研究聯絡人

2.Connor Spelliscy,去中心研究中心的執行主任

3.Samuel Vance-Law,去中心研究中心的高級研究員

4.Scott Moore,Public Works 創辦人和 Gitcoin 的聯合創辦人

發表日期:Jan 02, 2024
原文連結:https://stanford-jblp.pubpub.org/pub/ai-democracy-digital-identity
授權方式:CC-BY 4.0

翻譯:mashbean、Frank Hu、Pei-Xing Liao
譯按:本文有將部分翻譯內容改為台灣脈絡。

摘要


人工智慧與民主的數位身分危機

現代民主制度取決於數位溝通的完整性。使用AI的工具已經成熟,使少數人可以利用過時且易受攻擊的身分驗證系統,進行前所未有的不實訊息活動。政府可能會藉由大規模中心化身分驗證系統來減輕這一風險;然而,這些中心化系統本身可能對其保護的民主進程構成風險。

身分證明

隨著人工智慧系統能夠模仿人類互動,具有彈性且保護隱私的身分證明(Attestation)可以大幅減少冒充事件,並使不實訊息易於識別和遏止。身分證明至少有兩項關鍵:證明的技術如何組成,與其如何治理。將兩者去中心的身分證明可以讓使用者對自己的身分資料擁有控制權,保護隱私,減少被駭客攻擊的風險,並降低操縱可能。

藉由了解身分證明在「中心—去中心」光譜上的定位,我們更容易了解各種身分證明的成本和效益。我們將討論各種身分證明種類,包括政府、生物辨識、聯邦身分和信任網絡等。其中案例包含愛沙尼亞數位身分(e-Estonia)、中國社會信用系統、世界幣(Worldcoin)、OAuth、X(前身為Twitter)、Gitcoin Passport和以太坊證明系統(EAS)等。

身分驗證系統

使用者、身分證明(Attestation)和身分提供者之間的關係構成了身分驗證系統。我們相信不斷進化且與其他進化中的身分相連接的身分,並且彼此互相驗證,是最具彈性的系統。在這種類型的系統中,每個實體都對證明過程做出了相應的「信任」貢獻,從而打造了更大、更全面的證明集合。身分聚合器(aggregators)服務由此誕生,例如 Gitcoin Passport 是一個聚合器,它使社群能夠藉由單一工具要求多個中心化或去中心化的證明來驗證使用者身分。我們相信這些系統可能是驗證身分和防範惡意行為者利用人工智慧對民主造成威脅的最佳方法。

政府對身分的中心化方法的危險

我們相信,使用人工智慧進行冒充和不實訊息攻擊將對民主過程產生重大影響。政府可能會全面使用個人資訊和生物辨識的中心化數位身分驗證系統;然而,我們在此提出警告,不要使用這些系統,因為它們可能使政府過度強大,並對民主產生鬆動的風險。特別是現有的和未來即將發生的驗證系統,政府將把這些作為壓制民主和打壓持異己的手段。在本節中,我們將研究中國的社會信用系統、e-Estonia以及塔利班在阿富汗接管西方身分驗證系統和資料的情況。

給政策制定者的建議

鑑於上述風險又急又廣,政策制定者需要加快並支持身分證明和認證系統的研究。

  1. 支持身分標準制定組織發展
    政府應參與標準制定組織的建立和維護,這些組織可以幫助制定數位身分的標準,以改善其各種功能,包含但不限於安全性、可靠性和兼容性。

  1. 為去中心化工具的開發者提供釐清法規
    去中心化身分驗證和相關工具的開發者常常面臨法律不確定性,這限制了創新的可能。我們建議美國政策制定者藉由立法提供法律明確性,並促進善意行為者在相關技術上的創新。

  1. 資助有效的身分驗證系統
    目前相關研究仍然有限,包含各種數位身分驗證系統的效能,以及政府使用這些系統的長期影響。我們建議政府在大規模部署之前,應該資助使用者研究,以了解身分驗證系統在不同情境下的運作方式。此外,隨著更多資料出台,我們建議持續評估這些系統及其實際效果。


介紹

當你想與立法委員溝通時,你不會走進他們的立法院辦公室;你會寄e-mail、在臉書上tag他們,或是上網陳情。現代民主制度仰賴這些數位溝通方式的誠信(integrity)。然而,人工智慧系統已經變得足夠複雜,使得惡意行為者能夠藉由大規模深偽公民的方式,嚴重破壞誠信。

像大型語言模型(LLMs)這樣的人工智慧工具,讓少數人能夠利用過時且易受攻擊的身分驗證系統,打造大規模不實訊息政治宣傳活動。這樣的攻擊可能對民主過程產生實質影響,政府可能會在線上部署區分公民和非公民(或機器人)的身分系統。然而不幸的是,使用這樣的系統時,政府往往仰賴中心化的解決方案,這個選擇本身可能對鬆動民主。

在本文中,我們探討人工智慧對現有的民主數位身分系統所帶來的威脅,並檢視這些威脅可能產生的重要效應:政府建立中心化身分驗證系統。我們繼而提供不同類型身分證明的資料,討論優缺點,並提出了政策建議。

I. AI將民主制度置於危險中

現代人工智慧模型越來越能夠模仿特定個體 (Sadasivan et al., 2023, p. 12;1 Zhou et al., 2023;2 OpenAI, 2023, p. 10;3 Heikkilä, 2023;4 Shoker et al., 20235 。使用這些模型的人可以藉由冒充選民的身分影響政策制定者,並透過浮誇的不實訊息影響人群。

這些模型已經被用來冒充選民,以至於說服政策制定者相信它們代表的觀點。2020年,研究人員莎拉·克雷普斯(Sarah Kreps)和道格拉斯·L·克里納(Douglas L. Kriner)向7000多名州議員發送了超過30,000封電子郵件,其中50%由人工智慧撰寫,50%由學生撰寫。這些電子郵件聲稱來自選民,但議員及其工作人員無法區分由人工智慧生成的和由人類生成的陳情,其中人工智慧內容僅引起2%較少的回應(Kreps and Kriner, 2023, p.1).6。從那時起,人工智慧的能力有了顯著提升 (Folio3, 2023)7 ,增加了這種威脅的可行性。如果這種策略被更廣泛地採用,選民與他們的立委之間的溝通管道可能會中斷,危及代議制度的完整性。

AI在媒體中生成的不實訊息也給政策制定者和官員帶來了重大挑戰。2023年3月,一張看似顯示前總統川普被逮捕的AI生成照片在網絡上迅速傳播,引起了憤怒 (Garber, 2023)8,而在4月,其中一個幾乎完全由AI撰寫的網站celebritiesdeaths.com宣布拜登總統去世(Cantor, 2023)9。5月,一張聲稱發生對五角大樓的攻擊的AI生成圖像短暫導致股市下跌(Haddad, 2023)10,而在6月,佛羅里達州州長羅恩·德桑提斯的競選活動使用AI生成圖像在一個攻擊廣告中抨擊前總統川普( (Ulmer and Tong, 2023)11。無論是在產品評論、內容農場還是新聞網站上,使用AI生成照片和文字的情況正在迅速增加 (Thompson, 2023)12。參議院多數黨領袖查克·舒默最近在IBM總部對觀眾表示,他最擔心的問題之一是AI深度偽造將使人們對民主完全失去信心 (Heath, 2023)13

II. 身分證明

冒充和不實訊息活動並不是僅由AI創造的( (Kapoor and Narayanan, 2023)14,但這些系統正在指數級發展,相關威脅需要新的解決方案。隨著人類和AI生成內容之間的區別變得不可能,我們需要能夠確認的不僅僅是所說了什麼,還有是誰說的

為了識別一段話是由特定個人發表,而不是由機器人發表,我們仰賴與陳述來源相關的身分證明。身分證明是可驗證聲明(verifiable claims,譯按,現在業界共識統一為 verifiable credential),由可信的發行者發給接收者。比如是X(前身為Twitter)上的灰色勾勾便是簡單的數位身分證明,由X發給X認為代表政府/多邊組織或官員的帳戶。

隨著AI系統能夠模仿人類互動,具有彈性且保護隱私的身分證明可以大幅減少冒充事件,並使辨識不實訊息變得更容易。這些系統,即使是專門設計用於檢測機器人的系統,也面臨著AI發展的不斷壓力,正如GPT-4替人類解決CAPTCHA問題 (Cuthbertson, 2023)15,儘管目前機器人往往能夠比人類更快地解決CAPTCHA測試(Blakely, 2023)16 。因此,開發對抗AI的身分證明至關重要,以區分人類和AI生成的內容,並驗證資訊來源。在下一節中,我們將討論政府可能使用的不同形式的數位身分證明,以區分公民和網絡機器人。

身分證明的中央集權和去中心化光譜

身分證明通常被分為中心化和去中心化兩種類型。例如,加州州政府發行的駕駛執照用於證明駕駛員有權駕駛特定類型的車輛,可以被視為中心化的證明。相反地,一個社交俱樂部根據現有成員的背書接受新成員,可能被視為去中心化的證明。儘管這種將二分法有一定的用處,但它無法準確地將證明分類,因為證明通常存在於一個光譜上,並不完全是中心化或去中心化的。某些數位身分證明在某些方面(例如架構、政治和邏輯上)比其他證明更加集中,而在這個光譜上,不同形式的證明存在脈絡上的優缺點(Buterin, 2017)17。例如,雖然政府發行的身分證明可能效率高,但它缺乏基於多個受信任個人或團體的獨立推薦,因此沒有堅固(robustness)和韌性。

在身分證明的脈絡下,沒有明確的標準來界定中心化與否,但至少有兩個關鍵需要考慮:證明的相關技術如何組成,與其治理方式。藉由這兩個指標,我們可以更好地衡量不同身分證明的中心化程度,並制定更好的標準來評估它們在人工智慧驅動的世界中的韌性。

「技術」的去中心化關乎身分驗證的關鍵基礎建設如何保持彈性。評估系統技術的去中心化,可能包括評估系統中節點的數量和多樣性、系統組件的替換成本、對程式碼儲存庫的貢獻者數量和多樣性,以及程式碼是否使用專有或開放。目標是確定系統本身在多大程度上仰賴任何特定的組件或開發者。

「治理」的去中心化指的是對特定系統的驗證進行管理。趨向中央集權的驗證由少數幾方控制,而趨向去中心化的驗證則將控制權分散在更大且不相關的群體之間(Weyl et al., 2022)18。這些標準可以幫助定義驗證系統運作的組織管理,或者哪些決策影響驗證的有效性。

在技術和治理兩個維度上,趨向去中心化的身分驗證可以讓使用者對自己的身分資料擁有控制權(包括選擇性披露資訊),並將各種形式的控制權分散在大型但可管理的防串謀群體中,來限制惡意操縱 (Miller, 2022)19 。它們更難受到攻擊,因為它們缺乏脆弱的中心點,並且由於依賴多個組件,它們發生故障的可能性較小 (Buterin, 2017)20

然而,目前相關技術的複雜性使它們難以使用,缺乏標準可能導致使用門檻,當不同發行方的數量增加,不相容的風險也隨之增加。缺乏中央權威也可能使解決爭議或恢復遺失的憑證變得困難。目前有些人正在努力改進分散式身分證明的標準化工作,如可驗證憑證(VCs)和分散式識別符(DIDs) (Verifiable Credentials Working Group, 2022)21

在評估身分證明時,分析其技術和治理層面非常重要。這些層面為我們提供基石,界定這些證明是中心化,還是去中心化。藉此我們可以分辨完全或部分去中心化身分的兩種主要策略:

  1. 個體控制:由去中心化的個體證明所治理。這些證明以其去中心化的性質獨立存在,不依賴外部因素或與其他證明的組合。

  2. 集體依賴:這種策略強調聚合(aggregation)的力量。藉由擁有眾多的證明並利用先進的工具對其進行聚合,我們可以打造一個分散化的框架,任何單一的證明將變得可有可無。如果缺少一個證明而被當成不可靠,可以更依賴其他證明集合中的其他證明。藉由理解和應用這些策略,利害關係人可以更容易適應中心化和去中心化的光譜,最佳化安全性和使用者代理。

數位身分證明的現行範疇

以下是在數位身分證明的光譜中,我們認為具有代表性的案例。這絕不是全面調查,且各種類性質也有重疊。藉由了解每個身分證明在去中心化光譜上的定位,我們可以更好地了解這些類別的成本和效益。

一、政府身分(電子愛沙尼亞和中國社會信用體系)

政府數位身分指的是官方、由國家支持的數位身分證明或憑證,提供給公民使用,讓他們能夠在線上進行各種公共服務、交易和活動。這些系統簡化服務、增強安全性,並促進政府與公民之間數位互動的信任。然而,它們也帶來了與相關政府的可信度有關的重要風險。

e-Estonia是愛沙尼亞政府開發的數位證明,藉由線上平台將國家的許多關鍵功能連接在一起,包括投票、教育、司法、警察和稅收(Heller, 2017)22。儘管這些證書通常被認為高度集中,但愛沙尼亞在技術上實現了一定程度的分散化,因為政府的資料平台連接了加密的伺服器,將資訊存儲在本地,使平台不易受到完全的資料洩露((Heller, 2017)23 ,並利用基於區塊鏈的無鑰匙簽名基礎建設。

就治理而言,e-Estonia基本上是由愛沙尼亞政府控制的許可制(permissioned)系統,因此嚴格來說是中心化的。因此,該系統的透明度和問責制有限,政府在使用該系統時沒有技術上的障礙,即使這樣的使用可能是非法的。

中國的社會信用系統是另一種正在發展中的中心化數位證明,根據個人行為給公民評分。這些指標裁決金融、司法、商業和社會的信用度,可以受到從信用評分到違規行為的影響( (Bartsch et al., 2023)24。得分高的公民可以在教育和就業方面得到優勢,並縮短就醫等待時間,而得分低的公民可能會減少使用公共服務的權利,並被公開羞辱 (Donnelly, 2023)25。這個系統目前在中國80%的省份中使用,其企業版本評估了3300萬種服務。

二、生物識別身分(Worldcoin)

使用生物辨識的身分證明仰賴指紋、虹膜掃描和聲音模式等。這些標記非常難以偽造,並且有多種選擇來簡化驗證。然而,使用生物辨識資料也存在風險:生物辨識識別器很少符合無障礙標準,可能排除了一系列弱勢人群。更糟糕的是,如果生物辨識資料被破壞,就像傳統密碼一樣無法更改,這使得這些資訊的中心化資料庫極易受到攻擊,而這些攻擊的後果對使用者而言影響甚巨。

Worldcoin是一個利用虹膜掃描來證明獨特身分的數位身分和金融服務應用程式。使用者提供他們的資料後,將獲得同名的加密貨幣(Worldcoin)作為交換(Reiff, 2023)26。Worldcoin由Sam Altman共同創立,專為未來可能面臨數位身分風險、人工智慧模仿人類能力風險與普遍基本收入(UBI)需求鋪路。(Schwartz, 2023)27

Worldcoin希望以比其他生物識別系統更為去中心化的方式提供全球生物識別身分,以避免系統的已知風險,並讓使用者犧牲一些權益已獲得便利性 (Cohen, 2020)28 。在技術上,它藉由使用以太坊區塊鏈和開源部分程式碼來實現這一目標。然而,Worldcoin並非所有工具都是開源的,包括用於虹膜掃描的硬體設備和存放在中心化服務器上的虹膜資料本身 (Buterin, 2023)29

從治理的角度來看,Worldcoin由其初始團隊、開發者和基金會控制 (Worldcoin Primer, 2023)30。儘管Worldcoin希望去中心化治理能發揮“關鍵作用”(Worldcoin Primer, 2023)31,但其結果令人質疑。首先,Worldcoin的25%代幣已分配給核心團隊和投資者(Worldcoin Tokenomics, 2023)32,使得一小部分人能夠極大地影響決策。其次,賺取Worldcoin的動態已經激勵了負面互動,包括那些負責進行掃描的人和接受掃描的人之間的惡意行為。多個地區的Orb操作員因偽造掃描、從被掃描對象那裡偷取代幣,甚至(很少情況下)掃描不願參與的人而受到譴責 (Guo and Renaldi, 2023)33。因此,肯尼亞等國家已經至少暫時禁止Worldcoin,以進一步調查其運營情況 (Njanja, 2023)34

儘管生物識別身分具有強大的保證,但其實施方式,無論是藉由像CLEAR這樣的中心化公司,還是更分散的嘗試,如Worldcoin,仍然存在重大風險需要解決。儘管這些方法可能最終在解決線上身分方面發揮重要作用,但鑑於個人資料帶來的重大風險,它們必須經過精心設計和部署。

三、聯邦身分(OAuth)

聯邦身分系統本身並不是證明,而是從多個授權的應用程式或服務中聚合出一組證明。聯邦系統不需要為每個服務打造新的使用者名和密碼,而是提供了一個框架,使用者可以從預先選定的可信任平台和組織中選擇,這些平台和組織將代表他們證明其身分。這種方法簡化了所需的證明的複雜性,藉由減少密碼疲勞,提高整體使用者體驗。

OAuth(Open Authorization,開放授權)是聯邦身分最流行的開放式身分驗證系統,允許使用者從各種提供者中選擇以訪問第三方應用程序。藉由使用他們的Google或X(以前的Twitter)帳戶“登錄”,使用者可以啟動他們的身分,而無需提供任何有關自己的新資訊。

從技術角度看,像OAuth這樣的聯邦系統在集中實體對使用者身分進行證明方面是一種折衷,這使得聯邦管理變得可行,但同時也使得證明的有效性取決於所包含的組織。考慮到過去十年互聯網平台的整合和公眾對其信任的減少 (Kates et al., 2023)35,以及越來越多的研究顯示這些組織無法防範女巫攻擊 (Walsh, 2023)36,這些解決方案並非萬靈丹,仍有許多未解決的問題和持續的研究 (Beatson, 2021)37

從治理的角度來看,OAuth由IETF(參見RFC 6749和RFC 6750)的工作小組管理,並且對於管理現有利益關係者有一個相對強大的流程。然而,鑑於上述系統設計風險,這個流程可能需要更新,以應對更多組織的要求成為證明者,並且有助於改善審查流程的包容性。

聯邦身分系統的去中心化正在興起。例如,像Gitcoin Passport(Gitcoin, 2023)38和SpruceID (SpruceID, 2023)39這樣的項目已經開始參與這些工作組 (Terbu and Fett, 2023).40。此外,像“使用以太坊登錄”(Login,2023)這樣,利用 Ethereum Name Service (ENS, 2023)42這樣的偽匿名識別符的專案正在進行中,並且開始為這些標準注入新的生命力。

四、基於信任網絡的身分(EAS)

像EAS(以及上面提到的SpruceID)這樣的專案正在探索一系列去中心化驗證架構,重點是藉由信任網絡進行完全點對點背書 (Rebooting the Web of Trust, 2023)43。在EAS中,使用者可以打造和撤銷與個人特定活動或特徵相關的背書,從而在以太坊區塊鏈上授予更具體的權限。這些方法基於長期累積,即信任可以被視為加權圖譜,其中特定節點代表了他們從他人那裡獲得的積極背書總和(他們的聲譽)(Kamvar et al., 2003)44

如果不考慮身分本身的基礎,有足夠大的資料集,這些證明可以成為測量真人高度可靠的方式(Keutmann, 2019)45。然而,與大規模社交網絡類似,這些模型容易受到女巫攻擊,因此任何證明必須能夠根據明確可衡量的結果來證明或撤銷。

許多信任網絡項目都是最小化治理、開源且可分叉的(forkable)46。在EAS的情況下,由於證明的網絡在以太坊上,任何人都可以在不需要繼續使用原始代碼的情況下訪問和使用該服務。這個路線還需要進一步研究零知識證明,以更好地確保這些資料的隱私。

III、身分驗證系統

身分驗證系統是進入特定區域所需的證明集合。例如,在酒吧,酒保會要求一個證明——您的駕照——以允許進入。然而,銀行可能需要多個證明,例如使用者名和密碼、身分驗證應用程序和發送到您電子郵件的代碼。在每種情況下,提供者需要一組證明來允許訪問,而使用者可以或願意提供這些證明。使用者、證明和提供者之間的這種關係構成了身分驗證系統47

身分驗證系統的設計和實施是由使用該系統的社群所塑造的,這決定了所需的證明數量和性質。Weyl et al. (2019)48 將這種動態關係描述為「交叉社會資料(Intersectional Social Data,ISD)」,一種不斷演變並與一個相似演變的身分網絡相連的身分。在這種系統中,每個實體都對證明過程做出了相應的可信度貢獻,創造了一個更大、更全面的證明集合,理論上增強了任何單一證明類型的優勢並減輕了其弱點。至關重要的是,ISD的強大和隱私取決於將個人身分的多個元素相互關聯,而不允許潛在攻擊者將這些元素連接起來或追踪使用者。49 這種理想的系統理論上可以使提供者在不需要使用者與提供者共享任何個人資料的情況下完美評估使用者的可信度。

目前尚不存在一個完美的系統能夠在大規模的數位身分上實現這種類型,但一些身分聚合器已經開始意識到ISD的潛力。例如,Gitcoin Passport是一個聚合器,它使社群能夠藉由一個工具要求多個中心化或去中心化的證明來驗證使用者身分。隨著使用者擁有的證明數量增加,以及個別身分證明者的聲譽提高,Gitcoin可以更有信心地確定其生態系統中的參與者是獨特的真人。目前,這些證明必須每90天更新一次,創造了一個能夠隨時間適應並不斷加強信任的動態系統。這個聚合器特別重要,因為它是為應對機器人對民主過程構成的威脅而打造的,類似於上述的人工智慧威脅。Gitcoin是一個處理公共利益資助的去中心化自治組織(DAO),他們需要一種機制使Gitcoin能夠區分機器人和真人,因此他們打造了Gitcoin Passport來防止女巫攻擊,女巫攻擊指的是機器人冒充不同的人類進行攻擊。其他DAO已經打造了類似的工具,以防範民主過程的攻擊,這對這些DAO而言至關重要,比如建立組織規則、記錄和執行成員做出的決策,還是管理社群資金這些工作 (Spelliscy et al., 2023)50

建立在ISD前提下的身分驗證系統可能是確保身分真實性,並防範惡意行為對民主造成的一些威脅的最佳方法。它可以使機器人冒充變得困難甚至不可能,並可靠地用於判斷資訊是否來自可信的來源。

IV、政府集中身分驗證方法的危險性

我們已經概述了AI冒充和不實訊息所帶來的一些威脅。然而,對這些風險的反制方法本身,也對民主制度構成風險。

如果我們上面所強調的攻擊對民主過程產生重大影響(我們相信它們會),政府可能會全面採用個人和生物辨識資料的中心化數位身分驗證系統;然而,我們警告不要使用這些系統,因為它們可能變得非常強大,並對民主的穩定構成風險。

首先,寶貴的個人資料存儲在中心化的平台上增加了被駭的可能性——這是一個巨大的風險,考慮到這樣一個系統中儲存過多個人資料的價值。然而,中心化數位身分系統對民主制度可能帶來更基本的風險。這樣的系統為現有和未來的政府提供了一個強大的新工具,用於壓制民主權利和打壓不同政治支持者。以下是我們對目前正在推行或容易受到此類濫用的數位身分驗證系統的一些調查。

中國的社會信用系統可能是最極端的中心化政府身分系統的例子(如上所述),其目的是監控和維護對中國每個人的活動進行廣泛資料收集,以增加中國社會的“信任”(Bartsch et al., 2023)51。藉由各種來源收集的資料有時可以藉由中心化資料庫讓一系列監管機構訪問,有時只能由個別地區或中央政府機構訪問 (Donnelly, 2023)52 。技術的進步,如人臉識別軟體和人工智慧,增加了該系統的資料收集能力和穩健性,特別是中國已經安裝了2億個監控攝像頭,風險更加不可估量(Donnelly, 2023)53

雖然信用系統仍在不斷發展並尚未完全實施,但其目標是根據政府對每個中國公民不斷評估,為每個中國公民打一個社會信用分數。會降低社會信用排名的行為包括駕駛不當、在禁煙區吸煙、張貼假新聞和血拼(Canales and Mok, 2022).54 )。然而,這些活動還包括張貼反政府內容和參與“非法”抗議活動(Bartsch et al., 2023).55 。這些社會信用分數可以被政府和非政府利益相關者用來對低社會信用分數的公民採取行動,包括旅行禁令、學校禁令、就業機會減少和公開羞辱,或者對高社會信用分數的公民進行獎勵 (Donnelly, 2023).56 。該系統使用人工智慧提供對需要額外監管關注的風險行為者進行早期預警,已導致2300萬人被列入飛機或火車旅行黑名單 (Donnelly, 2023).57

這種專制體制似乎在北美或歐盟的民主國家中永遠不會合法,也永遠無法實施,但許多這些國家已經開始了一些計劃,已經全面集中了他們公民的個人資料。這樣做的結果是,他們創造了工具,這些工具在技術上幾乎沒有或沒有障礙,可以重新用於執行類似社會信用體系的功能。例如,e-Estonia平台收集身分資料,包括姓名、出生日期、指紋、地址、國籍和個人代碼 (ID, 2023).58類似的系統已經在丹麥和芬蘭實施 (Digital Government, 2023;59 Finland X-Road, 2013).60

雖然e-Estonia和相關平台似乎強調隱私和透明度,但使用e-Estonia的政府相關機構,包括警察,可以非法訪問存儲在該平台上的使用者資訊 (Numa, 2020).61 。e-Estonia使用的是一個許可的區塊鏈,允許公民查看誰訪問了他們的資訊;然而,這個許可的區塊鏈由愛沙尼亞政府控制,並且可以單方面修改 (Rong and Peng, 2023).62 如果愛沙尼亞人選擇了一個不尊重其公民的法律保護的政府,該政府可以在沒有追索權的情況下將該平台用於各種惡意目的,包括打壓反對派或對曾經接受墮胎的婦女進行追究。此外,如果愛沙尼亞政府被外國侵略者(如俄羅斯)推翻,或者藉由政變被接管,該侵略者可以獲得對e-Estonia系統的訪問權限,利用它鞏固自己的權力並取消所有隱私保護。

塔利班接管阿富汗的身分驗證系統是一個關於中心化身分證明資料庫危險性的警示故事。在入侵阿富汗後,外國政府建立了包含阿富汗人生物辨識和個人資料的全面資料庫,用於各種目的。當美軍撤出阿富汗時,塔利班獲得了其中一些系統的訪問權限,這些系統包含了虹膜掃描、指紋、照片、職業、家庭地址和親屬姓名等資訊 (Human Rights Watch, 2022;63 Klippenstein and Sirota, 2021).64 。其中一個由美國政府資助的系統中,至少包含了250萬阿富汗人的記錄(Human Rights Watch, 2022).65。有證據表明,塔利班利用這些生物辨識資料來打擊其認為的對手,包括在占領期間與外國政府合作的人(Human Rights Watch, 2022)66  

V、政策建議

鑑於已知風險的緊迫性和影響範圍,政策制定者應加快並支持身分證明和身分驗證系統的研究。我們擔心,如果人工智慧工具對民主進程產生大規模干擾,政策制定者須做出應對性決策而採用中心化身分驗證工具,但未能預見到建立此類系統的風險。我們鼓勵各國政府立即開始研究這些風險,以便在出現此類干擾的情況下能夠準備好有效的解決方案。

以下是一些適用於大多數司法管轄權的政策建議,但還包括一些關於我們對美國的具體討論。

一、支持身分標準制定組織的發展

技術標準制定組織,例如網際網路工程任務組(Internet Engineering Task Force,IETF)和全球資訊網協會(World Wide Web Consortium,W3C),繼續幫助制定數位身分的標準,以改善其安全性、可靠性和兼容性等。這些組織之間可能存在重疊,而產業界可能在其中發起和管理中起到重要作用,也可能不會。然而,政府應該在標準相關組織的創立和維護中發揮作用,在一些標準組織中已有成功先例,例如IETF 在1986年至1997年間完全由美國政府資助及會議費用等支持 (Bradner, 1999)67

創建計畫以振興和激勵探討數位身分等主題的工作組,包括多元的利害關係人,對於確保我們開發出有效的身分證明和認證系統至關重要。美國政府可以藉由資助或表示支持現有的標準制定組織,包含上一段所述組織、以及新興組織,如去中心化身分基金會(DIF,Decentralized Identity Foundation68 )和多元研究小組( Plurality Research Group69),這些組織已經為標準制定討論做出了貢獻,但目前尚缺乏將這些標準引入業界和對公眾產生影響力。美國政府還可以藉由明確擔任這些組織以及其他行業利害關係團體的召集人來提供幫助。

二、為去中心化工具的開發者提供法律明確性

去中心化身分證明的開發者,特別是基於區塊鏈的開發者,常常面臨法律不確定性,限制了創新。例如,上述 Gitcoin Passport 和 SpruceID 等工具在規模上有效地聚合身分證明的潛力,並且隨著零知識證明的出現,這些去中心化解決方案可以在不損失韌性的情況下達到強大的隱私保護。然而法律不明確限制了區塊鏈技術的發展,在美國建立和使用該技術的開發者更擔心受到監管機構的報復(Spelliscy et al., 202370)。例如,美國商品期貨交易委員會(Commodity Futures Trading Commission,CFTC)最近提出了一個聲明,為 DAO 工作的開發者,應該對該 DAO 的行為承擔無限責任(Wang, 202271),而這些 DAO 一直在自己的組織內不斷改進去中心化身分系統。政策制定者和監管機構需要為區塊鏈技術的開發者提供信心,讓他們能夠在無懼報復和責任的情況下進行實驗和建設。

我們建議美國政策制定者藉由立法,提供法律明確性,促進使用區塊鏈技術建立去中心化身分系統的善意參與者之間的創新。歐盟已經開始這麼做,例如最近歐盟加密資產市場規範(Markets in Crypto-Assets Regulation,MiCA)立法,而北美地區仍然落後。美國的一個具有潛力的立法案例是《21世紀金融創新與技術法案》(Congress, 202372)。儘管該法案仍處於相對早期且可能會有所變動,但它解決了一些區塊鏈建設者面臨的關鍵問題,包括澄清監管機構的角色,確定數位資產何時屬於證券或商品,以及解決區塊鏈公司如何籌集資金的問題。

三、資助對有效身分驗證系統至關重要的研究

目前對於不同類型的數位身分驗證系統的效力以及政府採用這些系統的長期影響等研究有限。正如上文所述,我們清楚地看到依賴目前政府偏好的中心化證明和身分系統存在明顯的危險和陷阱。然而,目前還沒有足夠的研究來進一步確定更多弱點及評估大規模分散式系統的限制或危險。

身分驗證領域中一個重要的區別是「真人證明」和「成員證明」協議之間的差異。前者確保系統中的每個參與者都是獨特的人類,防止自動化系統或惡意行為者假性參與,以量取勝,操縱結果(女巫攻擊)。而後者則驗證參與者在特定社群或團體中的成員身分的真實性。

這個區別在特定的民主背景下變得至關重要。例如:若臺灣僅僅確保「真人證明」,將無法防禦外來者對其民主體系的威脅。如果有 2000 萬名可能受中共影響的中國人,僅驗證他們的人類身分,他們可能會湧入臺灣的數位公共領域,進而扭曲公共論述。在這種情況下「成員證明」至關重要,進而確保參與者是真正的臺灣公民,避免外部影響,保護民主進程。

鑑於這些細微差別,我們建議政府資助針對使用者調查的研究,以了解這些系統在不同情境下的運作方式,再進行規模化部署。隨著更多資料釋出,對這些系統及其實際效果的持續評估至關重要。

鑑於公部門的迫切需求,拜登政府分配給國家科學基金會等組織進行人工智慧研究的部分研究資金應該分配給專注於不同類型身分驗證工具的研究人員。縱使私部門已經在 AI 對民主體系以外的數位身分產生影響方面進行相關研究和建立工具,這些工作可能無法充分滿足政府的需求,或者無法在現有威脅下迅速完成。


結論

AI 工具將會在關鍵的民主過程中迅速對身分的可驗證性產生實質影響,即將到來的美國大選,更是燃眉之急。健全的數位身分認證系統將幫助我們區分人類與 AI,並且努力改善並將這些系統整合到我們與數位領域的互動中,有助於保護我們的民主制度免受 AI 生成的傷害。然而,如果政府採用集中式的數位身分系統,這些系統本身可能對它們旨在保護的民主制度產生長期的破壞性影響。在開發和部署數位身分認證系統之前,政府應該資助和支持倡議,以識別不同形式的身分認證系統並研究其利弊。

(註解請詳見原文)

CC BY-NC-ND 4.0

Like my work?
Don't forget to support or like, so I know you are with me..

was the first to support this article
Loading...
Loading...

Comment