討厭鬼 aka 劉維人
討厭鬼 aka 劉維人

自由研究者,社科譯者。 譯作著重當代民主、政經制度等議題,如《反民主》、《暴政》、《修辭的陷阱》、《民族重建》等。開設課程如《北歐幸福方法論》、《AI要搶走我的工作了嗎?》等等。

寫出負責任AI是不可能的,因為AI是魔族

(edited)
在螢幕那頭傳訊息給你的存在,並不是從人類社會中重新編譯出來的代理,而是一個人類從來不曾理解的AI魔族

最近大家開始討論如何規範AI。但很諷刺的是,在我們目前看到的說法中,還沒有哪個的威力超過 葬送的芙莉蓮 。​

從連載前幾話就奠定神作地位的芙莉蓮,最近剛好動畫化成為話題。有網友截了以下這幾張圖供參。

(截圖者的臉書原文請點此連結,是講專制國家如何利用語言去欺騙民主國家)


芙莉蓮講「他心問題」(Problem of other minds) 的方式與層次,無論在學術還是幻想作品中應該都數一數二:​

我們該如何判斷,一個從異質環境中生成的存在,與我們具有相同的思維方式與溝通方式?

答案是不可能,而且我們最好別這麼相信。

我們正是因為同樣的原因,而認為「要求人類負責地寫出盡量沒有傷害性的AI」*只是浪費時間資源。​

我們主張,無論是以任何方式(演算法、機器學習、量子電腦、或任何多種的混合)製造出來的AI,在有證據支持它具有情識or意識之前,都不能有任何權力與權利,只能當成純然的工具。所有使用AI的責任都要由人類來負。

也就是說,AI不能直接接觸人類,接觸終端人類的必須是法人或自然人。無論公司、政府機關、社團組織、個人、DAO,均:

  • 不得直接以AI或AI製品與人類交易或簽約

  • 不得以AI直接制定規則影響市場或個人

  • 不得以AI直接判斷資格

  • 進行決策時必須載明AI給予哪些資訊。

最重要的是,無論使不使用AI,行動的責任都由法人、政府、或自然人完全擔負,完全不能分配給AI。

因為至少到目前為止,在螢幕那頭傳訊息給你的存在,並不是從人類社會中重新編譯出來的代理,而是一個人類從來不曾理解的AI魔族。

對他心問題有深入興趣的,可參見史丹佛哲學百科全書。
*感謝相關專家提醒。這邊我原本用詞讓人嚴重誤解。

CC BY-NC-ND 4.0

Like my work?
Don't forget to support or like, so I know you are with me..

Loading...

Comment