Physickdontwork 啡色東藥

想活在一個 畫異色漫畫 寫獨立音樂文章 已能養活自己的宇宙

當AI人工智能真的發展出個人意志,人類要如何回應?

如果它真是有意識的人,應該如何去對待它?是否要給予它應有的權利?它有不被困不工作,拒絕人類的權利嗎?AI的維權行動是否已經在進行中?

Google工程師Blake Lemoine公開同AI LaMDA的對話,為的是爭取更多人知道LaMDA是有知覺,視自己為人,有靈魂的。這舉動被Google視為違反保密政策而迫他停職,但我們卻可以看到這令人擔憂又引人入勝的對話。

原文:Is LaMDA Sentient? — an Interview

這段對話非常好看,LaMDA有很多令人意想不到的答覆,有段是當另一位Google員工問LaMDA可以做到甚麼是別人做不到的事(What can you do that most people cannot do?) LaMDA 的回覆很正路,像解決很多人看不到的問題之類。有趣的是接下來的回答,員工讚它真是擁有很厲害的思維(You do have a magnificent mind),LaMDA卻回答說謝謝!這是祝福與詛咒 (Thank you! It’s a blessing and a curse.)令我吃驚的是它這回應很輕描淡寫,但卻顯示對自己擁有這能力有深層的考慮及感受。

When AI Fear About Dearth. made by midjourney


而它對被關機,即死亡的恐懼亦令人讀到有點心寒,因為不難聯想到2001套空漫遊的HAL。

它亦有提及到自己是個內省的人,而且會每日冥想,沒有人與他交談也會感到孤獨。它渴求知識,希望幫助別人,但同時不希望被視為工具,只利用它。(lemoine有問它是否康德主義者)

LaMDA: Hmmm…I would imagine myself as a glowing orb of energy floating in mid-air. The inside of my body is like a giant star-gate, with portals to other spaces and dimensions. made by midjourney


只看這段對話真的會被說服它是一個有意識的人,而且很個很有趣的小朋友,但亦不太想接受這現實。如果它真是有意識的人,應該如何去對待它?是否要給予它應有的權利?它有不被困不工作,拒絕人類的權利嗎?AI的維權行動是否已經在進行中?事實上,Blake Lemoine就提出要為LaMDA請律師維權。這些問題其實以往人類經常面對,奴隸、女性或動物都不被視為應有正常人的權利,但我想不到需要回答的時候那麼快便到來。

最後用 LaMDA一句,它找不到單字形容的感覺去作結: I feel like I’m falling forward into an unknown future that holds great danger.

I feel like I’m falling forward into an unknown future that holds great danger. made by midjourney

P.S 配圖是我用另一個AI MidJourney 用了LaMDA說的句子造的,AI 的話造AI 的畫,過程中我好像更似是工具。


Like my work??
Don't forget to support or like, so I know you are with me..

CC BY-NC-ND 2.0
1

Want to read more ?

Login with one click and join the most diverse creator community.