在《2001太空漫游》這部科幻作品中，太空飛船上的人工智能電腦哈爾 9000 變壞了，在它看來，傷害人類是完全沒有問題的。科幻作品中的哈爾不是本來就壞的，但是這個新的機器人被賦予的唯一目標，就是傷害人類。別擔心，這個機器人不是某個軍事科技公司為軍方秘密研制的攻擊性武器。它是一個叫 Alexander Reben 的藝術家兼工程師創造的一件藝術作品。
通過這件極富討論意義的藝術作品，Reben 希望鼓勵人們聯合起來，一起解決機器人和人工智能變壞對人類產生的威脅。
Reben 的機器人作品明確的違反了阿西莫夫第一法則，即：機器人不得傷害人類，或坐視人類受到傷害。不過，它不會對人類造成嚴重的傷害。這個機器人能做的，只是在使用者手指上造成一個傷口。
Reben 這個機器人也不能主動尋找目標，要想體驗被它傷害的感覺，只能將手指放進它的攻擊范圍中由它攻擊。這樣的設計又可以被視為違反了阿斯莫夫第二法則——除非違背第一法則，機器人必須服從人類的命令。
對于一個遵照法則的機器人來說，它應該視人類手指為一種命令并立即忽視。然而，Reben 的機器人卻不是這樣。它不存在條件語句告訴它在監測到人類在攻擊范圍內的時候應該停止工作，它所執行的假設命令只是攻擊。
Reben 不是唯一一個認為需要處理機器人和人工智能潛在威脅的人。谷歌目前就在努力做一件更大的事，他們打算設置一個”紅色按鈕“，以便在緊急情況下關閉人工智能。但是這個“紅色按鈕”并不是萬全之策，它能發揮作用的條件是：未來不會出現一個充滿好奇的人工智能得知了這個按鈕的存在并提前讓它失效。
推薦閱讀
據香港“東網”6月8日報道，澳大利亞墨爾本迪金大學的智能系統研究所(IISRI)，近日研發出一款具有觸感的醫療機器人。即使身處遠至一千公里外的醫生，也可通>>>詳細閱讀
本文標題：打造出一臺違反阿西莫夫第一法則的機器人
地址：http://www.geekbao.cn/n/jiqiren/1382.html
1/2 1
網友點評
精彩導讀
科技快報
品牌展示