伊莉討論區

標題: 科學家定制三大道德基準防範《機械公敵》成真 [打印本頁]

作者: jiunn36 時間: 2013-7-29 08:03 AM 標題: 科學家定制三大道德基準防範《機械公敵》成真

[attach]93222782[/attach]　　隨著機器人變得越來越智能化和擬人化，我們一點也不難想像未來某一天它們完全的獨立自主。一旦機器人能夠獨立自主的時候，人類將不得不想辦法如何能讓它們不說謊、不欺騙、不盜竊而且和遠離其他我們人類每天在做的所有壞事。
　　這就涉及到機器人倫理學，這個機器人研究領域的目標是讓機器人遵守特定的道德標準。在最近的報導中，喬治亞理工學院的研究人員們討論了人類如何能夠確保機器人不會違反規定。
[attach]93222777[/attach]
　　第一，擁有道德調節器
[attach]93222781[/attach]　　軍隊使用的殺人機器人全部都有某種人類的成分在裡面，在人類沒有做出最終決定之前機器人不會使用致命的武力。但是那種情況可能很快發生變化，而且當它工作的時候，這些機器人需要瞭解如何表現出人道主義精神。在戰爭中那種情況意味著什麼還尚未定論，但是某種道德標準需要建立，因為濫殺無辜的機器人沒有任何用處。

　　一種道德調節器將成為機器人架構的一部分，它將依據事先制定的道德標準判定致死性武力是否合理，這或許就是答案。比如說一個擁有道德調節器的軍用機器人或許只攻擊指定殺戮區域或者接近一個醫療設施的人。它能夠使用一種“間接危險評估”系統來確認只除掉目標而不是附近的其他所有人。
　　第二，建立情感
[attach]93222778[/attach]　　情感能夠幫助我們確定機器人在軍隊或者任何地方都不會做任何不恰當的事情。一個軍用機器人如果再三的被上級所責罵，它能夠擁有越來越多的愧疚感。如果累積了足夠的愧疚感，機器人或許會強制自己不去完成任何更加致命的行動。
　　情感同樣能夠用於與非軍用人形機器的相互交流上。欺騙能夠幫助一個機器人在一場搜救行動中冷靜的安撫慌張的受害者他們沒事，而且患有老年癡呆癥的困惑病人或許也需要一個護理機器人的欺騙。但是未來的程式員需要謹記：從開始欺騙到擁有自主能力的機器人情不自禁的靠欺騙獲得它們想要的東西是非常容易的。
　　第三，尊重人類
[attach]93222779[/attach]　　如果機器人不尊敬人類，我們就麻煩了。這就是為什麼研究人員們如此緊張的原因，自主機器人需要尊重基本的人權，包括隱私權、身份訊息和自主權。如果我們不能保證智慧機器人這樣做的話，我們應當避免大批量的製造它們。
　　當然，人類不會一直按照倫理道德行事。或許我們也能夠使用一種倫理調節器，尤其是當我們的大腦讓我們誤入歧途的那些時候。研究人員解釋說：“我們期待隨著這些早期研究的推動，能夠產生倫理顧問能夠提高人們的表現，而不是管理一個自主機器人的道德行為，它反而能夠為人類使用者提供另一種面對倫理挑戰的意見，比如說對待身體上和精神上有障礙的群體。
　　最終，機器人或許能讓我們更加人性化。

作者: btuse 時間: 2013-7-29 10:52 AM

規則越簡單明瞭, 越不容意出現模糊空間.
"基地"系列小說, 開宗明義就說明了機器人三大守則
第一法則: 機器人不得傷害人類，或因不作為使人類受到傷害
第二法則: 除非違背第一法則，機器人必須服從人類的命令
第三法則: 在不違背第一及第二法則下，機器人必須保護自己
不過, 還是發生了人類與機器人大戰, 人類因為某個自行進化機器人的幫助
雖贏了戰爭, 卻也毀了地球(核污染), 迫使人類移民外空, 展開了小說的情節.
回到現實, 如今駭客如此厲害, 機器人的程式不會受到入侵與修改??

作者: azp0121 時間: 2013-7-29 11:49 AM

個人認為這種與其制定這種沒意義的法則，不如別製造高智能機器人...能自我學習的機器人不會進化嗎?再來，法則是人定的，法律也是人定的，都有人能鑽過法律，那法則鑽不過去嗎?鑽過去你要怪機器人不好還是?而且當機器人擁有道德倫理、感情、懂得尊重，那它還算是機器人嗎?我們人類能夠輕易並且隨便就能對他們做出裁決?比方說...銷毀?他們能接受嗎，這些都是很殘酷的決定，所以我個人認為，人類阿...還是勤奮點，需要高階處理的資訊交給超級電腦就好了，什麼AI個人智能助理之類的...還是算了吧。

作者: whatlala 時間: 2013-7-29 10:21 PM

提示: 作者被禁止或刪除內容自動屏蔽

作者: d6370992 時間: 2013-8-2 05:44 AM

只要有戰爭這些公約就沒什麼
就算戰爭結束後
也不可能完全銷毀戰爭用機器人吧
只要不小心留下一台
就像留下未暴彈
就算什麼都不作來個年久失修
就是一個威脅了

作者: jasonjiang93 時間: 2013-8-3 10:14 PM

提示: 作者被禁止或刪除內容自動屏蔽

作者: michaellu1989 時間: 2013-8-4 09:47 AM

製造這些機器人本身就是個錯誤
如果哪天有人駭了他們的程式不就變成大危機了

作者: salvere930 時間: 2013-12-7 02:23 PM

就算是這樣一定會有人不遵守啊!
這在未來一定可能會發生的奇蹟跟悲劇啦。

歡迎光臨伊莉討論區 (http://www35.eyny.com/)