上級分類: 終身學習技術政治、法律與政府

人類目標與AI

如何讓人類能系統地定義其目標?

YAML 問題

當前人工智能技術迅速發展,而人類世界仍然存在國家、企業和個人之間的衝突,似乎人們並不知道自己真正想要什麼。雖然這在今天看來並不是什麼大的風險,但在人工智能變得超級智能的前景下,人類當務之急是集體定義目標,以指導所有的優化系統(另一種選擇是由人工智能來替我們完成,可能離這種情況的發生只差一個簡單的想法)。我們還沒有辦法通過所有生命的參與來共同定義目標,我們似乎還沒有真正知道他們想要什麼。

歡迎大家對系統地定義和調整目標的想法,以及對這個問題的改進建議。






投票 (可選) (別通知) (可選)
請,登錄

要拋棄個人目標像名望和金錢等等……嗎? 我覺得理想的情況是,個人保有自己的目標,但是不只一味地追求個人目標,人類共同的風險確實需要我們共同解決,超級人工智能是一類風險,環境惡化是另一類。


語言