人類目標與AI

當前人工智能技術迅速發展，而人類世界仍然存在國家、企業和個人之間的衝突，似乎人們並不知道自己真正想要什麼。雖然這在今天看來並不是什麼大的風險，但在人工智能變得超級智能的前景下，人類當務之急是集體定義目標，以指導所有的優化系統（另一種選擇是由人工智能來替我們完成，可能離這種情況的發生只差一個簡單的想法）。我們還沒有辦法通過所有生命的參與來共同定義目標，我們似乎還沒有真正知道他們想要什麼。

歡迎大家對系統地定義和調整目標的想法，以及對這個問題的改進建議。