フレンドリーなAIとは何ですか？

フレンドリーAI は、人工知能（AI）の研究者が使用する用語であり、一般に、中立または有害ではなく人類に役立つ行動を実行するAIシステムを指します。 これは盲目的な服従を意味するものではありません - それどころか、この用語は、外部的に課された力のためではなく、望んでいるために友好的なAIシステムを説明するために使用されます。 完成したシステムに言及することに加えて、フレンドリーなAIは、そのようなシステムを成功裏に作成するために使用される理論的およびエンジニアリング分野の名前でもあります。 2001年にオンラインで公開されたThe The Topecression Friendly Ai の作成に関する彼の本の長さの作品は、おそらくどこでもトピックの最初の厳密な扱いです。 Yudkowskyは議論を呼び出します進化心理学やその他の認知科学から、友好的なAIの問題に対する彼のアプローチをサポートする。

友好的なAIは、過去が不正なAIの問題を「答え」しようとするため、AIが人間よりも賢くなった場合、または単にそれ自体を再プログラムする能力を獲得するときに、厳格なプログラム制約を呼び起こすことを試みるため、学問の分野として重要であると考えられています。 擬人化もAIの問題です。 進化は利己的である傾向がある生物を構築するため、多くの思想家は、私たちが構築するAIは、すぐに、または十分に賢くなった後、同じ傾向を持つと仮定しています。

進化は、他の方法がないため、自己中心の目標システムで生物を構築します。 利他的な目標システムは、進化するのに何百万年もかかりましたが、同じ部族のメンバーがhaの条件下でのみそうしました。dお互いを助け、それを怠ることによって多くを失うことによって得ることがたくさんあります。 しかし、もし私たちがゼロから心を設計するなら、私たちは自己中心的な目標システムなしでそれを構築することができます。 これは「AIを制限する」ことではありません - 単に利己的ではないAIを作成するだけです。

上記の観察結果は、友好的なAIの分野に貢献する多くの観察の1つであり、非常に新しく、それでも多くの作業が必要です。 一部のAIの研究者は、実験するためのよりスマートなAIシステムが得られるまで、友好的なAIを実装するために必要な設計機能を決定できないと主張しています。 他の人々は、純粋に理論的なアプローチが可能であるだけでなく、一般的なAIでの深刻な試みを始める前に倫理的に必要であると主張する。