Friendly AI , Yapay Zeka (AI) araştırmacıları tarafından, genel olarak nötr ya da zararlı değil, insanlığa yararlı eylemler yapan AI sistemlerine atıfta bulunmak için kullanılan bir terimdir. Bu, kör itaat anlamına gelmez - aksine, terim, dış kaynaklı herhangi bir kuvveti nedeniyle değil, olmak istedikleri için dostça olan AI sistemlerini tanımlamak için kullanılır. Tamamlanmış sistemlere atıfta bulunmanın yanı sıra, Friendly AI aynı zamanda bu sistemleri başarıyla oluşturmak için kullanılacak teorik ve mühendislik disiplininin adıdır.
“Friendly AI” terimi, programlayıcı müdahalesine gerek kalmadan kendi kaynak kodunu geliştirecek kadar akıllı olan AI AI'nın yaratılması olan Singularity Yapay Zeka Enstitüsü'nden Eliezer Yudkowsky'ye dayanmaktadır. Konuyla ilgili kitap uzunluğu çalışmaları, 2001'de çevrimiçi yayınlanan Creating Friendly AI , muhtemelen konunun herhangi bir yerinde ilk titizlikle ele alınmasıydı. Yudkowsky, Friendly AI sorununa yaklaşımını desteklemek için evrimsel psikoloji ve diğer bilişsel bilimlerden argümanları çağırıyor.
Dost AI, akademik bir disiplin olarak kabul edilir, çünkü geçmiş haydut AI sorununa "cevap verme" girişimleri, genellikle AI insanlardan daha akıllı olduğunda veya sadece kazandığında, alternatif yorumlar altında çökmesi gereken katı programatik kısıtlamalar getirmiştir. kendini yeniden programlamak için yeteneği. Antropomorfizm de AI'da bir problemdir. Evrim bencil olmaya meyilli organizmalar yarattığından, birçok düşünür derhal ya da yeterince zeki olduktan sonra inşa ettiğimiz AI'ların aynı eğilime sahip olduğunu varsaymaktadır.
Evrim, merkez merkezli hedef sistemli organizmalar kurar, çünkü başka bir yol yoktur. Fedakar hedef sistemlerinin gelişmesi milyonlarca yıl aldı ve bunu ancak aynı kabilenin üyelerinin birbirlerine ihmal ederek kaybedecekleri ve birbirlerine yardım ederek kazanacakları çok şey olduğu koşullar altında yaptı. Fakat sıfırdan bir zihin tasarlarsak, bunu kendinden merkezli bir hedef sistem olmadan kurabiliriz. Bu, "AI'yı kısıtlamak" olmazdı - basitçe doğası gereği bencil olmayan bir AI yaratıyor olacaktı.
Yukarıdaki gözlem, son derece yeni olan ve hala çok çalışmaya ihtiyaç duyan Friendly AI alanına katkıda bulunan birçok kişiden biridir. Bazı AI araştırmacıları, üzerinde deney yapmak için daha akıllı AI sistemlerini bulana kadar Friendly AI uygulamasını uygulamak için gerekli tasarım özelliklerini belirleyemediğimizi iddia ediyor. Diğerleri ise tamamen teorik bir yaklaşımın yalnızca mümkün olmadığını, genel AI'da ciddi bir girişime başlamadan önce etik olarak gerekli olduğunu savunuyorlar.
