Qu'est-ce que l'IA amicale?
L'IA conviviale est un terme utilisé par les chercheurs de l'intelligence artificielle (IA) pour se référer aux systèmes d'IA qui, en général, effectuent des actions utiles à l'humanité plutôt que neutres ou nocifs. Cela ne signifie pas l'obéissance aveugle - au contraire, le terme est utilisé pour décrire les systèmes d'IA qui sont amicaux parce qu'ils veulent l'être, et non à cause d'une force imposée à l'extérieur. En plus de se référer aux systèmes terminés, l'IA amicale est également le nom de la discipline théorique et d'ingénierie qui serait utilisée pour créer de tels systèmes avec succès.
Le terme "IA amicalement" est originaire d'Eliezer Yudkowsky du Singularité Institute for Artificial Intelligence, dont le but est la création de l'IA amicale suffisamment intelligente pour améliorer son propre code source sans l'intervention du programmeur. Son travail sur le sujet sur le sujet, créant une AI amicale , publié en ligne en 2001, est probablement le premier traitement rigoureux du sujet n'importe où. Yudkowsky invoque des argumentsde la psychologie évolutive et d'autres sciences cognitives pour soutenir son approche du problème de l'IA amicale.
L'IA amicale est considérée comme importante comme une discipline académique car les tentatives passées de "répondre" au problème de l'IA Rogue ont généralement invoqué des contraintes programmatiques strictes, qui sont tenues de s'effondrer sous des interprétations alternatives, lorsque l'IA devient plus intelligente que les humains, ou simplement lorsqu'elle gagne la capacité de se reprogrammer. L'anthropomorphisme est également un problème dans l'IA. Parce que l'évolution construit des organismes qui ont tendance à être égoïstes, de nombreux penseurs supposent que toute IA que nous construisons aurait la même tendance, immédiatement ou après être suffisamment intelligente.
L'évolution construit des organismes avec des systèmes d'objectifs égocentriques car il n'y a pas d'autre moyen. Les systèmes d'objectifs altruistes ont pris plusieurs millions d'années à évoluer, et ne l'ont fait que dans des conditions dans lesquelles les membres de la même tribu HAD beaucoup à gagner en s'entraidant et beaucoup à perdre en négligeant de le faire. Mais si nous devions concevoir un esprit à partir de zéro, nous pourrions le construire sans système d'objectifs égocentriques. Cela ne serait pas "restreint l'IA" - il serait simplement de créer une IA qui est désintéressée par nature.
L'observation ci-dessus est l'une des nombreuses qui contribuent au domaine de l'IA amicale, qui est extrêmement nouvelle et a encore besoin de beaucoup de travail. Certains chercheurs d'IA soutiennent que nous ne pouvons pas déterminer les caractéristiques de conception nécessaires pour mettre en œuvre l'IA amicale jusqu'à ce que nous ayons des systèmes d'IA plus intelligents pour expérimenter. D'autres soutiennent qu'une approche purement théorique est non seulement possible, mais éthiquement nécessaire avant de commencer une tentative sérieuse d'IA générale