O que é AI amigável?

Ai amigável é um termo usado pela Inteligência Artificial (AI), os pesquisadores para se referirem a sistemas de IA que, em geral, realizam ações que são úteis para a humanidade, em vez de neutras ou prejudiciais. Isso não significa obediência cega - pelo contrário, o termo é usado para descrever sistemas de IA que são amigáveis ​​porque querem ser, não por causa de qualquer força imposta externamente. Além de se referir a sistemas concluídos, a IA amigável também é o nome da disciplina teórica e de engenharia que seria usada para criar esses sistemas com sucesso. Seu trabalho de livro sobre o tópico, criando a IA amigável , publicado on-line em 2001, é provavelmente o primeiro tratamento rigoroso do tópico em qualquer lugar. Yudkowsky invoca argumentosda psicologia evolutiva e outras ciências cognitivas para apoiar sua abordagem ao problema da IA ​​amigável.

A IA amigável é considerada importante como uma disciplina acadêmica, porque as tentativas anteriores de "responder" ao problema da IA ​​desonesta geralmente invocavam restrições programáticas estritas, que devem entrar em colapso sob interpretações alternativas, quando a IA se torna mais inteligente que os seres humanos, ou simplesmente quando ela ganha a capacidade de se reimpontar. O antropomorfismo também é um problema na IA. Como a evolução constrói organismos que tendem a ser egoístas, muitos pensadores assumem que qualquer IA que construímos teria a mesma tendência, imediatamente ou depois de se tornar inteligente o suficiente.

A evolução constrói organismos com sistemas de metas egocêntricos, porque não há outra maneira. Os sistemas de metas altruístas levaram muitos milhões de anos para evoluir, e só o fizeram sob condições em que os membros da mesma tribo haD muito a ganhar ajudando um ao outro e muito a perder, deixando de fazê -lo. Mas se projetarmos uma mente do zero, poderíamos construí-lo sem um sistema de metas egocêntricas. Isso não seria "restringir a IA" - seria simplesmente criar uma IA que é altruísta por natureza.

A observação acima é uma das muitas que contribuem para o campo da IA ​​amigável, que é extremamente novo e ainda precisa de muito trabalho. Alguns pesquisadores de IA argumentam que não podemos determinar os recursos de design necessários para implementar a IA amigável até que tenhamos sistemas de IA mais inteligentes para experimentar. Outros argumentam que uma abordagem puramente teórica não é apenas possível, mas eticamente necessária antes de iniciar uma tentativa séria do general IA.