O que é AI amigável?
AI amigável é um termo usado pelos pesquisadores de Inteligência Artificial (AI) para se referir a sistemas de IA que, em geral, executam ações que são úteis à humanidade, em vez de neutras ou prejudiciais. Isso não significa obediência cega - pelo contrário, o termo é usado para descrever sistemas de IA que são amigáveis porque querem ser, não por causa de qualquer força imposta externamente. Além de se referir a sistemas concluídos, AI amigável também é o nome da disciplina teórica e de engenharia que seria usada para criar esses sistemas com sucesso.
O termo "AI Amigável" originou-se com Eliezer Yudkowsky, do Instituto de Inteligência Artificial da Singularity, cujo objetivo é a criação da AI amigável, inteligente o suficiente para melhorar seu próprio código-fonte sem a intervenção do programador. Seu trabalho de duração de livro sobre o tópico, Creating Friendly AI , publicado online em 2001, é provavelmente o primeiro tratamento rigoroso do tópico em qualquer lugar. Yudkowsky invoca argumentos da psicologia evolucionária e de outras ciências cognitivas para apoiar sua abordagem ao problema da IA Amigável.
A IA amigável é considerada importante como uma disciplina acadêmica, porque as tentativas anteriores de "responder" ao problema da IA desonesta geralmente invocavam restrições programáticas estritas, que tendem a entrar em colapso sob interpretações alternativas, quando a IA se torna mais inteligente que os seres humanos ou simplesmente quando obtém o resultado. capacidade de se reprogramar. O antropomorfismo também é um problema na IA. Como a evolução cria organismos que tendem a ser egoístas, muitos pensadores assumem que qualquer IA que construímos teria a mesma tendência, imediatamente ou depois de se tornar inteligente o suficiente.
A evolução constrói organismos com sistemas de objetivos autocentrados, porque não há outro caminho. Os sistemas de metas altruístas levaram muitos milhões de anos para evoluir, e somente o fizeram sob condições nas quais membros da mesma tribo tinham muito a ganhar ajudando-se mutuamente e muito a perder ao deixar de fazê-lo. Mas, se projetássemos uma mente do zero, poderíamos construí-la sem um sistema de metas egocêntrico. Isso não seria "restringir a IA" - seria simplesmente criar uma IA que não é egoísta por natureza.
A observação acima é uma das muitas que contribuem para o campo da IA amigável, que é extremamente nova e ainda precisa de muito trabalho. Alguns pesquisadores de IA argumentam que não podemos determinar os recursos de design necessários para implementar a AI amigável até termos sistemas de IA mais inteligentes para experimentar. Outros argumentam que uma abordagem puramente teórica não é apenas possível, mas eticamente necessária antes de iniciar uma tentativa séria de IA geral.