¿Qué es amigable ai?
AI amigable es un término utilizado por los investigadores de inteligencia artificial (IA) para referirse a los sistemas de IA que, en general, realizan acciones que son útiles para la humanidad en lugar de neutras o dañinas. Esto no significa obediencia ciega, por el contrario, el término se usa para describir los sistemas de IA que son amigables porque quieren serlo, no por ninguna fuerza impuesta externamente. Además de referirse a los sistemas completos, Friendly AI también es el nombre de la disciplina teórica y de ingeniería que se utilizaría para crear tales sistemas con éxito.
El término "AI amigable" se originó con Eliezer Yudkowsky del Instituto de Singularidad para la Inteligencia Artificial, cuya creación es la creación de AI amigable lo suficientemente inteligente como para mejorar su propio código fuente sin la intervención de Programadores. Su trabajo de longitud de libro en el tema, creando AI amigable , publicado en línea en 2001, es probablemente el primer tratamiento riguroso del tema en cualquier lugar. Yudkowsky invoca argumentosde la psicología evolutiva y otras ciencias cognitivas para apoyar su enfoque sobre el problema de la AI amigable.
AI amigable se considera importante como una disciplina académica porque los intentos pasados de "responder" el problema de la IA deshonesta generalmente invocan limitaciones programáticas estrictas, que están obligados a colapsar bajo interpretaciones alternativas, cuando la IA se vuelve más inteligente que los humanos, o simplemente cuando gana la capacidad de reprogramar. El antropomorfismo también es un problema en la IA. Debido a que la evolución construye organismos que tienden a ser egoístas, muchos pensadores suponen que cualquier IA que construamos tendría la misma tendencia, ya sea inmediatamente o después de ser lo suficientemente inteligente.
La evolución construye organismos con sistemas de objetivos egocéntricos porque no hay otra manera. Los sistemas de objetivos altruistas tardaron muchos millones de años en evolucionar, y solo lo hicieron en condiciones en las que los miembros de la misma tribuD mucho para ganarse al ayudarse unos a otros y mucho para perder al descuidarlo. Pero si tuviéramos que diseñar una mente desde cero, podríamos construirla sin un sistema de objetivos egocéntricos. Esto no estaría "restringiendo la IA", simplemente estaría creando una IA que es desinteresada por naturaleza.
.La observación anterior es una de las muchas que contribuyen al campo de la IA amigable, que es extremadamente nueva y aún necesita mucho trabajo. Algunos investigadores de IA argumentan que no podemos determinar las características de diseño necesarias para implementar una IA amigable hasta que tengamos sistemas de IA más inteligentes para experimentar. Otros argumentan que un enfoque puramente teórico no solo es posible, sino éticamente necesario antes de comenzar un intento grave de IA general.