¿Qué es la IA amigable?
La IA amigable es un término utilizado por los investigadores de Inteligencia Artificial (IA) para referirse a los sistemas de IA que, en general, realizan acciones que son útiles para la humanidad en lugar de neutrales o dañinas. Esto no significa obediencia ciega; por el contrario, el término se usa para describir los sistemas de IA que son amigables porque quieren serlo, no por ninguna fuerza impuesta externamente. Además de referirse a los sistemas completados, Friendly AI también es el nombre de la disciplina teórica y de ingeniería que se utilizaría para crear dichos sistemas con éxito.
El término "AI amigable" se originó con Eliezer Yudkowsky, del Instituto de Singularidad para Inteligencia Artificial, cuyo objetivo es la creación de IA amigable lo suficientemente inteligente como para mejorar su propio código fuente sin intervención del programador. Su trabajo de larga duración sobre el tema, Creación de IA amigable , publicado en línea en 2001, es probablemente el primer tratamiento riguroso del tema en cualquier lugar. Yudkowsky invoca argumentos de la psicología evolutiva y otras ciencias cognitivas para respaldar su enfoque del problema de la IA amigable.
La IA amigable se considera importante como disciplina académica porque los intentos pasados de "responder" al problema de la IA rebelde generalmente invocaron restricciones programáticas estrictas, que están destinadas a colapsar bajo interpretaciones alternativas, cuando la IA se vuelve más inteligente que los humanos, o simplemente cuando gana el capacidad de reprogramarse a sí mismo. El antropomorfismo también es un problema en la IA. Debido a que la evolución construye organismos que tienden a ser egoístas, muchos pensadores suponen que cualquier IA que construyamos tendría la misma tendencia, ya sea inmediatamente o después de ser lo suficientemente inteligente.
La evolución construye organismos con sistemas de objetivos egocéntricos porque no hay otra manera. Los sistemas de metas altruistas tardaron muchos millones de años en evolucionar, y solo lo hicieron en condiciones en las que los miembros de la misma tribu tenían mucho que ganar al ayudarse unos a otros y mucho que perder al descuidar hacerlo. Pero si tuviéramos que diseñar una mente desde cero, podríamos construirla sin un sistema de objetivos egocéntrico. Esto no sería "restringir la IA", sino simplemente crear una IA desinteresada por naturaleza.
La observación anterior es una de las muchas que contribuyen al campo de la IA amigable, que es extremadamente nueva y aún necesita mucho trabajo. Algunos investigadores de IA argumentan que no podemos determinar las características de diseño necesarias para implementar AI amigable hasta que tengamos sistemas de IA más inteligentes para experimentar. Otros argumentan que un enfoque puramente teórico no solo es posible, sino éticamente necesario antes de comenzar un intento serio de IA general.