Cos'è l'IA amichevole?
Friendly Ai è un termine utilizzato dall'intelligenza artificiale (AI) per riferirsi a sistemi di intelligenza artificiale che, in generale, eseguono azioni utili all'umanità piuttosto che neutra o dannosa. Ciò non significa obbedienza cieca - al contrario, il termine viene utilizzato per descrivere i sistemi di intelligenza artificiale che sono amichevoli perché vogliono essere, non a causa di qualsiasi forza imposta esternamente. Oltre a fare riferimento a sistemi completati, l'IA amichevole è anche il nome della disciplina teorica e ingegneristica che verrebbe utilizzata per creare tali sistemi con successo.
Il termine "AI amichevole" ha avuto origine con Eliezer Yudkowsky del Singularity Institute for Artificial Intelligence, il cui obiettivo è la creazione di AI abbastanza amichevole per migliorare la propria fonte di intervento di programmazione. Il suo lavoro di lunghezza sull'argomento, Creazione di AI amichevole , pubblicato online nel 2001, è probabilmente il primo trattamento rigoroso dell'argomento ovunque. Yudkowsky invoca argomentiDalla psicologia evolutiva e altre scienze cognitive per supportare il suo approccio al problema dell'IA amichevole.
AI amichevole è considerata importante come una disciplina accademica perché i tentativi passati di "rispondere" al problema di Rogue AI hanno generalmente invocato rigorosi vincoli programmatici, che sono destinati a crollare in interpretazioni alternative, quando l'IA diventa più intelligente degli umani o semplicemente quando guadagna la capacità di retrovarsi. L'antropomorfismo è anche un problema nell'intelligenza artificiale. Poiché l'evoluzione costruisce organismi che tendono ad essere egoisti, molti pensatori presumono che qualsiasi AI che costruiamo avrebbe la stessa tendenza, immediatamente o dopo essere diventata abbastanza intelligente.
Evolution costruisce organismi con sistemi di obiettivi egocentrici perché non esiste altro modo. I sistemi di obiettivi altruistici hanno impiegato molti milioni di anni per evolversi, e lo hanno fatto solo in condizioni in cui i membri della stessa tribù hannoD molto da guadagnare aiutandosi a vicenda e molto da perdere trascurando di farlo. Ma se dovessimo progettare una mente da zero, potremmo costruirla senza un sistema di obiettivi egocentrico. Questo non sarebbe "limitare l'IA" - sarebbe semplicemente creazione di un'intelligenza artificiale che è altruista per natura.
L'osservazione di cui sopra è una delle tante che contribuiscono al campo dell'intelligenza artificiale amichevole, che è estremamente nuovo e ha ancora bisogno di molto lavoro. Alcuni ricercatori di intelligenza artificiale sostengono che non possiamo determinare le caratteristiche di progettazione necessarie per implementare l'IA amichevole fino a quando non avremo sistemi di intelligenza artificiale più intelligenti su cui sperimentare. Altri sostengono che un approccio puramente teorico non è solo possibile, ma eticamente necessario prima di iniziare un serio tentativo di Ai generale.