Co je Friendly AI?
Přátelská umělá inteligence je termín používaný vědci umělé inteligence (AI) k označení systémů umělé inteligence, které obecně provádějí akce, které jsou užitečné pro lidstvo spíše než neutrální nebo škodlivé. To neznamená slepou poslušnost - naopak, tento termín se používá k popisu systémů umělé inteligence, které jsou přátelské, protože chtějí být, nikoli kvůli vnějším silám. Kromě odkazu na dokončené systémy je Friendly AI také názvem teoretické a inženýrské disciplíny, která by byla použita k úspěšnému vytvoření takových systémů.
Termín „Friendly AI“ vznikl u Eliezera Yudkowského z institutu Singularity Institute for Artificial Intelligence, jehož cílem je vytvoření Friendly AI dostatečně chytré, aby se zlepšil na vlastním zdrojovém kódu bez zásahu programátora. Jeho knižní práce na téma Creating Friendly AI , publikovaná online v roce 2001, je pravděpodobně prvním přísným zpracováním tohoto tématu kdekoli. Yudkowsky se dovolává argumentů z evoluční psychologie a dalších kognitivních věd, aby podpořil svůj přístup k problému Friendly AI.
Přátelská umělá inteligence je považována za důležitou jako akademická disciplína, protože minulé pokusy „odpovědět“ na problém nepoctivého umělého intelektuála obecně vyvolaly přísná programová omezení, která se musejí podle alternativních výkladů zhroutit, když se umělá inteligence chytřejší než lidé, nebo jednoduše, když získává schopnost přeprogramovat se. Antropomorfismus je také problémem AI. Protože evoluce buduje organismy, které mají tendenci být sobecké, mnoho myslitelů předpokládá, že jakákoli umělá inteligence, kterou budujeme, bude mít stejnou tendenci, buď okamžitě, nebo poté, co se stane dost chytrá.
Evoluce buduje organismy pomocí systémů zaměřených na sebe, protože neexistuje žádný jiný způsob. Altruistické systémy cílů trvalo mnoho milionů let, než se vyvinuly, a to pouze za podmínek, za nichž členové stejného kmene měli hodně co získat tím, že si navzájem pomáhali a hodně ztratili opomenutím. Ale pokud bychom měli navrhnout mysl od nuly, mohli bychom ji postavit bez systému zaměřeného na sebe sama. To by „neomezovalo AI“ - jednoduše by to vytvořilo AI, které je svou povahou nesobecké.
Výše uvedené pozorování je jedním z mnoha, které přispívají k oblasti Friendly AI, která je velmi nová a stále potřebuje hodně práce. Někteří vědci AI tvrdí, že nemůžeme určit konstrukční prvky nezbytné pro implementaci Friendly AI, dokud nebudeme mít chytřejší AI systémy, na kterých bude experimentovat. Jiní tvrdí, že ryze teoretický přístup je nejen možný, ale i eticky nezbytný, než zahájí vážný pokus o všeobecnou AI.