Co je to přátelská AI?

Přátelský AI je termín používaný vědci umělé inteligence (AI) k odkazování na systémy AI, které obecně provádějí akce, které jsou pro lidstvo užitečné, než neutrální nebo škodlivé. To neznamená slepá poslušnost - naopak se tento termín používá k popisu systémů AI, které jsou přátelské, protože chtějí být, ne kvůli žádné externě uložené síle. Kromě odkazování na dokončené systémy je přátelská AI také názvem teoretické a inženýrské disciplíny, která by byla použita k úspěšnému vytvoření takových systémů.

Termín „přátelský AI“ vznikl s Eliezer Yudkowsky Singularity Instate pro umělou inteligenci, jehož cílem je vytvoření přátelského AI chytrého dostatečně inteligentního AI. Jeho práce s dlouhou knihou na toto téma, Vytváření přátelského AI , zveřejněného online v roce 2001, je pravděpodobně prvním přísným zacházením s tématem kdekoli. Yudkowsky vyvolává argumentyOd evoluční psychologie a dalších kognitivních věd po podporu jeho přístupu k problému přátelské AI.

Přátelská AI je považována za důležitou jako akademickou disciplínu, protože minulost se pokouší „odpovědět“ na problém nepoctivé AI obecně vyvolané přísné programové omezení, která se musí při alternativních interpretacích kolaptovat, když se AI stává chytřejší než lidé, nebo jednoduše, když získá schopnost samého přeprogramovat. Antropomorfismus je také problém AI. Protože evoluce buduje organismy, které mají tendenci být sobecké, mnoho myslitelů předpokládá, že jakákoli AI, kterou budujeme, by měla stejnou tendenci, buď okamžitě nebo po dostatečně chytré.

Evoluce vytváří organismy se soustředěným cílovým systémům, protože neexistuje žádný jiný způsob. Altruistické cílové systémy trvalo mnoho milionů let, než se vyvinuly, a učinili tak pouze za podmínek, ve kterých členové stejného kmene HA HAD hodně k získání tím, že si navzájem pomáháme a hodně ztratí zanedbáváním. Ale pokud bychom měli navrhnout mysl od nuly, mohli bychom ji postavit bez cílového cílového systému. To by nebylo „omezení AI“ - jednoduše by to vytvořilo AI, která je od povahy nesobecká.

Výše ​​uvedené pozorování je jedním z mnoha, které přispívají k oblasti přátelské AI, která je extrémně nová a stále potřebuje hodně práce. Někteří vědci AI tvrdí, že nemůžeme určit konstrukční funkce nezbytné k implementaci přátelské AI, dokud nebudeme mít chytřejší systémy AI, na kterých budeme experimentovat. Jiní tvrdí, že čistě teoretický přístup je nejen možný, ale eticky nezbytný před zahájením vážného pokusu o generál AI.