Co to jest przyjazna sztuczna inteligencja?
Przyjazna AI to termin używany przez naukowców sztucznej inteligencji (AI) w odniesieniu do systemów AI, które ogólnie wykonują działania, które są pomocne dla ludzkości, a nie neutralnej lub szkodliwej. Nie oznacza to ślepego posłuszeństwa - przeciwnie, termin ten jest używany do opisania systemów AI, które są przyjazne, ponieważ chcą być, a nie z powodu jakiejkolwiek siły narzuconej zewnętrznie. Oprócz odwołania się do ukończonych systemów, Friendly AI to także nazwa dyscypliny teoretycznej i inżynieryjnej, która zostałaby użyta do skutecznego tworzenia takich systemów.
Termin „przyjazna AI” pochodzi z Eliezera Yudkowskiego z Instytutu Instytutu Szczelności dla sztucznej inteligencji, której celem jest stworzenie przyjaznego inteligentnego inteligencji, aby ulepszyć własne kodeksowe kodeksownictwo. Jego długość książki na ten temat, Creating Friendly AI , opublikowane online w 2001 roku, jest prawdopodobnie pierwszym rygorystycznym traktowaniem tematu w dowolnym miejscu. Yudkowsky wywołuje argumentyod psychologii ewolucyjnej i innych nauki poznawczej po poparcie jego podejścia do problemu przyjaznego AI.
Przyjazna sztuczna inteligencja jest uważana za ważną jako dyscyplina akademicka, ponieważ wcześniejsze próby „odpowiedzi” na problem nieuczciwych AI ogólnie przywołały surowe ograniczenia programowe, które są zobowiązane do upadku w alternatywnych interpretacjach, gdy AI staje się mądrzejsze niż ludzie, lub po prostu gdy zyskuje zdolność do reprogramu. Antropomorfizm stanowi również problem w sztucznej inteligencji. Ponieważ ewolucja buduje organizmy, które zwykle są samolubne, wielu myślicieli zakłada, że każda budowana przez nas sztuczna inteligencja miałaby taką samą tendencję, natychmiast lub po wystarczającej liczbie inteligentnych.
Ewolucja buduje organizmy z egocentrycznymi systemami celów, ponieważ nie ma innego sposobu. Altruistyczne systemy celów zajęły wiele milionów lat, a zrobił to tylko w warunkach, w których członkowie tego samego plemienia haD wiele do zyskania, pomagając sobie nawzajem i wiele do stracenia, zaniedbując to. Ale gdybyśmy zaprojektowali umysł od zera, moglibyśmy go zbudować bez egocentrycznego systemu celów. Nie byłoby to „ograniczeniem sztucznej inteligencji” - po prostu stworzyłoby to AI, która jest z natury bezinteresowna.
Powyższa obserwacja jest jedną z wielu, które przyczyniają się do dziedziny przyjaznej sztucznej inteligencji, która jest niezwykle nowa i wciąż wymaga dużo pracy. Niektórzy badacze AI twierdzą, że nie możemy określić funkcji projektowych niezbędnych do wdrożenia przyjaznej sztucznej inteligencji, dopóki nie będziemy mieć mądrzejszych systemów AI do eksperymentowania. Inni twierdzą, że podejście czysto teoretyczne jest nie tylko możliwe, ale etycznie konieczne przed rozpoczęciem poważnej próby ogólnej AI.