Co to jest Friendly AI?
Przyjazna sztuczna inteligencja to termin używany przez badaczy sztucznej inteligencji (AI) w odniesieniu do systemów sztucznej inteligencji, które na ogół wykonują działania, które są pomocne ludzkości, a nie neutralne lub szkodliwe. Nie oznacza to ślepego posłuszeństwa - przeciwnie, termin ten jest używany do opisania przyjaznych systemów AI, ponieważ chcą, a nie z powodu jakiejkolwiek siły narzuconej z zewnątrz. Oprócz odwoływania się do gotowych systemów, Friendly AI to także nazwa dyscypliny teoretycznej i inżynieryjnej, która zostałaby wykorzystana do pomyślnego stworzenia takich systemów.
Termin „przyjazna AI” pochodzi od Eliezera Judkowskiego z Singularity Institute for Artificial Intelligence, którego celem jest stworzenie przyjaznej AI na tyle inteligentnej, aby ulepszyć własny kod źródłowy bez interwencji programisty. Jego obszerna praca na ten temat, Creating Friendly AI , opublikowana online w 2001 roku, jest prawdopodobnie pierwszym rygorystycznym podejściem do tematu na świecie. Yudkowsky przywołuje argumenty z psychologii ewolucyjnej i innych nauk poznawczych, aby poprzeć swoje podejście do problemu przyjaznej AI.
Przyjazna sztuczna inteligencja jest uważana za ważną dyscyplinę akademicką, ponieważ przeszłe próby „rozwiązania” problemu nieuczciwej sztucznej inteligencji generalnie odwoływały się do ścisłych ograniczeń programowych, które muszą się rozpaść w wyniku alternatywnych interpretacji, gdy sztuczna inteligencja staje się mądrzejsza od ludzi lub po prostu, gdy zyskuje możliwość samodzielnego przeprogramowania. Antropomorfizm jest również problemem w AI. Ponieważ ewolucja buduje organizmy, które bywają samolubne, wielu myślicieli zakłada, że każda zbudowana przez nas sztuczna inteligencja miałaby tę samą tendencję, albo natychmiast, albo po osiągnięciu wystarczającej inteligencji.
Ewolucja buduje organizmy z samocentrującymi systemami bramkowymi, ponieważ nie ma innego wyjścia. Altruistyczne systemy bramkowe ewoluowały przez wiele milionów lat i robiły to tylko w warunkach, w których członkowie tego samego plemienia mieli wiele do zyskania, pomagając sobie nawzajem i wiele do stracenia, zaniedbując to. Ale gdybyśmy zaprojektowali umysł od zera, moglibyśmy go zbudować bez samocentrującego systemu bramek. Nie byłoby to „ograniczeniem AI” - byłoby po prostu stworzeniem AI, która z natury jest bezinteresowna.
Powyższe spostrzeżenie jest jednym z wielu, które przyczyniają się do stworzenia przyjaznej AI, która jest niezwykle nowa i wciąż wymaga dużo pracy. Niektórzy badacze AI twierdzą, że nie możemy określić funkcji projektowych niezbędnych do wdrożenia Friendly AI, dopóki nie będziemy mieli inteligentniejszych systemów AI do eksperymentowania. Inni twierdzą, że podejście czysto teoretyczne jest nie tylko możliwe, ale etycznie konieczne przed rozpoczęciem poważnej próby ogólnej sztucznej inteligencji.