Hvad er venlig AI?
Venlig AI er et udtryk, der bruges af kunstig intelligens (AI) forskere til at henvise til AI -systemer, der generelt udfører handlinger, der er nyttige for menneskeheden snarere end neutral eller skadelig. Dette betyder ikke blind lydighed - tværtimod bruges udtrykket til at beskrive AI -systemer, der er venlige, fordi de vil være, ikke på grund af nogen eksternt pålagt kraft. Ud over at henvise til færdige systemer er venlige AI også navnet på den teoretiske og tekniske disciplin, der ville blive brugt til at skabe sådanne systemer med succes.
Udtrykket "venligt AI" stammer fra Eliezer Yudkowsky for Singularity Institute for Artificial Intelligence, hvis mål er skabelsen af venligt AI smart nok til at forbedre sin egen kildekode uden programmerintervention. Hans boglængde arbejde om emnet, Oprettelse af venlig AI , der er udgivet online i 2001, er sandsynligvis den første strenge behandling af emnet overalt. Yudkowsky påkalder argumenterFra evolutionær psykologi og andre kognitive videnskaber til støtte for hans tilgang til problemet med venlig AI.
Venlig AI betragtes som vigtig som en akademisk disciplin, fordi tidligere forsøg på at "besvare" problemet med Rogue AI generelt påberåbes strenge programmatiske begrænsninger, som er bundet til at kollapse under alternative fortolkninger, når AI bliver smartere end mennesker, eller simpelthen når det vinder evnen til at omprogrammet selv. Antropomorfisme er også et problem i AI. Fordi evolution bygger organismer, der har tendens til at være egoistiske, antager mange tænkere, at enhver AI, vi bygger, ville have den samme tendens, enten umiddelbart eller efter at være smart nok.
Evolution bygger organismer med selvcentrerede målsystemer, fordi der ikke er nogen anden måde. Altruistiske målsystemer tog mange millioner af år at udvikle sig, og gjorde det kun under forhold, hvor medlemmer af den samme stamme haD meget at vinde ved at hjælpe hinanden og meget at tabe ved at forsømme at gøre det. Men hvis vi skulle designe et sind fra bunden, kunne vi bygge det uden et selvcentreret målsystem. Dette ville ikke "begrænse AI" - det ville simpelthen skabe en AI, der er uselvisk af naturen.
Ovenstående observation er en af mange, der bidrager til området med venlig AI, som er ekstremt ny og stadig har brug for meget arbejde. Nogle AI -forskere hævder, at vi ikke kan bestemme de designfunktioner, der er nødvendige for at implementere venlige AI, før vi har smartere AI -systemer at eksperimentere på. Andre hævder, at en rent teoretisk tilgang ikke kun er mulig, men etisk nødvendigt, før det begynder et alvorligt forsøg på generel AI.