Was ist freundliche KI?
Friendly AI ist ein Begriff, der von Forschern der künstlichen Intelligenz (KI) verwendet wird, um sich auf KI -Systeme zu beziehen, die im Allgemeinen Aktionen ausführen, die für die Menschheit und nicht neutral oder schädlich hilfreich sind. Dies bedeutet nicht, dass der Begriff blinde Gehorsam - im Gegenteil, der Begriff verwendet wird, um AI -Systeme zu beschreiben, die freundlich sind, weil sie es sein wollen, nicht aufgrund von extern auferlegten Kraft. Neben der Bezogenheit auf fertiggestellte Systeme ist die freundliche KI auch der Name der theoretischen und technischen Disziplin, die zum erfolgreichen Erstellen solcher Systeme verwendet wird. Seine Buchung von Buchlängen zum Thema , die 2001 online veröffentlicht wird, ist wahrscheinlich die erste strenge Behandlung des Themas überall. Yudkowsky ruft Argumente anaus der Evolutionspsychologie und anderen kognitiven Wissenschaften, um seinen Ansatz zum Problem der freundlichen Ai zu unterstützen.
Freundliche KI wird als akademische Disziplin als wichtig angesehen, da vergangene Versuche, das Problem der Rogue -KI zu "beantworten", im Allgemeinen strenge programmatische Einschränkungen aufzunehmen, die unter alternativen Interpretationen zusammenbrechen müssen, wenn die KI schlauer wird als Menschen oder einfach, wenn sie die Fähigkeit erlangt, sich selbst neu zu programmieren. Anthropomorphismus ist auch ein Problem in der AI. Da die Evolution Organismen aufbaut, die tendenziell egoistisch sind, gehen viele Denker davon aus, dass jeder KI, den wir bauen, die gleiche Tendenz haben, entweder sofort oder nach der Schlauheit der gleichen Tendenz.
Evolution baut Organismen mit egozentrischen Zielsystemen auf, da es keinen anderen Weg gibt. Altruistische Zielsysteme dauerten viele Millionen Jahre, um sich zu entwickeln, und taten dies nur unter Bedingungen, unter denen Mitglieder desselben Stammes had viel zu gewinnen, indem man sich gegenseitig hilft und viel zu verlieren, indem man es vernachlässigt. Aber wenn wir einen Geist von Grund auf neu gestalten würden, könnten wir ihn ohne ein egozentrisches Zielsystem bauen. Dies wäre nicht "die KI einschränken" - es würde einfach eine KI schaffen, die von Natur aus selbstlos ist.
Die obige Beobachtung ist eine von vielen, die zum Feld der freundlichen KI beitragen, was äußerst neu ist und immer noch viel Arbeit benötigt. Einige KI -Forscher argumentieren, dass wir die Entwurfsmerkmale erst bestimmen können, die für die Implementierung einer freundlichen KI erforderlich sind, bis wir intelligenteren KI -Systemen zum Experimentieren haben. Andere argumentieren, dass ein rein theoretischer Ansatz nicht nur möglich, sondern auch ethisch notwendig ist, bevor ein ernsthafter Versuch der allgemeinen AI.
beginnt