Wat is een neuraal netwerk?
In een typische computer, gemaakt volgens wat een Von Neumann-architectuur wordt genoemd, leven geheugenbanken in een geïsoleerde module. Er is slechts één processor, die instructies en geheugen herschrijft één voor één, met behulp van een seriële architectuur. Een andere benadering van computergebruik is het neurale netwerk. In een neuraal netwerk, bestaande uit duizenden of zelfs miljoenen individuele "neuronen" of "knooppunten", is alle verwerking zeer parallel en verdeeld. "Herinneringen" worden opgeslagen binnen de complexe onderlinge verbindingen en wegingen tussen knooppunten.
Neuraal netwerken is het type computerarchitectuur dat in de natuur door hersenen van dieren wordt gebruikt. Dit is niet noodzakelijkerwijs omdat het neurale netwerk een inherent superieure verwerkingsmodus is dan serieel computergebruik, maar omdat een brein dat serieel computergebruik gebruikt, veel moeilijker is om incrementeel te evolueren. Neurale netwerken hebben ook de neiging om beter om te gaan met "lawaaierige gegevens" dan seriële computers.
In een feedforward neuraal netwerk neemt een "invoerlaag" gevuld met gespecialiseerde knooppunten informatie op en stuurt vervolgens een signaal naar een tweede laag op basis van de informatie die het van buitenaf heeft ontvangen. Deze informatie is meestal een binair "ja of nee" -signaal. Soms moet de knoop een bepaalde drempelwaarde van opwinding of stimulatie ervaren om van een "nee" naar een "ja" te gaan.
Gegevens worden verplaatst van de invoerlaag naar de secundaire en tertiaire lagen, enzovoort, totdat het een laatste "uitvoerlaag" bereikt die resultaten weergeeft op een scherm dat programmeurs kunnen analyseren. Het menselijk netvlies werkt op basis van neurale netwerken. Eerste niveau knooppunten detecteren eenvoudige geometrische kenmerken in het gezichtsveld, zoals kleuren, lijnen en randen. Secundaire knooppunten beginnen meer geavanceerde functies te abstraheren, zoals beweging, textuur en diepte. De laatste "output" is wat ons bewustzijn registreert wanneer we naar het gezichtsveld kijken. De eerste invoer is slechts een complexe verzameling fotonen die weinig zou betekenen zonder de neurologische hardware om er betekenis aan te geven in termen van betekenisvolle eigenschappen, zoals het idee van een duurzaam object.
In backpropagerende neurale netwerken kunnen output van eerdere lagen terugkeren naar die lagen om verdere signalen te beperken. De meeste van onze zintuigen werken op deze manier. De initiële gegevens kunnen een "onderbouwde gok" geven bij het uiteindelijke resultaat, gevolgd door het bekijken van toekomstige gegevens in de context van die onderbouwde gok. In optische illusies doen onze zintuigen weloverwogen gissingen die verkeerd blijken te zijn.
In plaats van neurale netwerken algoritmisch te programmeren, moeten programmeurs een neuraal netwerk configureren met training of delicate afstemming van individuele neuronen. Bijvoorbeeld, het trainen van een neuraal netwerk om gezichten te herkennen zou veel trainingsruns vereisen waarin verschillende "facelike" en "unfacelike" objecten aan het netwerk werden getoond, vergezeld van positieve of negatieve feedback om het neurale netwerk over te halen om herkenningsvaardigheden te verbeteren.