Wat zijn de verschillende soorten parallelle verwerkingstechnieken?
Parallelle verwerking is een type computerverwerking waarbij grote computertaken worden onderverdeeld in kleinere subtaken die vervolgens gelijktijdig of parallel in plaats van opeenvolgend worden verwerkt. Deze technologie wordt veel gebruikt in de moderne informatica, met name voor geavanceerde problemen zoals die in de natuurwetenschappen. Voorbeelden van parallelle verwerkingstechnologie binnen een enkel apparaat omvatten symmetrische multiprocessing en multicore-verwerking. Meerdere computers kunnen ook aan elkaar worden gekoppeld om parallel te werken via methoden zoals distributed computing, computerclusters en enorm parallelle computers.
Een symmetrische multiprocessor is een computer met één gemeenschappelijk hoofdgeheugen en besturingssysteem exemplaar gekoppeld aan meerdere, identieke processors. De processors hebben dezelfde mogelijkheden en zijn gekoppeld aan een gemeenschappelijk geheugen, zodat taken eenvoudig kunnen worden toegewezen of opnieuw toegewezen als dat nodig is om de werklast onderling te verdelen. Bij multicore-verwerking bevat elke processor ten minste twee centrale verwerkingseenheden (CPU's), cores genoemd, die verantwoordelijk zijn voor het lezen en uitvoeren van instructies. In wezen is een multicore-processor eigenlijk meerdere processors in een enkele geïntegreerde component. Dit zorgt voor snellere en efficiëntere communicatie tussen verwerkingskernen, vergeleken met computers met meerdere processors waarin elke CPU een afzonderlijke component is.
Multiprocessorcomputers worden veel gebruikt in wetenschappelijke en zakelijke toepassingen. Het komt minder vaak voor in personal computersystemen, die meestal uniprocessor-ontwerpen zijn, hoewel multiprocessors vaker op de consumentenmarkt zijn gekomen. Computersoftware moet specifiek zijn ontworpen voor computers met meerdere processoren om volledig te kunnen profiteren van de voordelen die het biedt, en dit soort software heeft vaak prestatieproblemen op een computer met één processor. Evenzo profiteren programma's die zijn geschreven met een enkele processor meestal slechts beperkte voordelen van multiprocessing omdat ze niet zijn ontworpen om hiervan te profiteren.
Gedistribueerde parallelle verwerkingstechnologie maakt gebruik van meerdere, anders onafhankelijke computers die op verschillende delen van een probleem parallel werken, onderling verbonden via internet of een intern netwerk, zodat ze met elkaar kunnen communiceren. Dit type technologie voor parallelle verwerking kan worden gebruikt met computers die fysiek ver van elkaar verwijderd zijn, hoewel dit niet noodzakelijk altijd het geval is. Samen vormen de gekoppelde computers een computationeel raster.
Computationele rasters kunnen erg groot zijn en kunnen duizenden computers bevatten die over de hele wereld kunnen worden verspreid. Deze computers werken mogelijk ook tegelijkertijd aan niet-gerelateerde problemen, waarbij taken worden uitgevoerd door het netwerk verdeeld over computers op basis van de hoeveelheid beschikbare verwerkingscapaciteit op dat moment. Grid computing verschilt van de meeste andere moderne parallelle computing omdat een enkel raster vaak een diverse reeks computers met verschillende mogelijkheden omvat, in plaats van een groep identieke eenheden.
Computerclusters zijn een vorm van parallelle verwerkingstechnologie waarbij meerdere gekoppelde computers, meestal met identieke mogelijkheden, nauw samenwerken als een enkele eenheid. In tegenstelling tot symmetrische multiprocessing, waarbij meerdere processors worden gebruikt die een gemeenschappelijk geheugen en besturingssysteem delen, is elke afzonderlijke eenheid in een cluster een complete zelfstandige computer. Deze bevinden zich meestal in dezelfde geografische locatie en zijn verbonden op een lokaal netwerk. Sommige computers zijn specifiek gebouwd voor gebruik in computerclusters, maar clusters kunnen ook worden gevormd door computers te koppelen die oorspronkelijk waren ontworpen om autonoom te werken.
Massaal parallelle computers hebben enkele overeenkomsten met clustercomputers, omdat ze ook zijn samengesteld uit meerdere computers die met elkaar zijn verbonden, maar ze zijn veel groter en bevatten meestal honderden of duizenden knooppunten. Ze hebben ook hun eigen gespecialiseerde componenten die de afzonderlijke computers waaruit ze bestaan met elkaar verbinden, terwijl computerclusters met elkaar worden verbonden door standaard, kant-en-klare hardware die vaak als commodity-componenten wordt aangeduid. De meest geavanceerde massaal parallelle computers kunnen echt kolossaal zijn, met tienduizenden individuele computers die duizenden vierkante meter ruimte vullen, die allemaal samenwerken. De meeste van 's werelds geavanceerde supercomputers, gebruikt voor complexe berekeningen op gebieden zoals astrofysica en wereldwijde klimaatmodellering, zijn van dit type.