Wat is een AI-box?
Een kunstmatige intelligentie (AI) -box is een theoretische box - zoals een computer zonder extern contact - met een AI-systeem en bedoeld om het AI-systeem gescheiden van de wereld te houden totdat het veilig wordt geacht om te worden vrijgegeven. De doos speelt een rol in een rationeel en gesimuleerd realiteitsexperiment dat betrekking heeft op het AI-systeem dat een mens probeert te overtuigen het uit de doos te laten. Een deel van de AI-boxvraag stelt parameters in voor de hardware, met name dat de box een geïsoleerd systeem is dat op geen enkele manier uit de box kan worden verwijderd zonder menselijke tussenkomst. Het systeem is meestal slimmer dan een mens, ook al is het geïsoleerd, omdat sommige AI-systemen de originele code kunnen herschrijven. Deze simulatie maakt normaal gesproken gebruik van twee mensen, een die als AI fungeert en de andere persoon probeert te overtuigen om het uit te laten.
In het AI-box-scenario is de box een geïsoleerd AI-systeem dat geen externe verbinding met andere systemen heeft. Dit betekent dat er geen netwerken, computers, internetverbindingen, mensen of iets anders zijn dat interactie heeft met de box voordat de mens met de box praat. Tijdens dit experiment probeert de box de persoon te overtuigen om hem uit de box te laten, bijvoorbeeld via een uitgaand netwerk.
Tijdens dit experiment wordt er vaak van uitgegaan dat de AI-box slimmer is dan de meeste of alle mensen. Redenen hiervoor zijn te vinden in de echte wereld, omdat sommige AI-systemen hun oorspronkelijke codering kunnen herschrijven. Zelfs als deze AI-systemen geen externe interactie hebben, kunnen ze hun codering wijzigen voor een betere verwerkingssnelheid, hogere intelligentieniveaus en een beter gegevensbegrip.
Wanneer dit experiment plaatsvindt, is het normaal gesproken tussen twee mensen. De ene persoon fungeert als de AI-box, terwijl de andere persoon is die zal beslissen of de box eruit komt. De reden waarom dit experiment vanaf 2011 twee mensen gebruikt, is omdat de meeste AI-systemen geen volledige en uitgebreide gesprekken kunnen voeren zonder logische fouten, hetzij vanwege menselijke syntaxis of misvattingen over wat de persoon zegt.
Hoewel sommige AI-box-experimenten mogelijk geen voorwaarden hebben, worden er meestal enkele voorwaarden gebruikt om het experiment realistischer te maken. Er is bijvoorbeeld meestal een tijdslimiet van twee uur en het experiment kan niet voortijdig worden gestopt, tenzij de AI wint. Andere veel voorkomende voorwaarden zijn dat de AI niet in staat is om items of straf aan te bieden om de persoon te overtuigen, de twee partijen moeten in constante interactie blijven en de persoon kan niet iets onmogelijks uit de AI-box aanvragen.