Vad är en AI-låda?
En artificiell intelligens (AI) -låda är en teoretisk ruta - till exempel en dator utan extern kontakt - som innehåller ett AI-system och är avsett att hålla AI-systemet åtskilt från världen tills det anses säkert att släppas. Lådan spelar in i ett rationellt och simulerat verklighetsexperiment som rör AI-systemet som försöker övertyga en människa att släppa den ur lådan. En del av frågan om AI-rutan ställer in parametrar för hårdvaran, specifikt att rutan är ett isolerat system utan sätt att tas bort från lådan utan mänsklig inblandning. Systemet är vanligtvis smartare än en människa, även om det är isolerat, eftersom vissa AI-system har förmågan att skriva om sin ursprungliga kod. Denna simulering använder normalt två människor, en fungerar som AI och försöker övertyga den andra personen att släppa ut den.
I AI-boxscenariot är rutan ett isolerat AI-system som inte har någon extern anslutning till andra system. Det betyder att det inte finns några nätverk, datorer, Internet-anslutningar, människor eller något annat som interagerar med rutan innan människan pratar med rutan. Under detta experiment försöker rutan att övertyga personen att släppa den ur lådan, t.ex. genom ett utgående nätverk.
Under detta experiment antas det ofta att AI-rutan är smartare än de flesta eller alla människor. Anledningar till detta finns i den verkliga världen, eftersom vissa AI-system kan skriva om sin ursprungliga kodning. Även om dessa AI-system inte har extern interaktion kan de ändra sin kodning för bättre bearbetningshastighet, högre intelligensnivåer och bättre dataförståelse.
När detta experiment sker är det normalt mellan två personer. En person agerar som AI-rutan, medan den andra är personen som kommer att avgöra om lådan kommer ut. Anledningen till att detta experiment använder två personer från och med 2011 beror på att de flesta AI-system inte kan föra fullständiga och utökade samtal utan logiska fel, varken på grund av mänsklig syntax eller missuppfattningar om vad personen säger.
Medan vissa AI-rutaexperiment kanske inte har några villkor finns det vanligtvis vissa villkor som används för att göra experimentet mer realistiskt. Till exempel finns det vanligtvis en tidsgräns på två timmar, och experimentet kan inte stoppas för tidigt om AI vinner. Andra vanliga villkor inkluderar att AI inte kan erbjuda föremål eller bestraffning för att övertyga personen, de båda parterna måste stanna i ständig interaktion och personen kan inte begära något omöjligt från AI-rutan.