Hva er en AI-boks?

En kunstig intelligens (AI) -boks er en teoretisk boks - for eksempel en datamaskin uten ekstern kontakt - som inneholder et AI-system og ment å holde AI-systemet atskilt fra verden til det anses som trygt å frigjøre. Boksen kommer inn i et rasjonelt og simulert virkelighetseksperiment som angår AI-systemet som prøver å overbevise et menneske om å slippe det ut av boksen. En del av spørsmålet om AI-boksen setter opp parametere for maskinvaren, spesielt at boksen er et isolert system uten noen måte å bli fjernet fra boksen uten menneskelig innblanding. Systemet er typisk smartere enn et menneske, selv om det er isolert, fordi noen AI-systemer har muligheten til å omskrive sin opprinnelige kode. Denne simuleringen bruker vanligvis to mennesker, den ene fungerer som AI og prøver å overbevise den andre personen om å slippe den ut.

I scenarioet AI-boksen er boksen et isolert AI-system som ikke har noen ekstern tilknytning til andre systemer. Dette betyr at det ikke er nettverk, datamaskiner, Internett-tilkoblinger, mennesker eller noe annet som samhandler med boksen før mennesket snakker med boksen. Under dette eksperimentet prøver boksen å overbevise personen om å slippe den ut av esken, for eksempel gjennom et utgående nettverk.

Under dette eksperimentet antas det ofte at AI-boksen er smartere enn de fleste eller alle mennesker. Årsaker til dette kan finnes i den virkelige verden, fordi noen AI-systemer er i stand til å skrive om sin opprinnelige koding. Selv om disse AI-systemene ikke har ekstern interaksjon, kan de endre kodingen for bedre behandlingshastighet, høyere intelligensnivå og bedre dataforståelse.

Når dette eksperimentet skjer, er det normalt mellom to personer. Den ene personen opptrer som AI-boksen, mens den andre er personen som vil bestemme om boksen kommer ut. Årsaken til at dette eksperimentet bruker to personer, fra 2011, er fordi de fleste AI-systemer ikke kan føre full og utvidede samtaler uten logiske feil, verken på grunn av menneskelig syntaks eller feiloppfatninger om hva personen sier.

Mens noen AI-bokseksperimenter kanskje ikke har noen betingelser, er det vanligvis noen forhold som brukes for å gjøre eksperimentet mer realistisk. For eksempel er det vanligvis en tidsbegrensning på to timer, og eksperimentet kan ikke stoppes for tidlig med mindre AI vinner. Andre vanlige forhold inkluderer at AI ikke kan tilby ting eller straff for å overbevise personen, de to partene må være i konstant samspill, og personen kan ikke be om noe umulig fra AI-boksen.