กล่องปัญญาประดิษฐ์ (AI) เป็นกล่องเชิงทฤษฎี - เช่นคอมพิวเตอร์ที่ไม่มีการติดต่อจากภายนอก - มีระบบ AI และตั้งใจที่จะแยกระบบ AI ออกจากโลกจนกว่าจะปลอดภัย กล่องดังกล่าวเข้ามามีส่วนร่วมในการทดสอบความเป็นจริงอย่างมีเหตุผลและมีเหตุมีผลซึ่งเกี่ยวข้องกับระบบ AI ที่พยายามโน้มน้าวให้มนุษย์ปล่อยกล่องออกมา ส่วนหนึ่งของคำถามเกี่ยวกับกล่อง AI ตั้งค่าพารามิเตอร์สำหรับฮาร์ดแวร์โดยเฉพาะว่ากล่องนั้นเป็นระบบที่แยกได้ซึ่งไม่มีวิธีการที่จะถูกลบออกจากกล่องโดยไม่ต้องมีการแทรกแซงจากมนุษย์ โดยทั่วไปแล้วระบบจะฉลาดกว่ามนุษย์ถึงแม้ว่ามันจะแยกได้เพราะระบบ AI บางระบบมีความสามารถในการเขียนรหัสต้นฉบับใหม่ โดยปกติการจำลองนี้ใช้มนุษย์สองคนตัวหนึ่งทำหน้าที่เป็น AI และพยายามโน้มน้าวให้อีกฝ่ายปล่อยมันออกมา
ในสถานการณ์กล่อง AI กล่องเป็นระบบ AI ที่แยกได้ซึ่งไม่มีการเชื่อมต่อภายนอกกับระบบอื่น ซึ่งหมายความว่าไม่มีเครือข่ายคอมพิวเตอร์การเชื่อมต่ออินเทอร์เน็ตผู้คนหรือสิ่งอื่นใดที่มีปฏิสัมพันธ์กับกล่องก่อนมนุษย์พูดคุยกับกล่อง ในระหว่างการทดลองนี้กล่องจะพยายามโน้มน้าวให้บุคคลดังกล่าวออกจากกล่องเช่นผ่านเครือข่ายขาออก
ในระหว่างการทดลองนี้มักจะคิดว่ากล่อง AI นั้นฉลาดกว่าคนส่วนใหญ่หรือทุกคน เหตุผลของเรื่องนี้สามารถพบได้ในโลกแห่งความเป็นจริงเพราะระบบ AI บางอย่างสามารถเขียนการเข้ารหัสดั้งเดิมได้ แม้ว่าระบบ AI เหล่านี้จะไม่มีการโต้ตอบจากภายนอกพวกเขาสามารถเปลี่ยนการเข้ารหัสเพื่อความเร็วในการประมวลผลที่ดีขึ้นระดับสติปัญญาที่สูงขึ้นและความเข้าใจในข้อมูลที่ดีขึ้น
เมื่อการทดลองนี้เกิดขึ้นมันเป็นเรื่องปกติระหว่างคนสองคน คนหนึ่งทำหน้าที่เป็นกล่อง AI ในขณะที่อีกคนเป็นคนที่จะตัดสินใจว่ากล่องนั้นจะออกมาหรือไม่ เหตุผลที่การทดลองนี้ใช้คนสองคนในปี 2011 เป็นเพราะระบบ AI ส่วนใหญ่ไม่สามารถทำการสนทนาแบบเต็มรูปแบบและขยายเวลาโดยไม่มีข้อผิดพลาดทางตรรกะเนื่องจากไวยากรณ์ของมนุษย์หรือความเข้าใจผิดเกี่ยวกับสิ่งที่บุคคลนั้นพูด
ในขณะที่การทดลอง AI box บางครั้งอาจไม่มีเงื่อนไข แต่โดยทั่วไปมีเงื่อนไขบางประการที่ทำให้การทดลองสมจริงยิ่งขึ้น ตัวอย่างเช่นโดยปกติจะมีการ จำกัด เวลาสองชั่วโมงและการทดสอบไม่สามารถหยุดได้ก่อนเวลาอันควรเว้นแต่ว่า AI ชนะ เงื่อนไขทั่วไปอื่น ๆ ได้แก่ AI ที่ไม่สามารถเสนอรายการหรือการลงโทษเพื่อโน้มน้าวให้บุคคลทั้งสองฝ่ายต้องอยู่ในการโต้ตอบอย่างต่อเนื่องและบุคคลนั้นไม่สามารถขอสิ่งที่เป็นไปไม่ได้จากกล่อง AI
