Küçük bir işletim sistemi, nispeten küçük bir miktar temel koddan oluşan sistemdir. Sonuç olarak, genellikle çalıştığı makineden daha az kaynak gerektirir.
Çok genel bir kural olarak, küçük bir işletim sistemi olarak tanımlanan çoğu sistem Linux çekirdeğini temel alır. Çekirdek etkili bir bilgisayarın beynidir ve tam olarak herhangi bir anda ne yapması gerektiğine karar verir. Linux normalde açık kaynak kodlu sistemlerde kullanılır ve bunlar değişkendir ve bazıları diğerlerinden daha küçüktür. Microsoft'un Windows ve Apple'ın OSX'i genellikle çok büyük işletim sistemleri olarak kabul edilir.
Küçük bir işletim sistemi fikri mutlak olmak yerine karşılaştırmalı olduğundan, küçük olarak tanımlanabilecek Windows sürümleri vardır. Bunlardan en iyi bilinen, düşük özellikli bilgisayarlar ve bağımsız cihazlar için tasarlanmış Windows CE'dir. İkincisi ile, sistem normalde doğrudan cihazın içine yerleştirilir. Windows CE çalıştıran bazı cihazlar arasında, bazı havayollarında etkileşimli bilgi ekranları ve koltuk arkalığı eğlence sistemleri bulunur.
Küçük bir işletim sisteminin temel avantajı düşük özellikli bir bilgisayarda çalışabilmesi ve genellikle daha hızlı bir bilgisayar veya daha büyük sistemler kadar bellek gerektirmemesidir. Bu, çalışan uygulamalar için daha fazla kaynak bırakır. Ayrıca eski bilgisayarların eski kabul edilmeden önce daha uzun süre kullanılmasını mümkün kılar.
Diğer bir yararı, küçük bir işletim sisteminin, tanım gereği, böcek içerme potansiyelinin daha az olmasıdır. Ancak bu yalnızca mutlak terimler için geçerlidir. Kötü yazılmış küçük bir işletim sistemi muhtemelen iyi yazılmış büyük bir sistemden çok veya daha fazla soruna neden olur.
Bazı işletim sistemleri o kadar küçüktür ki taşınabilir bir cihazda saklanabilir ve hatta bu cihazlardan çalıştırılabilir. Bu bir USB bellek çubuğu içerebilir. Bu, işletim sisteminin kurulmasına gerek kalmadan anında bir bilgisayarda çalıştırılabileceği anlamına gelir. Bu özellikle, kurulu sistemin bozulduğu bir bilgisayarla uğraşırken faydalı olabilir.
Küçük bir işletim sisteminin dezavantajları, neden küçük olduğuna bağlıdır. Örneğin, yalnızca komut satırında çalışabilir, yani bilgiler girilir ve yalnızca grafik olarak değil metin biçiminde görüntülenir, bu da birçok kullanıcının işine yarayabilir. Küçük bir sistem, yazıcılar veya modemler gibi donanım aygıtları için daha sınırlı desteğe sahip olarak yer tasarrufu sağlayabilir.
