Esto es para tenerlo en tu casa o en un centro de datos?
Vas a comprar el equipo para colocarlo en un centro de datos?
Prefieres Rentar el equipo y pagar mensualidades?
A mi parecer tu quieres armar un sistema cluster de servidores. La verdad sino tienes idea que servidores necesitas, me parece que lo que necesita es consultoria y planeacion del sistema.
Aqui hay una viva configuracion de un cluster:
http://www.siets.biz/image/figures/figure1.gif
Dependiendo de las aplicaciones y que tanto vas a correr en ellas, deberias comprar el equipo.
Ten en cuenta que un cluster no es barato y mantenerlo tampoco es barato.