Mauricio, le hago notar que VB6 no tiene soporte de ningún tipo, y que cuando eso sucede su compañía invertirá a mediano/largo plazo más dinero tratando de mantener esto que lo que podría costar actualizar el producto a .net o C++.
Para el caso particular, ¿existe la posibilidad de utilizar servidores de 32 bits? Sería la solución más sencilla, diría yo.
Si no fuere posible, supongo que podría tratar de investigar el problema. Supongo que en alguna parte existen indicios de la causa del fallo, como eventos en los logs de Windows. Si no, lo que le recomendaría es crear un nuevo instalador utilizando,
por ejemplo, Inno Setup. Esto claro está, asumiendo que la aplicación sí corre en Windows Server 2008 de 64 bits y que lo único que falla es el instalador.
Jose R. MCP