hola
si compiasl la aplciacion podrias ver que en la carpeta \bin\Debug deja el .exe compialdo junto a als dll que este requiere
si tomas de alli esto podrias llevarlo a la pc del usuario
por supuesto vas a necesitas instalar alli el .net framework en la version con la cual ahs desarrollado la aplicacion
Nota: si quieres los archivos .pdb no neceitas llevarlo a la pc del usuario final
Tambien si necesitas puede compilar lo como Release de esta forma se optimiza el codigo obtenido
saludos
Leandro Tuttini
Blog
Buenos Aires
Argentina