Olá!
Respondendo de forma básica suas perguntas:
1. O que é Setup de Instalação?
Se tratando de aplicações Desktop, é um 'aplicativo' que vai instalar o seu aplicativo na máquina do cliente. Geralmente são arquivos com extensão .msi que utilizam o Windows Installer como plataforma base para instalar uma aplicação no sistema operacional
Windows. Praticamente qualquer aplicativo que você instale no Windows hoje, você inicia o processo por um 'Setup', ou seja, um arquivo instalador.
As demais questões, são parte do processo de criação de um projeto de Setup. São questões bem amplas e que demandam um estudo mais aprofundado neste tipo de projeto... Devido a isso, recomendo que você estudo como criar um projeto de Setup no Visual Studio.
Seguem alguns links:
https://msdn.microsoft.com/pt-br/library/19x10e5c(v=vs.100).aspx
https://msdn.microsoft.com/en-us/library/wx3b589t(v=vs.100).aspx
https://www.youtube.com/watch?v=z0v6hmumCFU
Esse abaixo é um plugin do Visual Studio que pode ser usado também para esta finalidade:
http://www.advancedinstaller.com/user-guide/tutorial-ai-ext-vs.html
Fabio Rosa.