Preciso fazer um software Desktop que envie mensagens para uma App no Smartphone, mas não sei nem por onde começar.
Alguem tem uma dica do que eu devo estudar para implementar isso?
Você pode utilizar Sockets, WebSockets do HTML 5, SignalR.
Acho que é interessante você dar uma olhada no projeto do SignalR, ele tem exemplos prontos para aplicativos Web, Desktop e mobile.
https://github.com/SignalR/SignalR/wiki
ROBERTOSLJUNIOR