Para transformar em Windows Forms, não dá. O que dá para fazer é transformar ela em uma aplicação WPF desktop. Neste caso, a opção mais fácil é criar um novo projeto WPF application e apagar Window1.xaml (e o cs) do projeto. Então adicione a page do projeto XBAP ao projeto que criou e mude em App.xaml a linha do StartupUri para algo como
StartupUri="Page1.xaml"
Bruno