Hernesto,
Cada SharePoint tem os seus prerequisitos. Não sei se é bom vc tentar instalar um na máquina e depois tentar instalar o outro.
Se você for ver o método de upgrade no 2010 para o 2013 vai ver que não é suportando o upgrade inplace. Isso significa que vc precisa criar outros servidores e migrar apenas os dados. Com base nisso, não sei qual seria o impacto em fazer isso que vc fez,
mesmo que seja para testes.
Não seria mais fácil criar uma outra máquina para fazer isso? Se vc quiser usar a mesma máquina mesmo, tente remover tudo que está relacionado ao SharePoint 2010 e 2013, mas acho que vc vai levar um tempinho.
Sobre a instalação do SharePoint 2013, vc chegou a ver os pré-requisitos? Está td dentro do exigido?
Atenciosamente,
Fabian André Gehrke
MCITP e MCPD SharePoint 2010
http://fabiangehrke.com.br