uma base:
você vai precisar capturar o evento de digitar, isso difere se você está usando em ambiente web ou windows.
Depois você vai precisar ter um mini analisador para diferenciar o que a pessoa está escrevendo e por as cores.
Estude sobre analisador léxico: http://pt.wikipedia.org/wiki/An%C3%A1lise_l%C3%A9xica
e também análise sintatica: http://pt.wikipedia.org/wiki/An%C3%A1lise_sint%C3%A1tica_(computa%C3%A7%C3%A3o)
Já te adianto que não é uma coisa fácil que você vai achar um código pronto por aí.
Ah não ser que você esteja procurando um simples hightlight, aí tem esse: http://alexgorbatchev.com/SyntaxHighlighter/ que é muito usado, principalmente pelo wordpress e blogs de programação
Microsoft Communit Contributor
Twitter: @MayogaX
Blog: Dev Blog