Estou usando jquery.maskedinput em um textbox, que é a data inicial da pesquisa
no webform tenho um botão "PESQUISAR'
mas como faço para validar a data quando o usuário clicar no botão "PESQUISAR"
Oi jceoms.
Você pode tentar pegar o evento submit por javascript/jquery. Veja o exemplo no jsfiddler:
http://jsfiddle.net/mt2qQ/