1 - Qual arquivo tenho que referenciar dentro do html
Primeiro o JQuery
<script type="text/javascript" language="javascript" src="../../media/js/jquery.js"></script>
Depois o plug-in
<script type="text/javascript" language="javascript" src="../../media/js/jquery.dataTables.js"></script>
e agora um exemplo simples
<script type="text/javascript" charset="utf-8">
$(document).ready(function() {
$('#example').dataTable();
} );
</script>
2 - Como conectar uma base ao grid
você precisará usar Ajax para obter os dados conforme mostra aqui
http://www.datatables.net/release-datatables/examples/ajax/objects.html
ou você pode popular o grid no servidor a sua maneira, e apenas aplicar os recursos do que deseja do plug-in já no lado cliente.
3 - Alguém usa populando através de base de dados sqlserver ?
em ambas as maneiras que comentei, acredito que não haverá problemas quanto ao tipo de servidor que você utiliza.
Leandro