Lo más sencillo es usar una versión moderna de Visual Studio y crear un nuevo proyecto de tipo Web API. Una vez creado el proyecto, se añaden las clases de Entity Framework para acceder a la base de datos (bien sea code-first o database-first), y luego en
el proyecto se añade un item del tipo "nuevo controlador de web api usando entity framework". Esto genera automáticamente una API de tipo REST para acceder a la tabla que hayas referenciado con EF.
Esto se puede probar de manera local en el PC de desarrollo, y una vez que esté funcionando se usa en Visual Studio la opción de publicarlo en Azure, y ya está: tienes tu API REST usando Azure.