Tendrás que explicar con más cuidado qué es lo que estás haciendo y por qué no funciona. En un varbinary(max) se puede guardar cualquier cosa siempre que se la pases como array de bytes. Típicamente se usa para guardar imágenes cuando las guardas en binario.
Pero si la imagen ya la convertiste desde binario a base64, y la quieres conservar así, entonces no merece la pena que conviertas de nuevo a binario el base64. En su lugar, y dado que el base64 es un texto, sálvala en un campo varchar(max), que te
resultará más sencillo.