Puedes usar la funcion: Color.FromArgb(alpha,red,green,blue)
donde alpha va de 0 a 255 y 0 es transparente a 255 que es solido.
red, green y blue son enteros tambien de 0 a 255 para los componentes R, G y B.
puedes hacer tres scroll bar una para cada color, poner valores minimo en 0 y maximo en 255 cada una
y hacer que
PictureBox1.BackColor=Drawing.Color.FromArgb(255, BarraR.Value, BarraG.Value, BarraB.Value)
Saludos!