Você pode tentar isto com o formato "RTB":
Code Snippet
Dim imgPath As String
With openImage
.DefaultExt = ".jpg"
.ShowDialog()
.DefaultExt = "jpg"
imgPath = .FileName
End With
Dim img As New System.Drawing.Bitmap(imgPath)
Clipboard.SetDataObject(img)
RichTextBox1.SelectionStart = mensagem.TextLength
RichTextBox1.Paste()
Mas para RTF que é semelhante eu não sei se funciona tenta ae tentar modificar este código né.. vlw ;) .