No existe ninguna diferencia, string es el álias de String al igual que int es el alias de System.Int32. Es recomendable usar string simpre que nos refiramos al objeto directamente ej.
string blog= "csharping";
I es recomendable usar String si nos referimos especificamente a la clase, ej.
string message= String.Format("Bienvenidos a {0}!", blog);