Nació en Tabriz, Irán en el seno de una familia armenia. El Dr. Gregorian recibió su educación primaria en Irán y su educación secundaria en El Líbano. En 1956 ingresó en la Universidad de Stanford, donde se especializó en historia y humanidades, graduándose con honores en 1958. Obtuvo su doctorado en historia y humanidades en la Universidad de Stanford en 1964. El Dr. Gregorian ha dictado clases de historia europea y del Medio Oriente en el Colegio Estatal de San Francisco, en la Universidad de California en Los Ángeles y en la Universidad de Texas en Austin.
En 1972 se unió a la facultad de la Universidad de Pensilvania y fue nombrado profesor de historia Tarzian y profesor de historia de Asia del sur.
Fue decano fundador de la Facultad de Artes y Ciencias de la Universidad de Pensilvania en 1974 y, cuatro años más tarde, se convirtió en el vigésimo tercer rector de la Universidad hasta 1981.
Luego de una trayectoria académica admirable que abarcó dos décadas, el Dr. Gregorian se desempeñó como Presidente de la Biblioteca Pública de Nueva York. Se le reconoce haberle devuelto a la biblioteca su condición de hito cultural. En 1989 fue nombrado presidente de la Universidad Brown. Durante su mandato, encabezó una campaña que recaudó más de U$S 50 millones, logrando que los fondos de la universidad sobrepasen la marca de los mil millones de dólares. Además, durante la etapa de su presidencia, en la Universidad se establecieron 250 cursos de estudios generales.
El Dr. Gregorian ha recibido numerosas becas, incluyendo de la Fundación John Simon Guggenheim, el Consejo Americano de Sociedades Cultas, el Consejo de Investigación de Ciencias Sociales y la Sociedad Filológica Americana. En 1969, recibió el premio E.H ‘Harbison Distinguished Teaching Award’ de la Fundación Danforth. Además, ha recibido numerosos títulos honoríficos y ha sido condecorado por los gobiernos de Francia, Italia, Austria y Portugal. También ha recibido la Medalla Nacional de Humanidades y la Medalla de la Libertad.
Desde 1997, el Dr. Gregorian se ha desempeñado como el duodécimo presidente de Carnegie Corporation of New York, una institución de concesión de subvenciones fundada por Andrew Carnegie.
En 2015 cofundó la Iniciativa Humanitaria Aurora.
