Grzegorz pochodził z rodziny patrycjuszy. Jego rodzice święta Sylwia i Gordian Anicjusz zadbali o staranne wykształcenie syna - Grzegorz znał łacinę i grekę, retorykę i prawo. Około 575 roku objął stanowisko prefekta Rzymu, ale w dniu śmierci swojego ojca wycofał się z funkcji publicznych i wstąpił do klasztoru Świętego Benedykta. W 579 roku przyjął święcenia diakonatu a dwa lata później papież Pelagiusz II uczynił go swym posłem na cesarskim dworze w Konstantynopolu. Po śmierci Pelagiusza II wybrano Grzegorza, przez aklamację, na papieża. 

Grzegorz był pierwszym papieżem zakonnikiem. Będąc pod wpływem reguły zakonnej Benedykta z Nursji, w której obowiązywało bezwzględne posłuszeństwo, miał wyobrażenie o Kościele jako instytucji scentralizowanej i hierarchicznej. Przywrócenie ładu organizacyjnego było więc jednym z podstawowych celów Grzegorza. Był też zdania, że stagnacja i bezczynność ze strony duchowieństwa mogą doprowadzić do wyparcia chrześcijaństwa z terenów, które dopiero je przyjęły. Ratunek widział w intensywnym prowadzeniu misji. Pomysł papieża był niezwykle nowatorski, ponieważ do tej pory Kościół zajmował się tylko umacnianiem struktur, a inicjatywę w szerzeniu wiary pozostawiał władcom bądź gorliwcom.

Imię papieża Grzegorza I zostało utrwalone w historii muzyki i liturgii, ponieważ przypisano mu uporządkowanie i usystematyzowanie śpiewu liturgicznego, znanego później jako chorał gregoriański. W roku 600, mimo że nie była powszechnie znana, wprowadził łacinę jako jedyny język liturgii Kościoła zachodniego.

Zamiast przysługujących tytułów jako papież podpisywał się Servus servorum Dei (łac. Sługa sług Bożych). Tytuł ten jest do dziś używany przez papieży. Grzegorz I podejmował działania mające na celu ulżenie losowi ubogich i potrzebujących. Jego pomoc wyrażała się zarówno w działaniach długofalowych, poprzez usprawnienie administracji dobrami kościelnymi, a następnie przeznaczanie ich części na określony cel charytatywny, dotyczący dużych grup potrzebujących: uchodźców wojennych, ofiar najazdów, głodu, a także przytułków dla sierot i ludzi w podeszłym wieku. Grzegorz I znajdywał sposoby zaspokajania pojedynczych przypadków potrzebujących pomocy i wsparcia reagując na imienne prośby i szukając nowych przypadków, w których potrzebna była jego interwencja – materialna bądź duchowa.

Grzegorz był bardzo płodnym pisarzem i wywarł olbrzymi wpływ na kształtowanie się myśli chrześcijańskiej w zakresie duchowości i kościelnego prawodawstwa. Nie pisał jednak obszernych traktatów, lecz wypowiadał się w formach krótkich, głównie w epistolarnych i w kazaniach. Do najbardziej znanych jego pism należy Regula Pastoralis (Księga reguły pasterskiej) – traktat dotyczący obowiązków duchowieństwa.

Grzegorz zmarł 12 marca 604 roku. Niedługo po śmierci został ogłoszony świętym przez aklamację Rzymian Santo subito, wśród których cieszył się popularnością. W 1298 roku został ogłoszony doktorem Kościoła.