Grzegorz urodził się w 540 r. w Rzymie w rodzinie patrycjuszy. Jego rodzice, św. Gordian i św. Sylwia, doznają chwały ołtarzy. Na jego wychowanie miały dość duży wpływ również jego ciotki: św. Farsylia i św. Emiliana, które mieszkały w pałacu Gordiana. Swoją młodość Grzegorz spędził w domu rodzinnym na Clivus Scauri, położonym w pobliżu dawnego pałacu cesarza Septymiusza Sewera, Cyrku Wielkiego oraz istniejących już wówczas bazylik - świętych Jana i Pawła, św. Klemensa, Czterech Koronowanych i Lateranu.
Piastował różne urzędy cywilne, aż doszedł do stanowiska prefekta (namiestnika) Rzymu, znajdującego się wtedy pod władzą cesarstwa wschodniego (od roku 552). Po czterech latach mądrych i szczęśliwych rządów (571-575) niespodziewanie opuścił tak eksponowane stanowisko i wstąpił do benedyktynów. Własny, rodzinny dom zamienił na klasztor dla dwunastu towarzyszy. Ten czyn zaskoczył wszystkich - pan Rzymu został ubogim mnichem. Dysponując ogromnym majątkiem, Grzegorz założył jeszcze 6 innych klasztorów w swoich dobrach na Sycylii. W cieniu słynnego później opactwa św. Andrzeja na wzgórzu Celio trwał na modlitwie i poście.
W roku 577 papież Benedykt I mianował Grzegorza diakonem Kościoła rzymskiego, a w roku 579 papież Pelagiusz II uczynił go swoim apokryzariuszem, czyli przedstawicielem na dworze cesarza wschodniorzymskiego. Grzegorz udał się więc w stroju mnicha wraz z kilkoma towarzyszami do Konstantynopola. Spędził tam 7 lat (579-586). Wykazał się dużymi umiejętnościami dyplomatycznymi. Korzystając z okazji, nauczył się języka greckiego. Ceniąc wielką mądrość i roztropność Grzegorza, papież Pelagiusz II wezwał go z powrotem do Rzymu, by pomagał mu bezpośrednio w zarządzaniu Kościołem i służył radą. Miał jednocześnie pełnić obowiązki osobistego sekretarza papieża. Od roku 585 był także opatem klasztoru.

7 lutego 590 r. zmarł Pelagiusz II. Na jego miejsce lud, senat i kler rzymski jednogłośnie, przez aklamację, wybrali Grzegorza. Ten w swojej pokorze wymawiał się. Napisał nawet do cesarza i do swoich przyjaciół w Konstantynopolu, by nie zatwierdzano jego wyboru. Stało się jednak inaczej. 3 września 590 r. odbyła się jego konsekracja na biskupa. Przedtem przyjął święcenia kapłańskie. W tym samym roku Rzym nawiedziła zaraza, jedna z najcięższych w historii tego miasta. Grzegorz zarządził procesję pokutną dla odwrócenia klęski. Wyznaczył 7 kościołów, w których miały gromadzić się poszczególne stany: kler - w bazylice świętych Kosmy i Damiana; mnisi - w bazylice świętych Gerwazego i Protazego; mniszki - w kościele świętych Piotra i Marcelina; chłopcy - w bazylice świętych Jana i Pawła; wdowy - w kościele św. Eufemii, a wszyscy inni - w kościele św. Stefana na Celio. Z tych kościołów wyruszyły procesje do bazyliki Matki Bożej Większej, gdzie papież-elekt wygłosił wielkie przemówienie o modlitwie i pokucie. Podczas procesji Grzegorz zobaczył nad mauzoleum Hadriana anioła chowającego wyciągnięty, skrwawiony miecz. Wizję tę zrozumiano jako koniec plagi. Utrwalono ją artystycznie. Do dnia dzisiejszego nad mauzoleum Hadriana, zwanym także Zamkiem Świętego Anioła, dominuje ogromny posąg anioła ze wzniesionym mieczem.
Pontyfikat Grzegorza trwał 15 lat. Zaraz na początku swoich rządów Grzegorz nadał sobie pokorny tytuł, który równocześnie miał być programem jego pontyfikatu: servus servorum Dei - "sługa sług Bożych". Do ówczesnych patriarchów Konstantynopola, Antiochii, Jerozolimy i Aleksandrii skierował wysłanników z zawiadomieniem o swoim wyborze w słowach pełnych pokory i przyjaźni, czym pozyskał sobie ich miłość. Codziennie głosił słowo Boże. Usunął z kurii papieskiej niegodnych urzędników. Podobnie uczynił z biskupami i proboszczami na parafiach. Zreformował służbę wobec ubogich. Wielką troską otoczył rzymskie kościoły i diecezje Włoch. Dla lepszej kontroli i orientacji wyznaczył wśród biskupów osobnego wizytatora. Był stanowczy wobec nadużyć. Poprzez przyjaźń z królową Longobardów, Teodolindą, pozyskał ją dla Kościoła.
Kiedy Bizantyjczycy pokonali Wandalów i zajęli północną Afrykę, tamtejsi biskupi zaczęli dążyć do zupełnej autonomii od Rzymu, co mogło grozić schizmą. Papież energicznie temu zapobiegł. Wielką radość sprawiła mu wiadomość o nawróceniu w Hiszpanii ariańskich Wizygotów, dzięki gorliwości i taktowi św. Leandra (589), z którym św. Grzegorz był w wielkiej przyjaźni. Nawiązał także łączność dyplomatyczną z władcami Galii. Do Anglii wysłał benedyktyna św. Augustyna (późniejszego biskupa Canterbury) wraz z 40 towarzyszami. Ich misja powiodła się. W samą uroczystość Zesłania Ducha Świętego w 597 r. król Kentu, Etelbert I, przyjął chrzest. Obecnie czczony jest jako święty.

Najgorzej układały się stosunki Rzymu z Konstantynopolem. Chociaż papież utrzymywał z cesarstwem jak najlepsze stosunki, patriarchowie uważali się za równorzędnych papieżom, a nawet za wyższych od nich właśnie dlatego, że byli biskupami w stolicy cesarzy. W tym właśnie czasie patriarcha Konstantynopola nadał sobie nawet tytuł patriarchy "ekumenicznego", czyli powszechnego. Przeciwko temu Grzegorz zaprotestował i nigdy tego tytułu nie uznał, uważając, że należy się on wyłącznie biskupom rzymskim.
Grzegorz rozwinął owocną działalność także na polu administracji kościelnej. Uzdrowił finanse papieskie, zagospodarował majątki, które służyły na utrzymanie dworu papieskiego. W równym stopniu zasłużył się na polu liturgii przez swoje reformy. Ujednolicił i upowszechnił obrządek rzymski. Dotąd bowiem każdy kraj, a nawet wiele diecezji miały swój własny ryt, co wprowadzało wiele zamieszania.
Od pontyfikatu Grzegorza pochodzi zwyczaj odprawiania 30 Mszy św. za zmarłych - zwanych "gregoriańskimi". Kiedy papież był jeszcze opatem benedyktynów w Rzymie, zmarł pewien mnich, przy którym znaleziono pieniądze. W owych czasach posiadanie własnych pieniędzy przez zakonnika było uważana za wielkie przestępstwo. Grzegorz, aby dać lekcję mnichom, nakazał pogrzebać ciało owego zakonnika poza klasztorem, w miejscu niepoświęconym. Pełen jednak troski o jego duszę nakazał odprawić 30 Mszy świętych dzień po dniu. Kiedy została odprawiona ostatnia Msza święta, ów zakonnik miał się pokazać opatowi i podziękować mu, oświadczając, że te Msze święte skróciły mu znacznie czas czyśćca. Odtąd panuje przekonanie, że po odprawieniu 30 Mszy świętych Pan Bóg w swoim miłosierdziu wybawia duszę, za którą są one ofiarowane, i wprowadza ją do nieba.
Przy bardzo licznych i absorbujących zajęciach publicznych Grzegorz także bardzo wiele pisał. Pozostawił po sobie bogatą spuściznę literacką. Do najcenniejszych jego dzieł należą: Dialogi, Reguła pasterzowania, Sakramentarz, Homilie oraz Listy. Tych ostatnich zachowało się do naszych czasów aż 852. Jest to największy zbiór epistolarny starożytności chrześcijańskiej.
Z imieniem św. Grzegorza Wielkiego kojarzy się także tradycyjny śpiew liturgiczny Kościoła łacińskiego - chorał gregoriański, który choć w pełni ukształtował się dopiero w VIII w., to jednak przypisywany jest temu Świętemu.

Grzegorz zmarł 12 marca 604 r. Obchód ku jego czci przypada obecnie 3 września, w rocznicę konsekracji biskupiej. Jego ciało złożono obok św. Leona I Wielkiego, św. Gelazjusza i innych w pobliżu zakrystii bazyliki św. Piotra. Pół wieku później przeniesiono je do samej bazyliki wśród ogromnej radości ludu rzymskiego. Średniowiecze przyznało Grzegorzowi przydomek Wielki. Historia nazwała go "apostołem ludów barbarzyńskich". Należy do czterech wielkich doktorów Kościoła Zachodniego. Jest patronem m.in. uczniów, studentów, nauczycieli, chórów szkolnych, piosenkarzy i muzyków.

W ikonografii św. Grzegorz Wielki przedstawiany jest jako mężczyzna w starszym wieku, w papieskim stroju liturgicznym, w tiarze, czasami podczas pisania dzieła. Nad księgą lub nad jego głową unosi się Duch Święty w postaci gołębicy, inspirując Świętego. Jego atrybutami są: anioł, trzy krwawiące hostie, krzyż pontyfikalny, model kościoła, otwarta księga, parasol - jako oznaka papiestwa, zwinięty zwój. Na Wschodzie św. Grzegorz Wielki czczony jest jako Grzegorz Dialogos.