Leon urodził się około 400 r. w Toskanii. Był synem Kwintyniana. Papież Celestyn I mianował go archidiakonem około roku 430. Od młodości wyróżniał się tak wielką erudycją i zdolnościami dyplomatycznymi, że nawet jako zwykły akolita wysyłany był przez papieża do ważnych misji. Na jego polecenie udał się m.in. z poufną misją do św. Augustyna, biskupa Hippony. Kiedy w 440 r. przebywał z misją pokojową w Galii, wysłany tam przez cesarzową Gallę Placydię, został obrany papieżem po śmierci Sykstusa III. Po powrocie do Rzymu został konsekrowany 29 września 440 r., rozpoczynając swoje ponad 21-letnie kierowanie Kościołem.
Jego pontyfikat przypadł na czasy licznych sporów teologicznych i zamieszania pośród hierarchii kościelnej. Musiał zwalczać liczne herezje oraz tendencje odśrodkowe, podejmowane przez episkopaty Afryki Północnej i Galii. To wtedy Pelagiusz głosił, że Chrystus wcale nie przyniósł odkupienia z grzechów, a Nestoriusz twierdził, że w Jezusie mieszkały dwie osoby. Poprzez swoich legatów brał udział w soborze w Chalcedonie (451), który ustalił najważniejsze elementy doktryny chrystologicznej. W dogmatycznym liście do biskupa Konstantynopola, tzw. "Tomie do Flawiana", odczytanym w Chalcedonie, Leon I rozwinął naukę o dwóch naturach w Chrystusie. Sobór Chalcedoński przyjął wiarę w jednego Chrystusa w dwóch naturach, obu niezmiennych i nieprzemieszczalnych, ale także nierozdwojonych i nierozdzielnych, tworzących jedną osobę. Tekst ten ojcowie soborowi przyjęli przez aklamację, a z zachowanych dokumentów wiemy, że zawołali wtedy: "Piotr przemówił przez usta Leona".
Papież Leon wprowadził zasadę liturgicznej, kanonicznej i pastoralnej jedności Kościoła. Za jego czasów powstały pierwsze redakcje zbiorów oficjalnych modlitw liturgicznych w języku łacińskim. Powiązał liturgię z codziennym życiem chrześcijańskim; np. praktykę postu z miłosierdziem i jałmużną. Nauczał, że liturgia chrześcijańska nie jest wspomnieniem wydarzeń minionych, lecz uobecnieniem niewidzialnej rzeczywistości. W jednej z mów podkreślał, że Paschę można celebrować w każdym okresie roku "nie jako coś, co przeminęło, ale raczej jako wydarzenie dziś obecne".
Leon przyczynił się do uznania prymatu stolicy Piotrowej zarówno przez cesarza zachodniego Walentyniana III, jak i przez Konstantynopol. Cesarz Walentynian III (425-455) ogłosił edykt postanawiający, że zarządzenia Stolicy Apostolskiej muszą być uważane za prawo; oznaczało to prymat jurysdykcyjny biskupa rzymskiego. Bronił Italię i Rzym przed najazdami barbarzyńców. Wyjechał naprzeciw Attyli, królowi Hunów, i jego wojskom, wstrzymał ich marsz i skłonił do odwrotu (452). W trzy lata później podjął pertraktacje ze stojącym u bram Rzymu Genzerykiem, królem Wandalów. Niestety, król nie dotrzymawszy umowy złupił Wieczne Miasto. Papież ten wsławił się także działalnością charytatywną oraz zdecydowanym przeciwstawianiem się praktykom pogańskim czy wpływom sekty manichejczyków.
Leon był obrońcą kultury zachodniej. Jako pierwszy papież otrzymał przydomek "Wielki". Zmarł 10 listopada 461 r. w Rzymie. Został pochowany w portyku bazyliki św. Piotra. Zachowało się po nim ok. 150 listów i prawie 100 mów wygłoszonych do mieszkańców Rzymu podczas różnych świąt. Pozwalają one poznać wiedzę teologiczną papieża oraz ówczesne życie liturgiczne. W roku 1754 Benedykt XIV ogłosił go doktorem Kościoła. Jest patronem muzyków i śpiewaków.

W ikonografii św. Leon Wielki przedstawiany jest w szatach papieskich i w tiarze, czasami w szatach liturgicznych rytu wschodniego lub jako papież piszący. Jego atrybutami są: księga, kielich oraz orszak z półksiężycem, któremu zastępuje drogę.