Leon urodził się około 400 r. w Toskanii. Był synem Kwityniana. Papież Celestyn I mianował go archidiakonem. Od młodości wyróżniał się tak wielką erudycją i zdolnościami dyplomatycznymi, że nawet jako zwykły akolita wysyłany był przez papieża do ważnych misji. Na jego polecenie udał się m.in. z poufną misją do św. Augustyna, biskupa Hippony. Kiedy przebywał jako legat w Galii, został obrany papieżem (440) po śmierci Sykstusa III.
Jego pontyfikat przypadł na czasy licznych sporów teologicznych i zamieszania pośród hierarchii kościelnej. Musiał zwalczać liczne herezje oraz tendencje odśrodkowe, podejmowane przez episkopaty Afryki Północnej i Galii. To wtedy Pelagiusz głosił, że Chrystus wcale nie przyniósł odkupienia z grzechów, a Nestoriusz twierdził, że w Jezusie mieszkały dwie osoby. Poprzez swoich legatów brał udział w soborze w Chalcedonie (451), który ustalił najważniejsze elementy doktryny chrystologicznej. W dogmatycznym liście Tomus do biskupa Konstantynopola Flawiana Leon I rozwinął naukę o dwóch naturach w Chrystusie. Sobór Chalcedoński przyjął wiarę w jednego Chrystusa w dwu naturach, obu niezmiennych i nieprzemieszczalnych, ale także nierozdwojonych i nierozdzielnych. Obie natury razem tworzyły jedną osobę.
Leon przeprowadził uznanie prymatu stolicy Piotrowej zarówno przez cesarza zachodniego Walentyniana III, jak i przez Konstantynopol. Cesarz Walentynian III (425-455) ogłosił edykt postanawiający, że zarządzenia Stolicy Apostolskiej muszą być uważane za prawo; oznaczało to prymat jurysdykcyjny biskupa rzymskiego. Leon wprowadził zasadę liturgicznej, kanonicznej i pastoralnej jedności Kościoła. Za jego czasów powstały pierwsze redakcje zbiorów oficjalnych modlitw liturgicznych w języku łacińskim. Bronił Italię i Rzym przed najazdami barbarzyńców. Wyjechał naprzeciw Attyli, króla Hunów, i jego wojskom, wstrzymał ich marsz i skłonił do odwrotu (452). W trzy lata później podjął pertraktacje ze stojącym u bram Rzymu Genzerykiem, królem Wandalów. Niestety, król nie dotrzymawszy umowy złupił Wieczne Miasto.
W ikonografii św. Leon Wielki przedstawiany jest w szatach papieskich i w tiarze, czasami w szatach liturgicznych rytu wschodniego lub jako papież piszący. Jego atrybutami są: księga, kielich oraz orszak z półksiężycem, któremu zastępuje drogę.