Lembit Orgse on lõpetanud Tallinna Muusikakeskkooli Reet Vanaselja ja prof. Bruno Luki õpilasena ning Tallinna Konservatooriumi (nüüdne Eesti Muusika- ja Teatriakadeemia) prof. Bruno Luki ja Kalle Randalu klaveriklassis. Täiendanud end 1988-1990 Rimski-Korsakovi nim Peterburi Konservatooriumis assistentuur-stažuuris prof. Vladimir Nilseni juures. 2013 aastal kaitses L. Orgse doktorikraadi muusika alal.
Ta on 1982. aastal Leedus toimunud Ciurlionise-nimelise konkursi laureaat ning esinenud pianistina ja klavessinistina erinevate solistide, ansamblite- ja orkestritega (Tallinna keelpillikvartett, Rahvusooperi puhkpillikvintett, Hortus Musicus, ERSO, Tallinna Barokkorkester, Corelli Consort jt) nii kodu- kui välismaal. Basso continuo mängijana on osalenud paljude suurvormide (Bachi passioonid ja kantaadid, Händeli oratooriumid jne) ettekannetel, mis teeb temast hinnatud varajase muusika interpreteerija.
Ulatuslikumad J. S. Bachiga seotud kontserdiprojektideks on olnud Prantsuse ja Inglise süitide ettekanded sarjas ”Tantsud klahvidel”; kõikide kammersonaatide esitused koos eesti väljapaistvate keelpilli- ja puhkpillisolistidega ning klavessiinikontserdite esitused koostöös orkestriga Klaaspärlimäng Sinfonietta Tallinna Bachi festivalidel ja Mustonenfestil. Viimaste aastate kontserttegevuses on olulisel kohal ka mitmed soolokavad haamerklaveril C. P. E. Bachi, J. Haydni, W.A. Mozarti ja M. Clementi jt loomingust.
Lembit Orgse on tuntud klaveripedagoogina, kelle õpilased on silma paistnud riigisisestel ja rahvusvahelistel konkurssidel. Praegu töötab ta varase klahvpillimuusika professorina ja Interpretatsioonipedagoogika õppejuhina Eesti Muusika- ja Teatriakadeemias ning on ühtlasi ka Eesti Klaveriõpetajate Ühingu juhatuse esimees (EPTA). Lembit Orgse on nõutud lektor ja meistrikursuste läbiviija. Tema loengute teemad hõlmavad barokk- ja klassikalise muusika (J .S. Bach ja J. Haydn) interpretatsiooni jt klahvpillimetoodika küsimusi.