Vuoteen 1923 mennessä Ellington oli New Yorkissa johtamassa pientä yhtyettä Hollywood Clubilla. (Se avattiin uudelleen nimellä Kentucky Club tulipalon jälkeen vuonna 1925.) Sitten Ellington siirtyi Cotton Clubiin Harlemiin (kaupunginosa New Yorkissa). Hän johti siellä yhtyettä vuosina 1927-1932 ja uudelleen 1937-1938. Lopulta hän laajensi yhtyeensä 14-jäseniseksi. Monet hänen yhtyeensä jäsenistä olivat itse poikkeuksellisia muusikoita ja merkittäviä jazz-artisteja. Jotkut heistä pysyivät Ellingtonin bändissä vuosikymmeniä. Ellington ja hänen yhtyeensä tekivät satoja äänitteitä, esiintyivät elokuvissa ja radiossa ja kiersivät Euroopassa vuosina 1933 ja 1939. Hänen tunnetuimpia kappaleitaan ovat ”Mood Indigo”, ”Sophisticated Lady” ja ”Black and Tan Fantasy”.
Toisen maailmansodan jälkeen (1939-45) Ellington ja hänen yhtyeensä kiersivät ympäri maailmaa, myös Aasiassa, Länsi-Afrikassa, Etelä-Amerikassa ja Australiassa. Vuonna 1943 hänen teoksensa Black, Brown and Beige sai ensiesityksensä New Yorkin historiallisessa konserttisalissa Carnegie Hallissa. Teos oli musiikillinen kuvaus afroamerikkalaisten historiasta. Ellington sävelsi musiikkia myös elokuviin The Asphalt Jungle (1950) ja Anatomy of a Murder (1959). Vuonna 1969 hänelle myönnettiin presidentin vapaudenmitali. Ellington julkaisi omaelämäkertansa Music Is My Mistress vuonna 1973. Hän kuoli 24. toukokuuta 1974 New Yorkissa.