I 1923 var Ellington i New York City og ledede et lille band i Hollywood Club. (Den genåbnede som Kentucky Club efter en brand i 1925.) Ellington flyttede derefter til Cotton Club i Harlem (et kvarter i New York City). Han ledede orkestret der fra 1927 til 1932 og igen fra 1937 til 1938. Han udvidede til sidst sit band til 14 medlemmer. Mange af hans bandmedlemmer var selv exceptionelle musikere og vigtige jazzkunstnere. Nogle af dem blev i Ellingtons band i årtier. Ellington og hans band lavede hundredvis af indspilninger, optrådte i film og i radioen og turnerede i Europa i 1933 og 1939. Nogle af hans mest berømte stykker er “Mood Indigo”, “Sophisticated Lady” og “Black and Tan Fantasy”.
Efter Anden Verdenskrig (1939-45) turnerede Ellington og hans band rundt i hele verden, herunder Asien, Vestafrika, Sydamerika og Australien. I 1943 havde hans Black, Brown and Beige premiere i Carnegie Hall, en historisk koncertsal i New York, i 1943. Værket var en musikalsk skildring af den afroamerikanske historie. Ellington skrev også musik til filmene The Asphalt Jungle (1950) og Anatomy of a Murder (1959). I 1969 blev han tildelt præsidentens frihedsmedalje. Ellington udgav sin selvbiografi Music Is My Mistress i 1973. Han døde den 24. maj 1974 i New York City.