Hos 1923 var Ellington i New York City och ledde ett litet band på Hollywood Club. (Den öppnade på nytt som Kentucky Club efter en brand 1925.) Ellington flyttade sedan till Cotton Club i Harlem (en stadsdel i New York). Han ledde orkestern där från 1927 till 1932 och återigen från 1937 till 1938. Han utökade så småningom sitt band till 14 medlemmar. Många av hans bandmedlemmar var exceptionella musiker och viktiga jazzartister själva. Några av dem stannade i Ellingtons band i flera decennier. Ellington och hans band gjorde hundratals inspelningar, uppträdde på film och i radio och turnerade i Europa 1933 och 1939. Några av hans mest kända stycken är ”Mood Indigo”, ”Sophisticated Lady” och ”Black and Tan Fantasy”.
Efter andra världskriget (1939-45) turnerade Ellington och hans band över hela världen, bland annat i Asien, Västafrika, Sydamerika och Australien. År 1943 hade hans Black, Brown and Beige premiär på Carnegie Hall, ett historiskt konserthus i New York. Verket var en musikalisk skildring av den afroamerikanska historien. Ellington skrev också musik till filmerna The Asphalt Jungle (1950) och Anatomy of a Murder (1959). År 1969 tilldelades han presidentens frihetsmedalj. Ellington publicerade sin självbiografi Music Is My Mistress 1973. Han dog den 24 maj 1974 i New York City.