In 1923 was Ellington in New York City en leidde hij een kleine band in de Hollywood Club. (Die heropende als de Kentucky Club na een brand in 1925.) Daarna verhuisde Ellington naar de Cotton Club in Harlem (een wijk in New York City). Hij leidde de band daar van 1927 tot 1932 en opnieuw van 1937 tot 1938. Uiteindelijk breidde hij zijn band uit tot 14 leden. Veel van zijn bandleden waren uitzonderlijke muzikanten en zelf belangrijke jazzartiesten. Sommigen van hen bleven tientallen jaren in Ellington’s band. Ellington en zijn band maakten honderden opnames, verschenen in films en op de radio, en toerden door Europa in 1933 en 1939. Enkele van zijn beroemdste stukken zijn “Mood Indigo”, “Sophisticated Lady”, en “Black and Tan Fantasy”.
Na de Tweede Wereldoorlog (1939-45) toerden Ellington en zijn band over de hele wereld, waaronder Azië, West-Afrika, Zuid-Amerika en Australië. In 1943 ging zijn Black, Brown and Beige in première in Carnegie Hall, een historische concertzaal in New York. Het werk was een muzikale verbeelding van de Afro-Amerikaanse geschiedenis. Ellington schreef ook muziek voor de films The Asphalt Jungle (1950) en Anatomy of a Murder (1959). In 1969 werd hij onderscheiden met de Presidentiële Medaille van Vrijheid. Ellington publiceerde zijn autobiografie Music Is My Mistress in 1973. Hij overleed op 24 mei 1974 in New York City.