Bereits 1923 war Ellington in New York City und leitete eine kleine Band im Hollywood Club. (Dieser wurde nach einem Brand 1925 als Kentucky Club wiedereröffnet.) Ellington zog dann in den Cotton Club in Harlem (ein Stadtteil von New York City). Er leitete die Band dort von 1927 bis 1932 und erneut von 1937 bis 1938. Schließlich erweiterte er seine Band auf 14 Mitglieder. Viele seiner Bandmitglieder waren außergewöhnliche Musiker und selbst bedeutende Jazzkünstler. Einige von ihnen blieben über Jahrzehnte in Ellingtons Band. Ellington und seine Band machten Hunderte von Aufnahmen, traten in Filmen und im Radio auf und tourten 1933 und 1939 durch Europa. Einige seiner berühmtesten Stücke sind „Mood Indigo“, „Sophisticated Lady“ und „Black and Tan Fantasy“.
Nach dem Zweiten Weltkrieg (1939-45) tourten Ellington und seine Band durch die ganze Welt, einschließlich Asien, Westafrika, Südamerika und Australien. Im Jahr 1943 wurde sein Black, Brown and Beige in der Carnegie Hall, einer historischen Konzerthalle in New York, uraufgeführt. Das Werk war eine musikalische Darstellung der afroamerikanischen Geschichte. Ellington schrieb auch die Musik für die Filme The Asphalt Jungle (1950) und Anatomy of a Murder (1959). 1969 wurde ihm die Presidential Medal of Freedom verliehen. 1973 veröffentlichte Ellington seine Autobiografie Music Is My Mistress. Er starb am 24. Mai 1974 in New York City.