En 1923, Ellington était à New York à la tête d’un petit groupe au Hollywood Club. (Il a rouvert sous le nom de Kentucky Club après un incendie en 1925.) Ellington a ensuite déménagé au Cotton Club à Harlem (un quartier de New York). Il y dirige l’orchestre de 1927 à 1932, puis de 1937 à 1938. Il a finalement élargi son orchestre à 14 membres. Beaucoup des membres de son orchestre étaient eux-mêmes des musiciens exceptionnels et d’importants artistes de jazz. Certains d’entre eux sont restés dans l’orchestre d’Ellington pendant des décennies. Ellington et son groupe ont fait des centaines d’enregistrements, sont apparus dans des films et à la radio, et ont fait une tournée en Europe en 1933 et 1939. Certains de ses morceaux les plus célèbres sont « Mood Indigo », « Sophisticated Lady », et « Black and Tan Fantasy ».
Après la Seconde Guerre mondiale (1939-45), Ellington et son groupe ont effectué des tournées dans le monde entier, notamment en Asie, en Afrique de l’Ouest, en Amérique du Sud et en Australie. En 1943, son Black, Brown and Beige a été créé au Carnegie Hall, une salle de concert historique de New York. Cette œuvre est un portrait musical de l’histoire afro-américaine. Ellington a également écrit la musique des films The Asphalt Jungle (1950) et Anatomy of a Murder (1959). En 1969, il a reçu la médaille présidentielle de la liberté. Ellington a publié son autobiographie Music Is My Mistress en 1973. Il est décédé le 24 mai 1974 à New York.