En 1923 Ellington estaba en Nueva York dirigiendo una pequeña banda en el Hollywood Club. (Se reabrió como el Kentucky Club después de un incendio en 1925.) Ellington luego se trasladó al Cotton Club en Harlem (un barrio de la ciudad de Nueva York). Allí dirigió la banda de 1927 a 1932 y de nuevo de 1937 a 1938. Llegó a ampliar su banda a 14 miembros. Muchos de los miembros de su banda eran músicos excepcionales e importantes artistas de jazz. Algunos de ellos permanecieron en la banda de Ellington durante décadas. Ellington y su banda realizaron cientos de grabaciones, aparecieron en películas y en la radio, y realizaron una gira por Europa en 1933 y 1939. Algunas de sus piezas más famosas son «Mood Indigo», «Sophisticated Lady» y «Black and Tan Fantasy».
Después de la Segunda Guerra Mundial (1939-45) Ellington y su banda realizaron giras por todo el mundo, incluyendo Asia, África Occidental, Sudamérica y Australia. En 1943 se estrenó su Black, Brown and Beige en el Carnegie Hall, una histórica sala de conciertos de Nueva York. La obra era un retrato musical de la historia afroamericana. Ellington también escribió música para las películas La jungla de asfalto (1950) y Anatomía de un asesinato (1959). En 1969 recibió la Medalla Presidencial de la Libertad. Ellington publicó su autobiografía Music Is My Mistress en 1973. Murió el 24 de mayo de 1974 en Nueva York.