W wieku 15 lat Perry przeprowadził się z Ottawy do Los Angeles, aby zająć się aktorstwem i uczęszczał do The Buckley School w Sherman Oaks, kończąc ją w 1987 roku. Realizował komedię improwizowaną w LA Connection w Sherman Oaks jeszcze w szkole średniej.
Poszedł na grać Chazz Russell w serialu telewizyjnym Druga szansa. Po 13 odcinkach, Second Chance stał Boys Will Be Boys, z działek ponownie koncentruje się na przygodach Chazz i jego nastoletnich przyjaciół. Po zakończeniu jednego sezonu serialu, Perry pozostał w Los Angeles i zadebiutował na ekranie w filmie A Night in the Life of Jimmy Reardon z 1988 roku. W 1989 roku, Perry miał trzy-epizodowy łuk na serii Growing Pains, w którym sportretował Carol Seaver chłopaka „Sandy”, który umiera w szpitalu po pijanemu driving accident.
Wśród jego wielu ciągłych ról gościnnych w telewizji, Perry został obsadzony jako regularne na 1990 CBS sitcom Sydney, grając młodszego brata Valerie Bertinelli tytułowej postaci. W 1991 roku wystąpił gościnnie w serialu Beverly Hills, 90210 jako Roger Azarian. Perry wylądował swoją kolejną telewizyjną rolę w sitcomie ABC Home Free, który wyemitował tylko 11 odcinków wiosną 1993 roku, a następnie pilot sitcomu zatytułowany LAX 2194.
Próbował zabezpieczyć przesłuchanie do pilota Six of One, później znanego jako Friends, przez Martę Kauffman i Davida Crane’a, z których oboje pracowali nad Dream On. Jednak ze względu na wcześniejsze zobowiązania związane z pilotem LAX 2194, nie był początkowo brany pod uwagę przy przesłuchaniach. Kiedy w końcu dostał lekturę, dostał rolę Chandlera Binga.
Friends odnieśli ogromny sukces, a Perry, wraz ze swoimi gwiazdami, zyskał szerokie uznanie wśród telewidzów. Program przyniósł mu nominację do nagrody Emmy w 2002 roku za wybitnego aktora pierwszoplanowego w serialu komediowym, wraz z Mattem LeBlanc, ale obaj przegrali z Rayem Romano. Perry pojawił się w filmach takich jak Fools Rush In (u boku ojca John Bennett Perry i Salma Hayek), Prawie Heroes, Trzy do Tanga, The Whole Nine Yards (u boku Bruce Willis) i jego sequel The Whole Ten Yards, i Serving Sara.
Pomimo, że znany głównie z ról komediowych, Perry wyrzeźbił karierę w dramacie, jak również, zwłaszcza w jego portret Associate White House Counsel Joe Quincy w Aaron Sorkin’s The West Wing. Jego trzy występy w tym serialu (dwa razy w czwartym sezonie i raz w piątym) przyniosły mu dwie nominacje do nagrody Emmy dla wybitnego aktora gościnnego w serialu dramatycznym w 2003 i 2004 roku. Perry jest wspominany w serialu przed swoim gościnnym występem – Donna Moss szuka go (poza ekranem) w odcinku „20 Hours in LA”. Pojawił się również jako adwokat Todd Merrick w dwóch odcinkach w pobliżu końca pięciosezonowego biegu Ally McBeal, w tym 2-godzinny specjalny mający na celu ożywienie komediodramatu prawnego.
Po zawinięciu Friends, Perry zadebiutował jako reżyser w odcinku 4. sezonu amerykańskiego komediodramatu Scrubs, w którym również wystąpił gościnnie jako „Murray Marks”, operator małego lotniska zespołu kontroli ruchu. Murray jest proszony o oddanie nerki do swojego ojca Gregory’ego (granego przez prawdziwego ojca Perry’ego).
Wystąpił w filmie TNT, The Ron Clark Story znany również jako „The Triumph”, który miał premierę 13 sierpnia 2006 roku. Perry grał w małym miasteczku nauczyciel Ron Clark, który przenosi się do najtrudniejszej klasy w kraju. Perry otrzymał nominację do Złotego Globu, jak również nominację do nagrody Emmy za jego performance.
Od 2006 do 2007 roku, Perry pojawił się w dramacie Aaron Sorkin’s Studio 60 na Sunset Strip. Perry grał Matt Albie obok Bradley Whitford’s Danny Tripp, pisarz-dyrektor duet wniesiona do pomocy ratowania upadającej sketch show. Postać Perry’ego była uważana za w znacznym stopniu opartą na osobistych doświadczeniach Sorkina, zwłaszcza w telewizji.
W 2006 roku rozpoczął kręcenie filmu Numb, opartego na człowieku cierpiącym na zaburzenia depersonalizacji. Wstępna data premiery filmu była kilkakrotnie przesuwana, ale ostatecznie został on wydany na DVD 13 maja 2008 roku. Wystąpił także w filmie Davida Mameta Sexual Perversity in Chicago w Londynie. W 2009 roku wystąpił w filmie 17 Again grając starszego Mike’a O’Donnella.
W 2008 roku Perry wystąpił w offbeatowym filmie Birds of America jako Morrie Tanager, spięty człowiek, który musi radzić sobie ze swoim rodzeństwem. Showtime przeszedł na pilota o nazwie The End of Steve, mroczna komedia z udziałem, napisane i wyprodukowane przez Perry i Peter Tolan.
Perry’ego nowego pilota komedii, Pan Sunshine, w oparciu o oryginalny pomysł Perry’ego na show, został kupiony przez ABC. Perry był ustawiony do portretowania człowieka w średnim wieku z kryzysem tożsamości. ABC anulował serię po dziewięciu odcinkach.
Na 1 marca 2012 roku, poinformowano, że Perry podpisał się na gwiazdę na NBC pilot komedii Go On, napisany i wyprodukowany przez byłego pisarza / producenta Przyjaciele Scott Silveri. Projekt został przyjęty do serii w maju 2012 roku. Perry wcieli się w postać Ryana Kinga, dziennikarza sportowego, który po śmierci żony stara się żyć dalej, korzystając z obowiązkowych sesji terapeutycznych. Pilot został wyemitowany 8 sierpnia 2012 roku jako „sneak preview” po Letnich Igrzyskach Olimpijskich 2012. Serial miał swoją premierę 11 września 2012 roku. 2 października 2012 roku NBC zamówiło pełny sezon składający się z 22 odcinków. NBC anulował Go On w maju 2013 roku, wkrótce po zakończeniu swojego pierwszego sezonu.
W 2012 roku Perry wystąpił gościnnie w dramacie CBS The Good Wife, jako adwokat Mike Kresteva. W 2013 roku powtórzył swoją rolę w czwartym sezonie.
W 2014 roku Perry zadebiutował w brytyjskiej telewizji w jednorazowym programie komediowym The Dog Thrower, który został wyemitowany 1 maja jako część Sky Arts’ Playhouse Presents. Perry sportretował „charyzmatycznego mężczyznę”, który oczarował gapiów, rzucając swojego psa w powietrze. W latach 2015-2017 Perry wystąpił w roli głównej, współtworzył scenariusz i był producentem wykonawczym wznowienia sitcomu The Odd Couple na CBS. Perry zagrał Oscara Madisona naprzeciwko Thomasa Lennona jako Felix Unger.
Perry zagrał główną rolę w nowej produkcji swojej sztuki The End of Longing, która miała premierę 11 lutego 2016 roku w Playhouse Theatre w Londynie. Sztuka przeniosła się Off-Broadway do MCC Theater, która została otwarta 5 czerwca 2017 roku, z Jennifer Morrison.
W marcu 2017 roku Perry ponownie wystąpił w roli adwokata Mike’a Kresteva, w The Good Fight, serialu będącym sequelem dramatu CBS The Good Wife.
Później w 2017 roku wystąpił jako Ted Kennedy w mini-serialu The Kennedys: After Camelot.
W 2018 roku Business Insider podał, że wartość netto Perry’ego wynosi około 80 milionów dolarów.