Dua band yang tertarik dengan Rudess adalah The Dixie Dregs dan Dream Theater, yang keduanya mengundangnya untuk bergabung.
Rudess memilih The Dixie Dregs, karena ia bisa menjadi anggota paruh waktu dan tidak mengganggu keluarganya.
Pada tahun 1997, Rudess berkolaborasi dengan Mike Portnoy, John Petrucci, dan Tony Levin dalam proyek Liquid Tension Experiment, yang merupakan band progressive metal instrumental.
Proyek ini menghasilkan dua album, yaitu Liquid Tension Experiment dan Liquid Tension Experiment 2.
Pada tahun 1999, Rudess akhirnya bergabung dengan Dream Theater, menggantikan Derek Sherinian. Rudess menjadi keyboardist tetap dan kontributor utama dalam komposisi lagu-lagu Dream Theater.
Rudess juga membawa perubahan dalam sound dan gaya Dream Theater, dengan menggunakan berbagai instrumen dan teknologi, seperti continuum, Haken Audio, Zen Riffer, dan GeoShred.
Rudess juga terus berkarya sebagai musisi solo dan kolaborator. Ia telah merilis beberapa album solo, seperti 4NYC, Rhythm of Time, The Road Home, dan Wired for Madness.