Nachdem er im NHL Entry Draft des Jahres 1987 in der vierten Runde an 69. Position von den New York Rangers ausgewählt worden war, wechselte er dann zur Saison 1990/91 als Spieler ins Profilager. Sullivan beendete seine aktive Karriere im Sommer 2002 und übernahm er direkt im Anschluss als Cheftrainer die Providence Bruins eine Trainerrolle.
Aufgrund seiner auffällig guten Leistungen mit Providence wurde er noch im Laufe der Saison 2002-03 zum Assistenztrainer der Boston Bruins befördert. Zur Spielzeit 2003-04 erfolgte dort bereits die Ernennung zum Cheftrainer und Sullivan schaffte mit seinem Team damals auf Anhieb den besten Saisonrekord seit 1992-93. Im Juni 2006 trennten sich die Bruins von ihm, nachdem man die KO-Runde im Frühjahr verpasst hatte.
Es folgten Stationen als Co-Trainer bei den Tampa Bay Lightning, den New York Rangers und bei den Vancouver Canucks. Nach der Saison 2014-15 trat er dann die Nachfolge von John Hynes als Cheftrainer der Wilkes-Barre/Scranton Penguins , dem Nachwuchsteam des NHL-Teams aus Pittsburgh an. Als dann im Dezember 2015 Mike Johnston bei den Pittsburgh Penguins entlassen wurde, da rückte Sullivan auf.
Und Sullivan meisterte die Herausforderung eindrucksvoll, gewann mit seinen Schützlingen auf Anhieb den begehrten Silberling im Stanley Cup Finale gegen die San Jose Sharks.
Jim Rutherford, der General Manager des Teams, lobt den Coach auch in den höchsten Tönen: "Die Richtung des Teams hat sich komplett gedreht als er zum Team stieß. Seine Führungsqualitäten, sein Einblick in das Spiel, die Art wie er mit den Spielern umgeht, das Alles ist unvergleichlich."
Der Coach profitiert dabei offenkundig auch aus seiner Erfahrung aus insgesamt 709 eigenen NHL-Spielen.