Senators inleder sitt träningsläger på torsdag.
Sharks fick även forwarden Francis Perron i bytesaffären.
Ottawa erbjöd Karlsson en kontraktsförlängning den 1 juli, den första dagen detta var möjligt, men han valde att inte förlänga med Senators. Tampa Bay Lightning och Dallas Stars försökte sedan komma överens med Ottawa om en bytesaffär gällande backen i juli.
- Vi bygger om och söker yngre, snabbare, starkare spelare som skriver under på vår laget-först mentalitet. Spelare som spelar disciplinerat och jobbar sig till friheten att ta risker för att hjälpa laget, sade Ottawas GM Pierre Dorion till TSN under onsdagen.
Karlsson stod för 62 poäng (nio mål, 53 assist) på 71 matcher för Senators förra säsongen. Han har slutat på första plats i Ottawas interna poängliga de senaste fem säsongerna.
Senators (24-45-12) slutade på 15:e plats i Eastern Conference förra säsongen, 30 poäng bakom New Jersey Devils som tog den sista slutspelsplatsen. Detta endast en säsong efter att ha nått Eastern Conference-final där man åkte ut mot Pittsburgh Penguins i match 7.
Senators ägare Eugene Melnyk meddelade i ett öppet brev under måndagen att klubben nu skulle gå in i en flerårig ombyggnation, för att bli bättre på och utanför isen. Melnyk sade dock inget om Karlsson vid det tillfället.
Karlsson har varit kapten för Senators sedan 2014 och vann Norris Trophy vid två tillfällen (2012, 2015). Han har varit med i ligans all star-lag vid fyra tillfällen: 2012, 2015, 2016 och 2017.
Karlsson valdes av Ottawa som 15:e spelare totalt i draften 2008 och har sedan dess skrapat ihop 518 poäng (126 mål, 392 assist) på 627 grundseriematcher, samt 37 poäng (sex mål, 31 assist) på 48 matcher i slutspelet.
De senaste fem säsongerna har den offensiva backen skrapat ihop 355 poäng. Endast hans kommande lagkamrat, Brent Burns, kommer i närheten av de siffrorna med 326 poäng. Ingen annan back har samlat på sig mer än 275 poäng under den tidsperioden.
