Dermed ble Knut konge også i Danmark. Samtidig fikk han på denne tiden et stadig fastere grep om makten i England. Dette betydde at den svenske kongen nå var i ferd med å få en overmektig nabo i vest. Dessuten fryktet både han og ikke minst Olav Haraldsson at Knut som dansk konge skulle sette styrke bak tradisjonelle danske krav om en eller annen form for overherredømme i Norge. Dette la grunnlaget for en allianse mellom Olav Haraldsson og Olav Skottkonung. Den ble inngått omkring 1020 og befestet gjennom et ekteskap mellom Olav Haraldsson og Astrid, som var datter av Olav Skottkonung. Alliansen fortsatte da den svenske Olav et par år senere ble etterfulgt som konge av sønnen Anund Jakob.
Samtidig begynte Knut å bli politisk aktiv i Norge. Han gjenopptok forbindelsen med en rekke av de norske stormennene, særlig i beltet langs kysten fra Rogaland til Hålogaland, et område som tidligere hadde støttet de danske kongene og de norske ladejarlene. Sigvat skald klager over at Knut kjøpte denne støtten med dansk «gull»: Kongens fiender går rundt med «løse pengepunger», og «mennene lar troskapen gå for penger». Dette er sikkert riktig nok, men å befeste vennskap med gaver var et helt ordinært politisk virkemiddel i datidens Europa. Det ligger ikke nødvendigvis annet i det enn at Knut og jarlene revitaliserte tradisjonell lojalitet.
Omkring midten av 1020-årene, mens Knut oppholdt seg i England, bestemte så Olav og Anund Jakob seg for et motangrep mot Danmark. I et stort kvad, «Knútsdrápa», diktet av Sigvat i slutten av 1030-årene etter Knuts død, står det:
Nordfra med kongen [Olav]
– kjent ble det siden –
styrte de svale
kjøler mot Sjælland,
og Anund fór