Olav kom tibage til et religiøst splittet Norge. Efter [[Olav Tryggvason]]s død ved [[Slaget ved Svold]] blev Norge delt mellem sejrherrenesejrherrerne: danskekongen, svenskekongen og ladejarlene. I datidens Norge tjente man først og fremmest familien som blev styret af familiens mandlige overhoveder. Blodhævn var almindeligt. Det var svært at forene riget, og der var ingen grobund for indføringen af kristendommen. Imidlertid var ætsamfunnet i tilbagegang. Landet havde udviklet sig hen til et land med [[bygd]]er og småriger, med høvdinge og småkonger. Herredsting og [[lagting]] var også etableret. Alligevel skulle det blive svært at kristne og forene landet, der blev regeret af jarle og høvdinger som Erling Skjalgsson, Kalv Arneson, Hårek på Tjøtta og Tore Hund som først og fremmest tænkte på ættens fremgang.
Noget af det første Olav gjorde, var at tage [[Erik Jarl]]s (963 - 1024) søn, Håkon til fange, og bortvise ham til England, hvor hans far Eirik jarl boede.
