I 2004 blev Jakob Axel Nielsen konservativ folketingskandidat i [[Aalborg Vestkredsen]]. Ved [[folketingsvalget i 2005]] fik Jakob Axel Nielsen med sine 671 personlige stemmer næstflesttredjeflest stemmer for partiet i [[Nordjyllands Amtskreds]], –næst kunefter overgået[[Per afLarsen (politiker)|Per Larsen]] med 705 stemmer og justitsminister [[Lene Espersen]] med 25.762 stemmer. På grund af opstillingsformen blev Jakob Axel Nielsen valgt frem for Per Larsen<ref>[https://valg.sim.dk/media/15962/folketingsvalget-den-8-februar-2005.pdf FOLKETINGSVALGET. DEN 8. FEBRUAR 2005 DANMARK FÆRØERNE GRØNLAND]</ref>
Han var Det Konservative Folkepartis arbejdsmarkedsordfører, kulturordfører og boligordfører, og var næstformand for Folketingets Boligudvalgboligudvalg. Nielsen var medlem af repræsentantskabet i [[Kunstrådet]], medlem af repræsentantskabet i [[Statens Kunstfond]] og er desuden stedfortræder i [[Europarådet]].
I perioden 12. september – 23. november 2007 var Jakob Axel Nielsenhan transport- og energiminister. Minister for sundhed og forebyggelse fra 23. november 2007 til 23. februar 2010. I 2009 valgtenedlagde Jakob Axel Nielsen som minister for sundhed og forebyggelse,sundhedsminister atforbud forbydemod den euforiserende plante [[kratom]] og dens indholdsstoffer.<ref>[http://www.sum.dk/Aktuelt/Nyheder/Internationalt_samarbejde/2009/Marts/Forbud_mod_euforiserende_plante.aspx Forbud mod euforiserende plante og syv stoffer] sum.dk ([[Sundheds- og Ældreministeriet]]) 11-03-2009</ref>
