C'est après avoir tenté sa chance sur la patinoire en tant que hockeyeur et sur les terrains de basket que Paul Johansson décide d'abandonner sa carrière sportive et de partir pour Hollywood.
La série Santa Barbara marque ses débuts d'acteur et lui sert de tremplin. Il apparaît par la suite dans de multiples productions telles que Parker Lewis ne perd jamais, Beverly Hills ou encore L'Immortelle. Les séries Dharma et Greg, ainsi que Le Drew Carey Show lui permettent aussi de se faire remarquer. Il devient alors l'un des personnages récurrents de Washington Police.
En 2003, Paul Johansson est engagé dans Les Frères Scott. Il y interprète depuis le personnage de Dan Scott, le père de Lucas et Nathan.
Sur le grand écran, il donne la réplique à Sally Field dans Soapdish. S'ensuivent diverses apparitions dans les films When the Party's Over (avec Sandra Bullock) ou encore She's So Lovely.
Il réalise en 2011 le film Atlas Shrugged: Part I, dans lequel il fait une apparition en tant que John Galt.
Il parle le français.