Nato e cresciuto a Houston, Texas, figlio di Milton Joseph "Mickey/Jack" Parsons, deceduto in un incidente d'auto nel 2001, e dell'insegnante Judy Ann McKnight. Ha una sorella, Julie, che fa l'insegnante e che l'ha reso zio. Decide fin da piccolo di diventare attore. Studia all'Università di Houston (laurea triennale), dove diviene un membro della confraternita Pi Kappa Alpha. Ha poi conseguito la laurea specialistica (Master Degree) presso l'Università di San Diego, dove si esibiva all'Old School Theatre. Si trasferisce a New York per continuare la sua carriera di attore. Alcuni dei ruoli più importanti da lui interpretati includono l'apparizione come personaggio regolare nella serie Giudice Amy e un'apparizione speciale nella serie Ed. In seguito partecipa a numerosi film, quali La mia vita a Garden State, Heights, On the Road with Judas, Gardener of Eden - Il giustiziere senza legge, 10 cose di noi e Scuola per canaglie. Durante gli studi all'Università di Houston, ha contribuito ad aiutare la Infernal Bridegroom Productions, compagnia teatrale, recitando in varie produzioni messe in atto dalla stessa. Grazie al programma Chi ti credi di essere? Jim ricostruisce il ramo paterno del suo albero genealogico scoprendo di avere antenati in Louisiana e in Francia, motivo per cui sta prendendo lezioni di francese. Jim Parsons è anche un grande appassionato di sport nonostante non ne pratichi nessuno. In particolare di pallacanestro, tifa per gli Houston Rockets ed è un grande fan di Dwight Howard. Ha anche una grande passione per il tennis: è un grande fan di Roger Federer ed è amico di penna di Eugenie Bouchard. Nel 2014, insieme agli altri due co-protagonisti Johnny Galecki e Kaley Cuoco della sitcom statunitense The Big Bang Theory, diventa l'attore televisivo più pagato di sempre negli Stati Uniti raggiungendo il milione di dollari a puntata. Nel marzo 2015 riceve una stella sulla Hollywood Walk of Fame di Los Angeles, e viene nominato dalla rivista Forbes, l'attore più pagato della TV, con un guadagno di 29 milioni di dollari.