Secondo di cinque fratelli, Grisham è nato nel 1955 a Jonesboro, Arkansas, in una modesta famiglia del sud. Suo padre ha lavorato come operaio edile e coltivatore del cotone. Dopo essersi spostati spesso, la famiglia si è trasferita nel 1967 nella piccola città di Southaven, Mississippi. Consigliato dalla madre, il giovane Grisham divenne un avido lettore, influenzato particolarmente dal lavoro di John Steinbeck di cui ammirava la chiarezza.
Mentre studiava alla Mississippi State University, Grisham cominciò a tenere un diario, una pratica che successivamente lo ha aiutato nelle sue attività creative. Dopo aver conseguito la laurea in legge nel 1981, ha esercitato la professione di avvocato nella piccola città Southaven per quasi un decennio. Nel 1983 venne eletto per i Democratici alla Camera dei Rappresentanti del Mississippi, dove resterà fino al 1990 pur continuando la sua professione di avvocato.
Nel suo tempo libero, e come hobby, Grisham cominciò a lavorare al suo primo romanzo, nel quale esplorava cosa sarebbe accaduto se il padre di una ragazza stuprata avesse assassinato i suoi aggressori. Nel 1987, dopo tre anni di lavoro, la sua opera prima, "Il momento di uccidere", venne completata. Inizialmente rifiutata da diversi editori, venne infine accettata dalla Wynwood Press, che lo pubblicò nel giugno 1988 con una tiratura di sole 5.000 copie. Appena finito di scrivere "Il momento di uccidere", Grisham iniziò subito un nuovo romanzo.
Nonostante l'iniziale modesto successo, l'autore si dedica con passione alla stesura di una nuova storia, i cui diritti vengono poi venduti alla Paramount Pictures: "Il socio", avvincente avventura di un giovane avvocato coinvolto dall'FBI in una pericolosa indagine sulle relazioni tra la mafia e il suo studio legale, diventa immediatamente un caso editoriale e rimane in cima alle classifiche di vendita internazionali per molti mesi. I suoi romanzi sono definiti legal thriller, attingono molto alla sua esperienza di avvocato e sono stati oggetto di numerose versioni cinematografiche, come "Il rapporto Pelikan", "Il cliente" (il settimo romanzo più venduto del 1991), "L'appello", "L'uomo della pioggia", "La giuria".
Tratto da questo grande successo del 1996, è uscito sugli schermi l'omonimo film interpretato da Gene Hackman, Dustin Hoffman e John Cusack: ottava trasposizione cinematografica di un best-seller di Grisham. La rivista statunitense Publishers Weekly ha dichiarato Grisham: "Lo scrittore maggiormente venduto degli anni novanta", con un totale di 60.742.289 copie.