Ο Τζίλενχαλ ήταν φιλόδοξος από τα πρώτα του βήματα. Στα 21 του πήγε στο Λονδίνο για να κάνει θέατρο. Αισθανόταν ότι «έτσι έπρεπε να κάνει». Υποδύθηκε αρκετούς ρόλους και έπαιξε και στο δεύτερο μέρος των Star Wars. Ο σκηνοθέτης Λόρενς Μποσγουέλ, δήλωσε από νωρίς εντυπωσιασμένος μαζί του. «Η αίσθησή μου είναι ότι είναι σκληρός, τολμηρός, φιλόδοξος και με τις κατάλληλες δεξιότητες για να ξεχωρίσει». Στην ηλικία των 36 αναρωτιέται κανείς εάν ο Τζίλενχαλ αναλαμβάνει ρόλους και η επιθυμία του για μεταμόρφωση έρχεται στην πορεία ή αν τους αναλαμβάνει ακριβώς επειδή τον προκαλούν να μεταμορφωθεί. Ο ηθοποιός δηλώνει ότι «γοητεύομαι από το τι σημαίνει να είσαι άνθρωπος. Και ως άνθρωπος, η σωματική κατάσταση είναι πολύ σημαντική. Έχω σπρώξει τον εαυτό μου στα όρια. Με τον ‘Νυχτερινό ανταποκριτή’, αναζητούσα την φυσική εκείνη κατάσταση στην οποία θα έφτανα μέσω της στέρησης. Δεν είχε να κάνει με την απώλεια βάρους αυτή καθεαυτή. Είχε να κάνει με το τι συμβαίνει όταν στερείσαι».
Ο Τζίλενχαλ γεννήθηκε στο Λος Άντζελες της Καλιφόρνια και είναι ο γιος του σκηνοθέτη Στέφεν Τζίλενχαλ και της σεναριογράφου Ναόμι Φόνερ. Ο πατέρας του Τζίλενχαλ είναι απόγονος της Σουηδικής αριστοκρατικής οικογένειας Γύλενχολ. Η μητέρα του προέρχεται από μία Εβραϊκή οικογένεια από την Νέα Υόρκη και όπως είχε πει και ο ίδιος "Νοιώθω πάνω απ' όλα Εβραίος". Το "Μπαρ Μίτσβα" του Τζέικ έγινε σε ένα καταφύγιο με άστεγους γιατί οι γονείς του ήθελαν να νοιώθει ευγνώμων για την "άνετη" ζωή που είχαν. Οι γονείς του επίσης τον πίεζαν να πιάσει καλοκαιρινές δουλείες και να βγάζει το χαρτζιλίκι του μόνος του. Δούλεψε ως ναυαγοσώστης και λαντζιέρης σε ένα μαγαζί που είχε ένας φίλος των γονιών του. Ο Τζέικ σπούδασε ανατολικές θρησκείες και φιλοσοφία στο πανεπιστήμιο της Κολούμπια για δύο χρόνια, μέχρι το 2000. Όμως τότε το παράτησε για να επικεντρωθεί πιο πολύ στην καριέρα του ως ηθοποιός. Βέβαια ο ίδιος έχει πει: Θα ήθελα να τελειώσω και να πάρω το πτυχίο μου. Στην παιδική του ηλικία, λόγο της δουλείας των γονιών του, ο Τζέικ είχε λάβει καλλιτεχνικά ερεθίσματα. Στην ηλικία των 11 έκανε την πρώτη του εμφάνιση στην ταινία City Slickers (1991). Οι γονείς του όμως δεν τον άφησαν να συμμετέχει στην ταινία The migthy ducks γιατί θα έπρεπε να φύγει από το σπίτι για δύο μήνες. Στα επόμενα χρόνια οι γονείς του τον άφηναν να πηγαίνει σε οντισιόν αλλά όταν έπαιρνε τους ρόλους δεν τον άφηναν να συμμετέχει στις ταινίες. Βέβαια του επιτράπηκε να πάρει μέρος σε πολλές ταινίες του πατέρα του. Ο Τζίλενχαλ εμφανίστηκε στην ταινία A Dangerous Woman (1993) (με την αδερφή του Μάγκι), στο Bop Gun και στο Homegrown (1998).
Ο πρώτος πρωταγωνιστικός ρόλος του Τζίλενχαλ ήταν στο October Sky που υποδύθηκε έναν νεαρό άντρα από την Δυτική Βιρτζίνια που προσπαθούσε να κερδίσει μια υποτροφία. Η ταινία κέρδισε $32 χιλιάδες και το "Sacramento New" υποστήριξε ότι ήταν "Ο ρόλος που ξεκίνησε την καριέρα του Τζίλενχαλ." Το Donnie Darko, ήταν η δεύτερη μεγάλη ταινία του Τζίλενχαλ, δεν ήταν μεγάλη επιτυχία στα box-office όταν πρωτοβγήκε το 2000, αλλά τελικά έγινε αγαπημένο του κοινού. Μετά την επιτυχία του Donnie Darko, ο επόμενος ρόλος του Τζέικ ήταν ο πρωταγωνιστικός στο Highway (2002), μία ταινία που και οι κριτικοί αλλά και το κοινό αγνόησαν τελείως. Ο Τζίλενχαλ γνώρισε μεγαλύτερη επιτυχία στην ταινία του με την Τζένιφερ Άνιστον το Good Girl και στο Lovely and Amazing με την Κάθριν Κίνερ. Και στις δύο ταινίες παίζει έναν ασταθή χαρακτήρα που ξεκινάει μια παράνομη σχέση με μία μεγαλύτερη γυναίκα. Ο Τζίλενχαλ στην συνέχεια θα χαρακτηρίσει αυτές του τις ταινίες ως "εφηβικές ανοησίες". Μετά από μια σειρά με λίγες ακόμα επιτυχίες (άλλες μικρότερες και άλλες μεγαλύτερες) ο Τζίλενχαλ έκανε το ντεμπούτο του στο θέατρο. Έπαιξε στην σκηνή του Λονδίνου στο έργο του Κένεθ Λόνεργκαν "This is our youth". Ο Τζίλενχαλ είχε πει: Κάθε ηθοποιός που θαυμάζω έχει κάνει θέατρο, άρα έπρεπε να το δοκιμάσω. Το έργο, που πήρε εξαιρετικές κριτικές στο Μπρόντγουει, έπαιξε για οχτώ εβδομάδες.
Το 2005 ήταν μια πολύ καλή χρονιά για τον Τζίλενχαλ, καθώς πρωταγωνίστησε στις ταινίες Proof, Jarhead και Brokeback Mountain που πήραν πάρα πολύ καλές κριτικές. Επίσης πέρασε από οντισιόν για τον ρόλο του Μπάτμαν και έφτασε πολύ κοντά στο να τον πάρει αλλά τελικά διάλεξαν για τον ρόλο τον Κρίστιαν Μπέιλ. Στο Brokeback Mountain ο Τζίλενχαλ και ο Χιθ Λέτζερ παίζουν δύο νεαρούς άντρες που γνωρίζονται ως κάουμποϊ και συνάπτουν σχέση που ξεκινάει από το καλοκαίρι του 1963 και συνεχίζει μέχρι τον θάνατο του χαρακτήρα του Τζίλενχαλ το 1983. Η ταινία συχνά αποκαλείται από τα media ως "η ταινία με τους γκέι καουμπόηδες". Το Brokeback Μountain κέρδισε πολλά βραβεία ανάμεσα στα οποία ήταν τέσσερις χρυσές σφαίρες, τέσσερα βραβεία BAFTA και τρία Όσκαρ. Ο Τζίλενχαλ προτάθηκε για Όσκαρ Β' ανδρικού ρόλου άλλα τελικά το κέρδισε ο Τζορτζ Κλούνεϊ στην θέση του. Ο Τζίλενχαλ επίσης κέρδισε το βραβείο BAFTA για Β' ανδρικό ρόλο. Το 2007, ο Τζίλενχαλ πρωταγωνίστησε στην ταινία Zodiac του Ντέιβιντ Φίντσερ, που βασίστηκε σε αληθινή ιστορία. Έπαιξε τον Ρόμπερτ Γκρέισμιθ, έναν καρτουνίστα από το Σαν Φρανσίσκο, που είχε πάθει ψύχωση με τον serial killer που άκουγε στο ψευδώνυμο Zodiac. Στην συνέχεια έπαιξε με την Μέριλ Στριπ, τον Άλαν Άρκιν και την Ρις Γουίδερσπουν στην ταινία Rendition, ένα πολιτικό θρίλερ. Το 2009, εμφανίστηκε με τον Τόμπι Μαγκουάιρ και την Νάταλι Πόρτμαν στην ταινία Brothers. Το 2010 ξανασυνεργάστηκε με την Αν Χάθαγουεϊ στη δραματική κομεντί Αγάπη Σαν Ναρκωτικό. Για την ερμηνεία του έλαβε υποψηφιότητα για Χρυσή Σφαίρα α' ανδρικού ρόλου. Το 2014 πρωταγωνίστησε στην ταινία Νυχτερινός Ανταποκριτής, την επόμενη χρονιά συμμετείχε στο Έβερεστ και η τελευταία ταινία του που κυκλοφορεί είναι η νέα ταινία του Τομ Φορντ, Νυχτόβια Πλάσματα.
Παγκοσμίως ο Τζίλενχαλ είναι sex symbol και το περιοδικό "People" τον έχει ονομάσει "Έναν από τους 50 πιο όμορφους ανθρώπους" το 2006. Επίσης, στο ίδιο περιοδικό, τον ονόμασαν "Τον πιο καυτό εργένη του 2006." Το Δεκέμβριο του 2006 ο Τζίλενχαλ και η αδερφή του Μάγκι ξέφυγαν από μια φωτιά που κατέστρεψε το Manka's, ένα διάσημο θέρετρο στο οποίο έκαναν διακοπές εκείνη την εποχή. Είναι νονός της Ματίλντα Ρόουζ Λέτζερ (γεννημένη τον Οκτώβριο 28, 2005), κόρη του Χιθ Λέτζερ και της Μισέλ Γουίλιαμς, συμπρωταγωνιστές του στο Brokeback Mountain. Ο Τζίλενχαλ έβγαινε με την ηθοποιό Κίρστεν Ντανστ την οποία γνώρισε μέσο της αδερφής του, και ήταν μαζί για περίπου δύο χρόνια. Στην συνέχεια έβγαινε με την συμπρωταγωνίστριά του απο την ταινία Rendition Ρις Γουίδερσπουν. Η σχέση τους κράτησε από τις αρχές του 2007 μέχρι τα τέλη του 2009. Έβγαιναν συχνά φήμες ότι χώριζαν και εκείνοι συνέχιζαν να τις αρνούνται αλλά τελικά μετά από λίγο καιρό επισημοποίησαν τον χωρισμό τους. Το αγαπημένο του βιβλίο είναι το "To kill a Mockinbird" και ονόμασε ένα από τα δύο του σκυλιά με το όνομα του χαρακτήρα από αυτό το βιβλίο (Boo). Άλλες σχέσεις του αυτή με την νεαρή τραγουδίστρια την κάουντρι μουσικής Τέιλορ Σουίφτ, η σχέση του με το μοντέλο Αλίσα Μίλλερ, με την Βραζιλιάνα μοντέλα Ιζαμπέλ Γκουλάρτ, με τη Γαλλίδα ηθοποιό Λέα ΣεΪντού.