Le origini
Il suo esordio ufficiale avviene disegnando fumetti polizieschi e dell'orrore per la Atlas, la futura Marvel. In seguito si occupa anche di western e disegna diverse storie di Capitan America.
Nel 1957 passa alla National, la futura DC Comics, lavorando soprattutto nel settore delle storie rosa, e nel 1965 torna alla Marvel, inchiostrando The Avengers (I Vendicatori, in Italia, ndr.) e facendo le matite di Devil prima di occuparsi dell'Uomo Ragno, rinnovandolo radicalmente e trasformandolo non poco rispetto alla classica versione di Steve Ditko.
Nel 1966, infatti, Romita Sr. inizia la sua avventura quinquennale lavorando come redattore capo della Marvel per Stan Lee in «The Amazing Spider-Man». Fu durante il periodo di Romita come artista che Spider-Man superò I Fantastici Quattro per diventare il fumetto più venduto della Marvel, con l'Uomo-Ragno che divenne il volto dell'azienda.
Nel 1972, Romita divenne l'art director non ufficiale della Marvel, un ruolo che fu formalizzato un anno dopo. Addestrava i «Romita's Raiders», gli artisti interni che correggevano o sostituivano le pagine ritenute inutilizzabili, spesso senza credito. Supervisiona così i corsi per giovani disegnatori, crea il look dei nuovi personaggi Marvel, coordina la realizzazione di tutte le copertine della casa editrice e si occupa di alcuni progetti speciali. È in questo periodo che contribuisce al disegno di personaggi come Luke Cage, The Punisher (Il Punitore in italiano, ndr.) e Wolverine.
Divenuto direttore artistico della Marvel all'inizio degli anni Settanta, Romita rallenta la sua produzione fumettistica anche se dall'inizio del 1977 disegna le strisce quotidiane di Spider-Man (l'Uomo Ragno).
Ha lavorato come direttore artistico della Marvel per più di due decenni, completando anche l'artwork per una serie di titoli, tra cui la copertina di The Amazing Spider-Man Annual No. 21 del 1987, in cui l'alter ego di Spider-Man Peter Parker e Mary Jane finalmente legano il nodo.