Zsombolyai János 1961-ben diplomázott a Színház- és Filmművészeti Főiskola operatőr tanszakán Illés György tanítványaként, majd Bednai Nándor, Makk Károly és Mihályfi Imre rendezők oldalán dolgozva kezdte el kialakítani sajátos operatőri stílusát. 

Első önálló rendezői munkája a Kenguru volt 1975-ben, a nagysikerű filmnek operatőre is volt és a forgatókönyvet is ő írta. A fiatal teherautósofőr történetét elmesélő film a közönség és a szakma elismerését is kivívta, a korszak egyik legnézettebb filmje lett. Zsombolyai János rendezte a Kihajolni veszélyes, a Vámmentes házasság, A halálraítélt című játékfilmeket, A Queen Budapesten című koncertfilmet, a Kovács Éva story, a Székelykapu és a Pisztácia című tévéfilmeket is. 

Egyéni látásmódjára, fantáziadús ötleteire, hangulat- és atmoszféra teremtő képességére hamar felfigyeltek, így együtt dolgozhatott a kor szinte minden jelentős rendezőjével: Bacsó Péterrel, Gábor Pállal, Gaál Istvánnal, Kézdi-Kovács Zsolttal, Rényi Tamással, Sándor Pállal, Simó Sándorral és Szörény Rezsővel. Az eltérő rendezői stílusokhoz, elképzelésekhez mindig megtalálta a megfelelő operatőri technikákat. Jelentősebb filmjei operatőrként többek között a Szevasz, Vera, a Bohóc a falon, a Szeressétek Odor Emíliát, A tanú, A gyilkos a házban van, A legszebb férfikor, a Lányarcok tükörben, a Makra, a Pókháló, a Szikrázó lányok, a K. O., a Riasztólövés és a BUÉK. 

Zsombolyai János 1966 és 1975 között a Mafilm játékfilm-operatőre, 1975-től rendező-operatőr, 1988-tól a Mafilm Alkotói Iroda, 1995-től a Mafilm Média Center vezetője volt. 1965-től tanársegédként, 1974-től adjunktusként tanított a Színház- és Filmművészeti Főiskolán, ahol 1980-tól egyetemi docensként, 1997-től egyetemi tanárként folytatta az oktatást. 1992-től film- és tv-producer szakvezető, 1994-től a film főtanszak vezetője volt. Évtizedekig nevelte az utánpótlást, 2004-ben a főtanszak-vezetői székből ment nyugdíjba. 

Munkássága elismeréseként 1967-ben és 1972-ben Balázs Béla-díjat kapott, a filmszemle díjat 1968-ban és 1990-ben, a filmkritikusok díját 1968-ban és 1969-ben nyerte el. A montreali fesztivál nagydíját 1978-ban kapta meg, 1983-ban lett érdemes művész, a 2010-es Magyar Filmszemlén életműdíjat vehetett át. Életének 76. évében, vasárnap hunyt el a filmrendező, operatőr, érdemes művész, egyetemi tanár.