Egy középosztálybéli varsói család gyermeke volt, az egyetemen lengyel filológiát hallgatott. Tanulmányait félbehagyva újságírónak állt, egy katolikus hetilap munkatársa, majd irodalmi rovatvezetője lett. Ebben az újságban jelentek meg első művei, majd 1938-ban A szív harmóniája című regénye is. Ezzel elnyerte a Lengyel Irodalmi Akadémia díját, és a legtehetségesebb katolikus írónak, a „lengyel Mauriacnak” kiáltották ki.

A II. világháború alatt részt vett az ellenállási mozgalomban, a háború után az új rendszer iránti bizalommal látott munkához. 1948-ban írta meg a lengyel emigránsok által történelemhamisításnak minősített, de Andrzej Wajda 1958-as kitűnő filmadaptációjának köszönhetően világhírűvé vált regényét, a Hamu és gyémántot. Wajda később feldolgozta Andrzejewski A Paradicsom kapui és Nagyhét Varsóban című művét is, illetve az író készítette az Ártatlan varázslók forgatókönyvét, de ezek egyike sem vetekedhetett az első közös mű sikerével.

Andrzejewski 1949-ben a lengyel írószövetség elnöke lett, szerkesztette a Przegląd kulturalny című hetilapot, 1952 és 1957 között pedig parlamenti képviselőként politikai szerepet is vállalt. Illúziói azonban szertefoszlottak, 1957-ben a cenzúra elleni tiltakozásul kilépett az állampártból, a Lengyel Egyesült Munkáspártból. Kritikai mondandóját történelmi keretbe ágyazva írta meg 1957-ben a Sötétség borítja a földet, két évvel később pedig A Paradicsom kapui című regényt, majd 1963-ban fejezte be a Jő, hegyeken szökellve című munkáját, amely tartalmában és stílusában is különbözik addigi műveitől.

1964-től a szólásszabadság melletti kiállása miatt egyre több konfliktusa támadt a hatalommal, és amikor 1968-ban Nyugaton publikált nyílt levélben ítélte el Lengyelország részvételét Csehszlovákia megszállásában, többéves publikációs tilalommal sújtották. Az 1970-es évektől a kultúrpolitika amolyan „adok is meg nem is” módon igyekezett újra megnyerni: hetenként közölhette tárcáit, de sok éven át írt és alakítgatott, alkotói nézeteit összefoglaló Zúzalék című regénye 1979-ben csak szamizdatként juthatott el az olvasókhoz.

Andrzejewski végleg ellenzékivé vált, a rendszerrel való ideológiai leszámolást munkásságában az önmagával való könyörtelen elszámolás követte. Erről tanúskodik az egyén és a hatalom, az egyén és a hit kérdésköreit boncolgató Prométheusz című drámája, valamint bibliai tárgyú, Már rád tört a vég című kisregénye. 1976-ban elvállalta a Zapis földalatti folyóirat szerkesztését, alapító tagja volt a Munkásvédelmi Bizottságnak (KOR), majd támogatta a Szolidaritást.

1981-es Senkise című regényének főhősével, a magára maradt Odüsszeusszal az író is végleg elbúcsúzott olvasóitól; két évvel később, 1983. április 19-én szülővárosában halt meg.