Studiował 2 lata filologię polską na Uniwersytecie Warszawskim. W październiku 1939, założył wraz z kolegami jedną z pierwszych polskich organizacji konspiracyjnych Polską Ludową Akcję Niepodległościową (PLAN) - był jej szefem przez 2 miesiące. W marcu 1940 próbował przedostać się z Grodna na Litwę, ale wynajęci przez niego przemytnicy okazali się jednak być na usługach NKWD i Grudziński został aresztowany zaraz po opuszczeniu miasta. Umieszczono go w tamtejszym więzieniu, gdzie został szybko skazany na 5 lat pobytu w obozach. Następnie, poprzez więzienia w Witebsku, Leningradzie i Wołogdzie trafił do łagru w Jercewie. Wstrząsający opis rzeczywistości obozowej zawarł później w książce Inny świat. Udało mu się przyłączyć do armii gen. Andersa. Walczył m.in. pod Monte Cassino, za co otrzymał order Virtuti Militari.

W latach 1952 - 1955 pracował dla Radia Wolna Europa w Monachium. W 1955 r. osiadł na stałe w Neapolu. Był członkiem Stowarzyszenia Pisarzy Polskich. W roku 1990 został laureatem nagrody literackiej polskiego PEN Clubu im. J. Parandowskiego, w 2000 r. odebrał w Krakowie doktorat honoris causa Uniwersytetu Jagiellońskiego. W 1998 odznaczony Orderem Orła Białego.