Giáo sư Nguyễn Đình Ngọc quê ở Phượng Vũ, Phượng Dực, Phú Xuyên, Hà Đông (nay thuộc Hà Nội).
Cách mạng Tháng Tám năm 1945 nổ ra, cha ông là y sĩ Đông Dương Nguyễn Đình Diệp, là Quân y xá trưởng Trung đoàn Vĩnh Phúc, đóng tại Phúc Yên, Vĩnh Phúc. Ông Nguyễn Đình Ngọc lúc đó làm liên lạc viên của trung đoàn. Đầu tháng 10/1947, quân Pháp mở trận càn lớn ở Đồng bằng Bắc Bộ, đã bắt được cha con ông.
Trên đường giải về Hà Nội, chúng đã thủ tiêu người cha ở gần cầu Đuống, còn ông Ngọc thì bị đưa về tra hỏi. Thấy ông còn nhỏ, không khai thác được gì, chúng buộc phải thả về. Gia đình ông ngày ấy ở số 121 phố Hàng Bạc (Hà Nội). Ông Ngọc và em trai học Trường Bưởi (Trường THPT Chu Văn An ngày nay).
