Черняховский родился в с. Оксанино Уманского уезда Киевской губернии (ныне Уманский район Черкасской области. Украина). С 1920 г. трудился ремонтным рабочим и подручным слесаря на станции Вапнярка, Винницкой области. Работал проводником железнодорожных грузов в государственной заготовительной конторе.
С 1924 г. в Советской Армии. С 1928 г. – служба в Украинском военном округе в 17-м корпусном артиллерийском полку, который дислоцировался в Виннице. В 1931 г. Иван Данилович поступил в Военно-техническую академию имени Ф. Э. Дзержинского в Ленинграде. В 1936 г. окончил Военную академию механизации и моторизации РККА. С 1936 г. – начальник штаба 2-го танкового батальона 8-й механизированной бригады, с июля 1937 г. – командир 1-го танкового батальона. С мая 1938 по июль 1940 г. майор Иван Черняховский служил в Гомеле. Здесь получил звание подполковника и был назначен командующим 9–м отдельным танковым полком Белорусского особого военного округа. С марта 1941 – командир танковой дивизии в Прибалтийском военном округе. В годы Великой Отечественной войны И. Черняховский – командир танковой и стрелковой дивизий, командующий 60-й армией, затем войсками Западного и 3-го Белорусского фронтов. Принимал участие в обороне Прибалтики, в Курской битве, в операции «Багратион». В ходе Восточно-Прусской операции 18.02.1945 смертельно ранен в районе г. Мельзак (г. Пененжно, Польша).
Похоронен в Вильнюсе. В 1992 г. прах Черняховского был перезахоронен в Москве на Новодевичьем кладбище.
Именем Ивана Даниловича в г. Гомеле названа улица.
