W 1873 r. ukończył wydział matematyczno-fizyczny na Uniwersytecie Moskiewskim. Po prawie trzech latach pobytu na zagranicznym stypendium naukowym w Heidelbergu i Berlinie powrócił do Moskwy, by zostać wykładowcą w tamtejszej szkole politechnicznej. W 1884 r. przybył do Warszawy, obejmując posadę wykładowcy fizyki. Jego zajęcia, poświęcone badaniu pola elektromagnetycznego, polaryzacji i elektrodynamiki, urozmaicone były pokazami naukowymi i eksperymentami. Sprawiło to, że Ziłowa ceniono za jego wiedzę. Jednakże antypolski kurs, któremu ten uczony hołdował, cyniczne wypowiedzi na temat kultury polskiej i polskiego języka czyniły zeń polonofoba.
Około 1900 r. został dziekanem wydziału matematyczno-fizycznego, a w 1904 r. rektorem uczelni. Na tym stanowisku wytrwał rok i w dobie rewolucji 1905 r. został zastąpiony o wiele bardziej układnym Jefimem F. Karskim. Po wyjeździe z Warszawy, do 1912 r. pracował w Kijowskim Okręgu Naukowym, gdzie doczekał emerytury.