Urodzony w okolicach Grodna, ukończył prawosławne Mińskie Seminarium Duchowne. Na początku lat osiemdziesiątych wstąpił do Instytutu Filologiczno-Historycznego w Nieżynie, gdzie wykrystalizowały się jego zainteresowania lingwistyczne, zwłaszcza pogranicza litewsko-białoruskiego.

 

W 1893 r. przeniósł się do Warszawy, gdzie rozpoczął pracę na UW. W 1894 r. został profesorem i wykładowcą języka staro-cerkiewno-słowiańskiego. Po kilku latach został dziekanem wydziału filologiczno-historycznego.

W dobie rewolucji 1905 r. carat nieco zliberalizował politykę wobec uczelni, wprowadzając zasadę wybieralności rektora. Karski był pierwszym wybranym, rosyjskim rektorem. Działał jednak w specyficznym czasie, kiedy na uczelni zawieszono zajęcia na czas nieokreślony.

 

Uniwersytet ponownie otwarto w 1908/1909, a Karski był jeszcze rektorem do 1910 r. Po opuszczeniu Warszawy w 1915 r. został członkiem Petersburskiej Akademii Nauk, a po zwycięstwie rewolucji w 1925 r. wstąpił do Akademii Nauk ZSRR.