В 1136 году новгородский монах Кирик написал математико-астрономическое сочинение с подробным расчётом даты сотворения мира. Полное наименование его сочинения таково: «Кирика диакона и доместика Новгородскаго Антониева монастыря учение им-же ведати человеку числа всех лет». Помимо хронологических расчётов, Кирик привёл пример геометрической прогрессии, возникающей от деления суток на всё более мелкие доли; на одной миллионной Кирик остановился, заявив, что «более сего не бывает».

После монгольского нашествия научное развитие России затормозилось. Конфликты с католическими соседями вызвали изоляцию русских княжеств от западной культуры, а связь с единоверной Византией была затруднена. Грамотность даже среди духовенства, где она требовалась по уставу, была удручающе низкой.

Единственной задачей, выходящей за рамки хозяйственных потребностей, был расчёт даты православной Пасхи, требующий незаурядных познаний в астрономии и математике. В XV веке пришлось решать сложную церковно-государственную проблему: ранее составленные в 1352 году (при Василии Калике, архиепископе Новгородском) пасхальные таблицы на 1360—1492 годы заканчивались, и во всей Руси не нашлось человека, способного произвести нужные расчеты, а Византии более не существовало. По неподтверждённым сведениям, даже пришлось организовать специальную делегацию, возглавленную образованным новгородским архиепископом Геннадием Гонзовым, которая отправилась в Рим за консультациями. Вояж закончился успешно, делегаты привезли таблицы пасхалий на 70 лет вперед и методику её составления. Позже, в 1539 году, при архиепископе Новгородском Макарии, была составлена пасхалия на следующую тысячу лет.

В XVI—XVII веках государство укрепилось, и положение стало меняться. Потребности экономики и армии, особенно артиллерии, настоятельно требовали повысить уровень образования, в том числе математического. В Москве стали селиться приглашённые иностранные специалисты, были переведены на русский популярные западные руководства по прикладным наукам и математике — в первую очередь арифметике и геометрии. Правда, не всегда эти руководства были надлежащего качества. Чудом уцелевший «Устав ратных дел» начала XVII века содержит несколько задач триангуляции на местности, изложенных довольно смутно. Другое дошедшее до нас с тех времён руководство, «Книга сошного письма», посвящена задачам землемерия. Многие приведенные в ней правила вычисления площадей содержат грубые ошибки. Например. чтобы вычислить площадь треугольника, предписывается умножить половину меньшей стороны на бо́льшую; вероятно, треугольник считался прямоугольным, а бо́льшая сторона подразумевала бо́льший из катетов. При вычислении объёма цилиндра предполагалось, что π = 3.

Первая высшая школа — духовная академия — открылась в Киеве (тогда ещё польском) в начале XVII века. Спустя полвека и в Москве появилась Славяно-греко-латинская академия (1687). В ней учились Л. Ф. Магницкий, М. В. Ломоносов и другие научные пионеры России. Впрочем, математику в Москве поначалу не преподавали, а в Киеве ограничивались начальными сведениями.

Ко времени петровских реформ Россия располагала рукописными учебниками арифметики, ориентированными чаще всего на русские счёты. В отличие от аналогов, русские счёты были ориентированы на десятичную арифметику (в китайском суаньпань ещё были заметны следы старинного счёта пятёрками). Конструкция счётов менялась с изменением налоговой системы, современный вид они приняли в XVII веке. После неудачного наполеоновского похода русские счёты попали во Францию, где под именем буйе получили распространение как очень полезное школьное пособие для обучения арифметике [1].

Петровские реформы, XVIII век
С началом книгопечатания в России стали выпускаться и математические сочинения. Первое из них было отпечатано в 1682 году в Москве и называлось «Считание удобное, которым всякий человек купующий или продающий, зело удобно изыскати может, число всякие вещи». Это, собственно, сборник таблиц умножения, до . В ней употребляется ещё славянские цифры [2]. Второе издание (1714, Петербург) напечатано уже гражданским шрифтом и индийскими цифрами. Знаменательно, что первое издание спросу почти не имело, а второе разошлось заметным для того времени тиражом более 700 экземпляров [3].

 
Титульный и первый листы «Арифметики» МагницкогоВ 1701 году императорским указом была учреждена в Сухаревой башне математически-навигацкая школа, где преподавал Л. Ф. Магницкий. По поручению Петра I он написал (на церковно-славянском) известный учебник арифметики (1703), а позже издавал навигационные и логарифмические таблицы. В отличие от вышеописанных предшественников, учебник Магницкого для того времени был исключительно добротным и содержательным. Автор тщательно отобрал всё лучшее, что было в существовавших тогда учебниках, и изложил материал ясно, с многочисленными примерами и пояснениями. Несколько поколений в России обучались математике по этой книге; Ломоносов цитировал её наизусть и называл «вратами учёности».

Кроме собственно арифметики, учебник Магницкого содержал материал по алгебре, геометрии, тригонометрии, метеорологии, астрономии и навигации. Впервые на русском языке появились квадратные и биквадратные уравнения, прогрессии, тригонометрические функции и многое другое. Занятно, что хотя в книге используются только арабские цифры, однако её листы пронумерованы по старой славянской системе.

В 1715 году навигацкая школа была переименована в Морскую академию и переведена в Петербург. Одновременно Пётр распорядился разослать в губернии по два выпускника этой школы, освоивших геометрию и географию, с целью создать там школы «для науки молодых ребяток из всяких чинов людей». Эти школы получили название цифирных, так как особое внимание в них уделяли счёту, а также геометрии. Любопытно, что зачастую простые горожане охотнее отдавали детей в обучение, чем дворяне. Для духовенства, по традиции наследственного, были организованы отдельные епархиальные школы, а в армии — гарнизонные. Привычным стимулом обучения повсюду была розга.

Все эти меры привели к тому, что число образованных людей в России стало быстро расти.

Высшая математика поначалу не вызвала в России интереса, даже Ломоносов ею не владел. Но положение вскоре изменилось и здесь. В 1725 году была учреждена Петербургская академия наук, куда пригласили, в числе прочих, крупнейших математиков Европы — Эйлера и Даниила Бернулли. Первое время профессоров было больше, чем студентов, и они читали лекции друг другу.

Присутствие в Академии такого научного колосса, как Эйлер, сказалось быстро. Появился первый русский научный журнал: «Комментарии Санкт-Петербургской Академии». Начали выходить в свет не только русские переводы европейских учебников и классических монографий, но и оригинальные труды. Эйлер вполне освоил русский язык и часть своих трудов, в первую очередь учебного характера, издавал на русском — в ряде случаев они выходили раньше, чем их варианты на латинском или немецком.

1755: по инициативе Ломоносова появился Императорский Московский университет, и при нём две гимназии. В 1760 году открылась кафедра математики, однако из-за отсутствия квалифицированных кадров лекции по высшей математике были включены в курс только в начале XIX века.

Первыми академиками-математиками России стали С. К. Котельников, В. И. Висковатов и С. Е. Гурьев. Первые двое ничем особенным не прославились, кроме составления и перевода учебников, а также неустанного труда по подготовке научной смены. Гурьев опубликовал ряд значительных работ по прикладной математике и геометрии. Хотя научный уровень этих академиков ещё не достигал «европейских стандартов», но педагогами они были добросовестными, и следующее поколение российских учёных оправдало их надежды.

Итогом усилий по развитию российской математики в XVIII века можно считать написанный Т. Ф. Осиповским (1801) содержательный «Курс математики» в 4 томах, выдержавший три издания.

XIX век
Мощным толчком к развитию российской науки послужили реформы М. М. Сперанского. В начале XIX в. было создано Министерство народного просвещения, возникли учебные округа, и гимназии стали открываться во всех крупных городах России. При этом содержание курса математики было довольно обширным — алгебра, тригонометрия, приложения к физике и др.

Начали открываться новые университеты — в Казани и Харькове (1804), в Петербурге (1819), в Киеве (1834). Все они в обязательном порядке имели физико-математический факультет.

В XIX веке молодая российская математика уже выдвинула учёных мирового уровня.

Михаил Васильевич Остроградский разрабатывал преимущественно прикладной математический анализ. В его работах исследуется распространение тепла, волновое уравнение, теория упругости, электромагнетизм. Занимался также теорией чисел. Академик пяти мировых академий.
Николай Иванович Лобачевский прославился своей самоотверженной борьбой против догмата евклидовости пространства. Он построил геометрию Лобачевского и глубоко исследовал её необычные свойства.
Виктор Яковлевич Буняковский — чрезвычайно разносторонний математик, изобретатель, признанный авторитет по теории чисел и теории вероятностей. Автор фундаментального труда «Основания математической теории вероятностей».
Пафнутий Львович Чебышёв, выдающийся русский математик-универсал. Он сделал множество открытий в самых разных, далёких друг от друга, областях математики — теории чисел, теории вероятностей, теории приближения функций. Учитель А. М. Ляпунова и А. А. Маркова.
Андрей Андреевич Марков. Прославился первоклассными работами по теории вероятностей, однако получил выдающиеся результаты и в других областях — теории чисел и математическом анализе.