Параллельно с развитием университетской науки развивалась и Академия наук БССР. Начала активно создаваться материально-техническая база науки, интенсивно готовились научные кадры, определялись новые перспективные научные направления. Авторитет науки в те годы был очень высок, а сама научная деятельность характеризовалась свободой творческого поиска, желанием ученых получить признание своих коллег как на всесоюзном, так и на международном уровнях. БССР стремительно развивалась. Создавались новые производства, строились новые города. Создавались новые научные центры.
17 января 1955 года был создан Институт физики и математики Академии наук БССР – первый в республике научно-исследовательский центр физико-математического профиля.
В 1959 году он был преобразован в два самостоятельных учреждения: Институт физики и Институт математики и вычислительной техники. Ключевую роль в организации и развитии Института физики сыграли выдающиеся учёные А. Н. Севченко (первый директор института), Б. И. Степанов (директор Института физики с 1957 по 1985 гг.), М. А. Ельяшевич, приглашённые в Минск из Государственного оптического института (г. Ленинград), и белорусские физики Н. А. Борисевич и Ф. И. Фёдоров.
Директором Института математики был назначен академик Н. П. Еругин. Если во время создания Института математики в нем работало 4 доктора и 3 кандидата наук, то уже в 1984 году здесь работало 14 докторов и 65 кандидатов наук, подготовлено 11 докторов и 150 кандидатов наук.
Основными научными направлениями деятельности института были алгебра и теория чисел, алгебраическая геометрия, дифференциальные уравнения, вычислительная математика, математическая кибернетика, математическая статистика, математическое обеспечение электронных вычислительных машин. Институт занимал одно из ведущих мест в ряде направлений современной математической науки в СССР.
В институте работали такие выдающиеся математики, как лауреат Государственной премии СССР, заслуженный деятель науки БССР, Герой Социалистического Труда, академик АН БССР Н. П. Еругин (директор института со дня его основания до 1977 года); лауреат Ленинской премии, заслуженный деятель науки БССР, академик АН БССР В. П. Платонов (директор института с 1977 по 1992 гг.); лауреат Государственной премии СССР, академик АН БССР Е. А. Барбашин; лауреаты Государственных премий БССР, заслуженные деятели науки БССР, академики АН БССР В. И. Крылов и Д. А. Супруненко; заслуженный деятель науки БССР, академик АН БССР С. А. Чунихин; члены-корреспонденты АН БССР Н. А. Изобов и В. Г. Спринджук.
Позже академиками АН БССР были избраны В. Г. Спринджук, лауреаты Государственной премии Республики Беларусь И. В. Гайшун (директор института с 1992 по 2018 гг.) и Н. А. Изобов, членами-корреспондентами – Е. А. Иванов, Э. И. Грудо, Л. А. Янович, Л. А. Шеметков, Ф. М. Кириллова, В. В. Гороховик.
Численность сотрудников Института математики на начало 2019 года составляло 94 человека, из них – 53 научных работника, в том числе 18 докторов и 29 кандидатов наук.