Инициатором его создания и первым хранителем был учитель 3-го начального мужского училища И.А. Овцынов (при деятельной помощи Н.С. Скрынникова, М.С. Нумерова, К.С. Овцыновой). В 1928 году музей был преобразован в окружной краеведческий музей, а с упразднением Борисоглебского округа стал именоваться городским краеведческим музеем.
С 1985 года музей разместился на первом этаже высотного здания, выходящего главным фасадом на центральную площадь города. После полной реэкспозиции состоялось торжественное открытие музея (1988). На площади более 1000 м2 представлены отделы: природы, археологии и средневековья, истории XIX века, истории современного общества. Демонстрируются две постоянно действующие выставки: старинного оружия из завещанной родному городу коллекции К.Н. Павловского и «Декабристы - первые борцы за свободу».
Отдел изобразительного искусства стал основой для организации Картинной галереи имени П.И. Шолохова в бывшем купеческом особняке; ее открытие состоялось в мае 2001 года.
В настоящее время Борисоглебский историко-художественный музей является одним из наиболее крупных в регионе музеев: в нем имеется более 40 000 единиц хранения. За последние годы накоплен значительный материал из сарматских и половецких захоронений. В состав музейного собрания входят предметы дворянского и купеческого быта (мелкая пластика, посуда, светильники, мебель), печатные издания XVIII-XIX веков, образцы старинной русской одежды (в частности, боярский костюм начала XVIII века), крестьянская утварь. Особенную ценность представляют предметы из бывшего имения князей Волконских (копии античных скульптур, фарфор, светильники, книги и другие экспонаты). Имеются нумизматическая коллекция, собрание различных документов, коллекции личных вещей В.П. Кина, Е.Н. Павловского, М.И. Неделина, А.Н. Прохорова. Фонд научной библиотеки музея насчитывает более 20 000 книг.
