В 1890 году Андрей Петрович завершает обучение в Академии художеств и за полотно «Голгофа» («Снятие с креста») удостаивается звания классного художника первой степени. Вдохновляющими для него были традиции В. Д. Поленова — «Христос и грешница» глубоко впечатлила молодого художника. Однако картина не позволила получить Большую золотую медаль из-за отклонения от утвержденного эскиза. Работу приобрел П. М. Третьяков, а великий князь Владимир Александрович выделил художнику средства, полагающиеся медалистам, на двухгодичную командировку за границу.
Отказавшись от пенсионерской поездки, Андрей Петрович отправляется в путешествие по старым русским городам. В поездке он изучает архитектуру, иконопись и фрески, собирает старинные ткани, резьбу, музыкальные инструменты. Рябушкин большое место уделяет изучению литературных источников — летописей, «Записок о Московии» Герберштейна, трудов Забелина, Ключевского и других историков. Он вдохновляется музыкой Глинки, Даргомыжского, Мусоргского, Римского-Корсакова и сам играет на скрипке, гитаре, балалайке, импровизирует. Музыка помогала Рябушкину в работе над композицией, особенно исторической, создавая необходимое настроение. В письме от 24 февраля 1891 года, описывая сюжет картины «Потешные Петра I в кружале», художник просит своего друга по Академии художеств Илью Федоровича Тюменева написать музыкальный этюд на эту тему: «Я бы, разыгрывая на пианино... получаю историческую фантазию только от музыки, иначе невольно сбиваюсь на действительность».
«Потешные Петра I в кружале» экспонировались Товариществом передвижных художественных выставок, а в 1894 году к выставке передвижников Рябушкин представил картину «У чудотворной иконы» (1893). В 1900-х годах принимал участие в выставках объединений «Мир искусства» и Союза русских художников (1903-1904).
Картины «Московская улица XVII века в праздничный день» (1895), «Семья купца в XVII веке» (1896) и «Русские женщины XVII века в церкви» (1899) были отмечены на Всемирной выставке в Париже 1900 года.