Музей был открыт в 1899 году по инициативе Одесского общества изящных искусств, основанного в 1865 году. Начало музейному собранию проложили картины, переданные Петербургской Академией художеств.
Экспозиция музея размещена в 26 залах на двух этажах. Она построена в историко-хронологической последовательности с соблюдением монографического принципа показа произведений каждого автора. Экспозиция открывается замечательными творениями иконописцев XVI-XVІІІ веков и полными своеобразия ранними светскими портретами XVІІ века. С живописью XVІІІ – начала XIX века знакомят портреты, созданные лучшими мастерами той эпохи, такими как Д.Левицкий, В.Боровиковский, О.Кипренский, В.Тропинин и другими. Характерными и значительными произведениями представлена академическая живопись. Интересна и многочисленна коллекция полотен прославленного мариниста И.Айвазовского. Музей располагает большим и представительным собранием произведений художников демократического направления в отечественном искусстве второй половины XIX века, прежде всего, членов Товарищества передвижных художественных выставок.