Це перший в Україні музей української марки. На його відкриття з Нью-Йорка прибув американець українського походження  Олександр Балабан, частина колекції якого і становить основу експозиції. Зокрема представлено екземпляри з лімітованих колекцій, які у світі існують тільки в кількох примірниках. Найстаріші марки, гашені в різних українських містах, датовані 1850 роком. Є конверт із поштовим штемпелем 1830 року. Тож  відвідувачі отримуватимуть нові знання про історію України та знаходитимуть підтвердження різним історичним подіям та фактам. Наприклад, цікаво бачити марки Ростова-на-Дону і Гомеля із зображенням тризуба. «Петро Перший знищив історію України, але забув знищити наш тризуб, який залишився на багатьох марках.  Цей символ є свідченням того, що історія нашої держави сягає часів Володимира Великого. Саме ми є спадкоємцями Русі», — впевнений Олександр Балабан та зауважує,  що нарешті здійснилася його мрія передати марки в Україну.  Утім, це лише початок, бо в експозиції  представлено лише один відсоток від його повної колекції, яка зберігається в США та в якій усі марки пов’язані з Україною, з її історією, традиціями та символами. «В Україні марок 1918 року мало, бо людей, які їх мали, переслідували. Тому марки вивозили за кордон — у Польщу, Німеччину, Америку, і там вони збереглися. Я спеціально не передавав свою колекцію раніше. Чекав, щоб Україна стала вільною і прийшла українська влада. Інакше старі комуністи цю колекцію знищили б», — сказав меценат.  Колекцію започаткував його батько Яків Балабан,  який народився в селі Писарівці на Вінниччині та був сотником Армії УНР. Він брав участь у  битві під Крутами, у Зимовому поході  1918 — 1919 років. Потім був змушений емігрувати в США, де переймався питаннями життя української громади. «Я був маленьким хлопчиком, коли довідався, як тато боровся за Україну. І тоді я більше почав розуміти про Україну і замислився, як я можу допомогти татові. Я скaзaв собі, що хочу мaти кожну мaрку Укрaїни», — розповів Олександр Балабан. Кількість марок, які містить його колекція, достеменно невідома, бо повну її каталогізацію не проведено, але приблизно зібрано понад 10 тисяч.  За оцінками американської асоціації філателістів, це найбільша колекція українських марок у світі і коштує вона мільйони доларів.

Знаковою подією назвав відкриття музею Вінницький міський голова Сергій Моргунов та щиро подякував Олександру Балабану і керівникові благодійного фонду «Музей української марки ім. Якова Балабана» Олександру Білецькому за ініціативу і співпрацю в реалізації  унікального проекту.