آقای سیف الدوله که نوه فتحعلی شاه بوده تصمیم می‌گیره پارک جنگی سیفیه رو برای تفریح خودش و خونواده‌اش بسازه. ایشون برای ساخت این باغ کم نمی‌ذاره و از مهندسین ایتالیایی برای طراحی و ساخت این باغ کمک می‌گیره. البته طراحی این پارک کاملا شبیه به معماری باغ‌های ایرانی قبل از اسلام و دوران هخامنشیان هست. سال 1304 جناب سیف الدوله این باغ رو به عنوان پارک به مردم ملایر هدیه می‌کنه. این پارک در دامنه کوه گرمه قرار داره و جزو قدیمی‌ترین پارک‌های ایران محسوب میشه. مساحت این پارک حدود 10 هکتار هست. آب مورد نیاز این پارک قدیمی رو یزدی‌ها از طریق یک قنات که در فاصله 8 کیلومتری پارک هست، به محوطه داخل پارک کشیدن.
حوضچه‌، آبنما، جنگل مصنوعی و مسجد هم در این پارک پیدا میشه. این پارک برج و باروهای قدیمی و زیادی داشته که با حمله اشرار خراب شدن و فقط یکی از اون‌ها باقی مونده. مقبره سیف الدوله، بانی این پارک هم در ضلع شرقی این پارک قرار گرفته و پروژه بزرگ بام ملایر هم نزدیک این پارک در حال انجام هست.