Cikal bakal berdirinya MAN 2 Pati adalah berawal dari :
1. Pada tanggal 1 Agustus 1965 beridirlah Lembaga Pendidikan dengan nama Pendidikan Guru Agama (PGA) NU di Tayu Kab. Pati
2. Pada saat tersebut ada ketentuan dari Pemerintah RI, bahwa nama lembaga pendidikan tidak boleh menggunakan nama organisasi politik, kemudian PGA NU berudah menjadi Pendidikan Guru Agama Islam (PGAI) Tayu Kab. Pati.
3. Pada tahun 1979 ada Peraturan Menteri Agama RI tentang penghapusan PGA yang berstatus swasta, maka pada saat itu berdiri Yayasan Perguruan Islam Al Huda (PIA) Tayu yang mengelola Madrash Tsanawiyah dan Madrasah Aliyah.
4. Mulai tahun pelajaran 1982/1983 Madrasah Aliyah Perguruan Islam Al Huda (PIA) Tayu berubah status menjadi Madrasah Aliyah Negeri (MAN) Semarang Filial Tayu Kab. Pati

5. Sesuai dengan Keputusan Menteri Agama RI Nomor : 515 A Tahun 1995 tanggal 25 Nopember 1995, MAN Semarang Filial Tayu berubah status Penegerian menjadi Madrash Aliyah Negeri (MAN) 2 Pati.

VISI

Unggul dalam ilmu pengetahuan dan teknologi, mantap dalam iman dan taqwa, serta mandiri.

MISI

1. Melaksanakan proses pembelajaran secara professional dan berkualitas
2. Mampu berkompetisi sesuai dengan perkembangan ilmu pengetahuan dan teknologi
3. Menumbuhkembangkan semangat penghayatan dan pengamalan ajaran Islam dalam kehidupan sehari-hari
4. Memfasilitasi pelaksanaan berbagai kegiatan ketrampilan dan kecakapan hidup

TUJUAN

1. Menghasilkan lulusan yang berkualitas, menguasai IPTEK, dan dapat melanjutkan ke jenjang yang lebih tinggi
2. Siswa mampu mengembangkan diri menjadi manusia terampil sejalan dengan perkembangan IPTEK dan budaya sesuai ajaran Islam
3. Siswa memiliki keimanan dan ketaqwaan, bermoral dan berakhlakul karimah
4. Mampu menjadi anggota masyarakat yang baik dan memiliki ketrampilan untuk hidup mandiri.

MOTTO

MAN 2 PATI HARAPANKU

(Humanis, Aqidah Islamiyah, Raja’ , Akhlaqul Karimah, Populis, Adil, Normatif, Kualitas, Ukhuwah)