Ketika pemerintah Orde Baru pada 1973 mengeluarkan kebijakan tentang penyederhanaan partai politik, Partai NU-antara lain bersama ‘Sarekat Islam (SI), *Perti, dan Muslimin Indonesia (MI)- melakukan fusi ke dalam Partai Persatuan Pembangunan (PPP).
Pada 1974 Ali Yafie memutuskan bergabung ke dalam partai politik hasil fusi ini dan duduk sebagai Rais Majelis Syura PPP.
NU yang keluar dari PPP ketika muktamar NU di Situbondo (1983) memutuskan bahwa NU kembali ke Khitah 1926. Meskipun demikian, Ali Yafie tetap aktif menjadi anggota DPR/MPR RI hingga ia benar- benar mengundurkan diri dari aktivitas politiknya (1987).
Beberapa tahun sebelum melepas aktivitas politiknya, Ali Yafie aktif di Majelis Ulama Indonesia (MUI) dan menjadi pengurusnya sejak 1985.
Ali Yafie kemudian dipercaya menjadi salah satu ketua MUI pada 1990-1995. Dengan wafatnya ketua umum MUI (KH *Hasan Basri), melalui rapat paripurna MUI pada 11 Februari 1999, A. Malik Fadjar (menteri Agama) selaku ketua Dewan Pertimbangan MUI mengangkat Ali Yafie menjadi ketua umum MUI sampai musyawarah kerja nasional MUI pada Juli 2000.
Pada peringatan 1 Abad NU beberapa waktu yang lalu, Ali Yafie mendapatkan Anugerah pada kategori Pengabdi Sepanjang Hayat. [rif]
