Holding a valid, unexpired visa from Japan exempts you from the requirement to obtain a visa to visit Mexico. There is no requirement to have actually used the visa; you only need to possess it.
From the INM (es):
No requerirá visa mexicana el extranjero que presente alguno de los siguientes documentos:
a) Documento que acredite residencia permanente en Canadá, Estados Unidos de América, Japón, el Reino Unido de la Gran Bretaña e Irlanda del Norte, cualquiera de los países que integran el Espacio Schengen, así como en los países miembros de la Alianza del Pacífico (Chile, Colombia y Perú).
b) Visa válida y vigente de Canadá, de los Estados Unidos de América, Japón, el Reino Unido de la Gran Bretaña e Irlanda del Norte o cualquiera de los países que integran el Espacio Schengen.
(and other exemptions not relevant here)
In English, if you have a permanent residence card from Canada, USA, Japan, UK, a Schengen country, or a Pacific Alliance country, or a valid unexpired visa from Canada, USA, Japan, UK, or a Schengen country, then you are exempt for obtaining a visa to visit Mexico.
You still do need a tourist card. Check with your airline if they will provide this for you as part of your airfare or if you need to obtain it separately.
