Nació en Logroño el 21 de Noviembre de 1755. Fue clavecinista, organista y maestro de capilla en iglesias de Logroño y San Sebastián. Después de su retiro Mateo siguió
viviendo en
San Sebastián hasta su muerte el 23 de junio de 1831.En 1782 opositó a la plaza de organista en Ondarroa, sin conseguirla. En 1788, con 23 años, figura como Maestro de Capilla de la Redonda, Colegiata de Logroño. Pasado 1790 ocupó en San Sebastián la doble plaza de Maestro de Capilla y Organista de la Parroquia Matriz, actualmente Basílica de Santa María. En 1794-1795 pasó a la iglesia colegial de Logroño, aunque debido a problemas de salud vuelve a San Sebastián. Desde su cargo musical, M. Albéniz se convirtió en un gran promotor de la música donostiarra, tanto en la docencia como en la música lúdica. En 1829 fue sucedido por su hijo Pedro Albéniz, -organista, transcriptor y fundador de la escuela española moderna de piano-, en la organistía de la iglesia de Santa María. Discípulos suyos fueron su hijo, Pedro, y José Juan Santesteban, el "maisuba".
La obra del Maestro Mateo Albéniz, conocido por su laboriosidad y estudios, abarcó muchas composiciones religiosas como misas, vísperas, oficios de difuntos, motetes y villancicos, aunque también otras composiciones mas mundanas. Desgraciadamente todas sus composiciones religiosas anteriores a 1813, se perdieron en el incendio y saqueo de San Sebastián por las tropas inglesas persiguiendo la retaguardia francesa durante la Guerra de Independencia.
También escribió música para piano la Sonata en Re mayor. En 1925 Joaquín Nin la da a conocer y es editada por la casa Max Eschigde (de esta obra se han hecho varias transcripciones), y una obra teórica llamada Instrucción Metódica, Especulativa y Práctica para Enseñar a Cantar y Tañer la Música Moderna y Antigua (San Sebastián, 1802), que se basa en Antonio Soler para una explicación de la notación renacentista.
Pero Albéniz no fue un tradicionalista ciego enraizado en los viejos estilos. Exaltó tanto a Haydn como a Mozart y fue el primero en España en imprimir extensos ejemplos de la música de ellos para que los estudiantes los imitaran.
