Nació en Santiago en 1840, en el seno de una familia de educadores. Su padre fue José María Núñez. José quedó huérfano a los 14 años, estudió en el Instituto Nacional y luego en la Escuela de Derecho de la Universidad de Chile, donde se recibió de abogado en 1865. Aunque ejerció el Derecho y estuvo cerca de la política, su vocación se inclinó tempranamente hacia los problemas educacionales.
En 1879 el Ministro de Instrucción Publica le encomendó que viajara a Estados Unidos y Europa para hacer un estudio de sus sistemas educacionales. De los países que visito, el sistema educacional que mayormente lo impresionó fue el Alemán, fundamentalmente por la precisión de su funcionamiento.
“La primera impresión que produce un colegio Alemán es la admiración de la disciplina que domina dentro de el. Uno no escucha el menor ruido, el menor desorden, todo progresa con perfecto orden. Los profesores y los alumnos parecen igualmente convencidos que en tal lugar no hay espacio ni tiempo para ninguna otra cosa que no sea el estudio, y todos desde que pasan el umbral de la escuela observan una compostura y seriedad tal como si estuvieran en la iglesia… y lo que mas merece mención, es que esta disciplina, este orden, no son de ninguna manera algo forzado, ni el resultado del rigor, ni de las caras enojadas de los profesores quienes como los agentes disciplinarios eficaces, presentan la varilla o el guante a sus estudiantes, sino por el contrario son los niños mismos quienes parecen profesar un afecto y respeto por la escuela tal, que no se les ocurre alterar el orden o perturbar la corrección del profesor.”
Lo que mas impacto a Núñez fue la disciplina de la educación Alemana, y sus argumentos a favor de esta fueron decisivos en resolución de cual modelo educacional importar. El lado menos visible de la gran acogida que tuvo la propuesta de Núñez, se vincula con el sentido otorgado en la época a la educación primaria por parte de la elite dirigente. La educación primaria era entendida como un sistema de asistencia y control de las clases bajas, que constituían la masa de clientes de la educación publica. Cabe destacar que la preocupación central de Núñez era la educación primaria fiscal.
Una nueva reforma para escuelas primarias y normales empezó en 1883, donde entre las nuevas medidas destacaron el incremento de recursos económicos y la inserción de profesores extranjeros. Como partida a esta nueva etapa comenzaron a llegar los primeros docentes, mayoritariamente alemanes, los cuales introdujeron nuevas materias en la formación de los profesores normalistas como: psicología, pedagogía critica, metodología pedagógica, además de otras asignaturas centradas en el arte.
En 1888 fue designado inspector general de Instrucción Primaria, y promovió la creación de escuelas primarias en todo el país, y de las escuelas normales de Copiapó, La Serena, Chillán, Victoria y Valdivia, para así extender la educación por toda la nación. Para la formación de los docentes, viajo nuevamente a Europa con el fin de impulsar la contratación de profesores exclusivamente alemanes y austriacos, convencido que eran parte del mejor sistema educacional.
Ningún campo le estuvo vedado como innovador de la educación, siendo además de lo anterior, fundador del Museo Pedagógico
Este insigne educador, activo miembro del Consejo de Instrucción Pública hasta el final de sus días, falleció en Santiago, en el mes de agosto de 1910, de bronconeumonía.