En 1893, a los 27 años, ingresó en el Hospital Civil Provincial de Málaga como Médico de Obstetricia, donde llegaría a ejercer durante cincuenta y ocho años. Allí, escribiendo de su propia mano las historias clínicas y atendiendo, además de las operaciones, las más sencillas curas y exploraciones de sus enfermas, impregnó su labor profesional con la entrega más absoluta y el cuidado más cariñoso hacia sus pacientes. Llegó a dormir innumerables noches en las propias dependencias del Hospital, para poder atender a las enfermas que necesitaban de cuidados continuos o inmediatos, sirviéndole de cama un arcón bajo que había en un pequeño cuarto. Llegó a registrar 150.000 visitas, según acreditan los libros del Hospital. Implantó nuevas técnicas, experimentadas en Francia y Alemania, en higiene y tratamiento para evitar la alta tasa de mortalidad entre madres y recién nacidos.
En 1923, fue nombrado Director del Hospital Civil, realizando importantes mejoras en las comidas, material médico y el trato con los enfermos. Prueba de ello, es que esperaba la llegada de los trenes que venían de los pueblos con retraso para que los enfermos pudieran ser atendidos. Instaló dos fuentes de agua a la entrada del Hospital para que los enfermos se refrescaran y asearan antes de ser recibidos en la consulta.
Su sueldo siempre se lo dejaba a la Superiora de las religiosas que atendían el Hospital para que lo entregase a los enfermos más pobres, y jamás permitió que una enferma careciera de algún medicamento, por caro que fuese. Curaba a los leprosos y conversaba amigablemente con ellos. En lugar de Don José, ellos le llamaban… ¡San José! Toda su vida estaba presidida por la oración.
Cuando salía del Hospital, se pasaba por las Reparadoras para visitar al Santísimo. Después del almuerzo, rezaba el Rosario y por la tarde iba al Santuario de María Auxiliadora. Antes de la operación, hacía la Señal de la Cruz sobre la zona que iba a operar y durante la intervención, rezaba por el paciente.
El Doctor Gálvez fue uno de los primeros cirujanos en practicar un parto post mortem. Ocurrió el 17 de julio de 1898. Había ingresado en el Hospital una mujer de 28 años, llamada María González Gálvez. Tras morir esta, le practicó una cesárea y nació una niña. La pequeña, María del Carmen Enriqueta, fue pronto llamada “la niña de la ciencia” y fue bautizada por el entonces Obispo de Málaga, Juan Muñoz Herrera y apadrinada por el propio José Gálvez Ginachero.