Nació el 9 de marzo de 1845 en Cremona. Ese mismo día fue bautizado. Era el último de los siete hijos de Baldassare Grossi y Maddalena Capellini. Cuando era niño, aprendió de sus padres a orar y la seriedad en el trabajo.
Tras su Primera comunión anuncia a su familia el deseo de ser sacerdote. Quiso entrar en el seminario y, aunque su padre quería que se quedase con la familia, finalmente cedió a los deseos de su hijo. Pero luego, se vio obligado a posponer sus planes debido a razones familiares, por lo que trabajó en la fábrica de su padre durante un breve período de tiempo. Entró en el seminario el 4 de noviembre de 1864 y comenzó sus estudios para el sacerdocio en Cremona. Grossi fue ordenado como sacerdote el 22 de mayo de 1869. Fue destinado como párroco en Regona y Vicobellignano en 1873 y 1883 respectivamente, donde se dedicó a los pobres.
Fundó las Hijas del Oratorio en 1885 y aseguró que la orden se rige por las reglas de San Felipe Neri. Grossi se centró en ayudar a la juventud y al hacerlo se dio cuenta de su vocación. El Oratorio se dedicó a los jóvenes, en particular. Escogió una vida de pobreza y se hizo conocido por su trabajo con los niños.

Sus familiares destacan que fue un gran catequista y un gran predicador. Inclusive dicen que hay una biografía en su honor bajo el título de ‘Zapatos rotos’, haciendo alusión a su costumbre de quedarse descalzo para ofrecer su calzado cada vez que se encontraba con alguien desprovisto de ellos. Fue contemporáneo de Dos Bosco y a él se le debe la obra de organizar en las parroquias un grupo de jóvenes católicas que ayudaran a los párrocos en el trabajo de asistencia moral, religiosa y social entre la juventud femenina. 

Murió por una peritonitis fulminante el 7 de noviembre de 1917, pronunciando las palabras: “El camino está abierto, tenemos que ir” («La via è aperta: bisogna andare»).

Beatificado por SS. Pablo VI y canonizado por SS. Francisco.