Dipende da cosa ci devi fare.
Se sei un "fruitore" del machine learning allora tipicamente non ti serve sapere come funziona un algoritmo nel dettaglio. Se vuoi andare un po' più a fondo allora certamente qualche competenza in matematica la devi avere. In generale si tratta di funzioni differenziali, gradienti, ottimizzazione combinatoria e spazi vettoriali. Difficilmente ti troverai nelle condizioni di modificare un algoritmo allo stato dell'arte o cercare qualcosa di nuovo, a meno che non lavori in qualche team di ricerca specializzato, ma sapere certe cose può aiutarti a comprendere il comportamento degli algoritmi. La statistica pure torna utile, soprattutto quando validi un modello.
Indipendentemente da questo, quello che sicuramente ti serve è un po' di esperienza, se non altro per capire i punti di forza e le debolezze di ogni strumento. Non come i tanti "wannabe data scientist" che abbagliati dall'una o l'altra libreria (TensorFlow per esempio) pensano di risolvere tutto con uno strumento solo buttato lì a casaccio (reti neurali per esempio, così pubblicizzate che si sente puzza di lobby da distante).
Come materiale di studio, ci sono molti libri in commercio (forse anche troppi). Un mio collega con cui sto lavorando in ambito ML ha una "libreria" digitale di pdf sull'argomento e proprio oggi mi ha consigliato "Hands-On Machine Learning With Scikit-Learn and Tensorflow: Concepts, Tools, and Techniques to Build Intelligent Systems" della O'Reilly che, oltre ai concetti matematici, propone esempi con l'uso di due dei principali framework di machine learning che sono Scikit-learn e TensorFlow.
