Ciao, in parole estremamente semplici (son ben accette correzioni ragazzi!) un motore grafico è un software che, appoggiandosi ad una libreria, si occupa, in generale, di tutto ciò che riguarda la grafica pura e il "mettere a schermo" (draw, in inglese). Come dicevo prima, un motore grafico si appoggia su una libreria normalmente (tipo OpenGL o DirectX) che gli permette di interfacciarsi con l'hardware a basso livello.
I motori grafici quindi si posizionano su un livello abbastanza alto nella pila di astrazioni che compongono un computer, ipotizzerei fra il sistema operativo e il livello applicativo: infatti, sul motore vero e proprio, si appoggia un altro software che generalmente è sviluppato a parte: il videogioco in sé. I moderni motori grafici includono funzioni di alto livello che permettono all'utente di lavorare senza doversi preoccupare eccessivamente del hardware, e includono normalmente anche componenti che gestiscono la fisica, il meteo etc. oltre - ovviamente - agli effetti.
C'è una distinzione fra un motore grafico e un motore real time (quello per i videogiochi). Il primo si occupa di fare un "rendering" (l'operazione di generare un fotogramma o un video) che può richiedere anche ore, mentre i motori real time sono molto più leggeri e "più approssimativi", nel senso che usano tecniche più approssimate rispetto ad un rendering normale, proprio per la necessità di essere in tempo reale. Ciao, spero di averti aiutato un minimo con quelle quattro cose che so :)
Motore grafico - Wikipedia immagino che tu ci abbia già dato uno sguardo!