Andre Leon Marie Nicolas Rieu s-a nascut pe 1 octombrie 1949 in orasul olandez Maastricht, in care parintii si cele doua surori ale sale s-au mutat din Amsterdam. Tatal sau, Andre Rieu Sr., a fost dirijor al Orchestrei Simfonice Limburg si al Operei din Leipzig.Acesta a murit in 1992 datorita unui accident vascular cerebral, in urma caruia a ramas paralizat. La varsta de cinci ani, Rieu incepe sa ia lectii de vioara, fiind incurajat de tatal sau.
In 1967, dupa ce a parasit scoala de gramatica, Andre Rieu continua sa studieze vioara la conservatorul din Liege, iar mai tarziu la conservatorul din Maastricht pana in 1973. Printre profesorii lui s-au numarat Jo Jude si Herman Krebbers. In 1974 se muta la Conservatorul Regal din Bruxelles, unde profesor ii va fi Andre Gertier. Isi termina studiile in 1977, cand primeste distinctia „Premier Prix".