Nachdem er Violine und Komposition in Sankt Petersburg mit Tatiana Liberova und Jeanna Metallidi studiert hat, besuchte er die Juilliard School of Music, wo er mit Itzhak Perlam studierte. 1998 gewann er den "Internationalen Violinen Wettbewerb" als der jüngste Gewinner in der Geschichte des Wettbewerbs.
Als Solist widmet er sich besonders den heutigen und selten gespielten Werken. Er führte Kompositionen von Peter Maxwell Davies, August Read Thomas und Michael Jarrel ur auf. Zusätzlich interessiert er sich für historische Aufführungsmethoden. Er ist außerdem erster Geiger des Gringolts Quartet, welches er 2008 gegründet hat.
In den letzten Jahren ist Ilya Gringolts mit führenden Orchestern auf der ganzen Welt aufgetreten, so wie dem „Chicago Symphony Orchestra“, den „London Philharmonics“, den „Saint Petersburg Philharmonics“, dem „Deutschen Symphonie-Orchester Berlin und der „BBC Symphony“.
Neben seiner Position als Violinen-Professor an der Züricher Hochschule der Künste, ist er auch ein „Violin International Fellow“ an der „Royal Scottish Academy of Music and Drama“ in Glasgow. Ilya Gringolts spielt eine 1718-1720 Stradivarius, welche für ihn von einer privaten Kollektion bereitgestellt wurde.