Il software è sempre R e da una breve ricerca mi sembra di capire che il pacchetto lme4, fornisce funzioni in grado di modellare in R sia gli effetti lineari che quelli non lineari
"random effects".

lmer (pronuncia.: ilmer), si identifica da una formula e dal nome di un database e può determinare sia ("ML")the maximum likelihood estimates or ("REML")the restricted maximum likelihood estimates of the variance components.

Per aspera ad astra