Sie müssen Unterabfragen verwenden:
SELECT x.user,
AVG(x.cnt)
FROM (SELECT user, COUNT(answer) AS cnt
FROM surveyValues
WHERE study='a1'
GROUP BY user) x
GROUP BY x.user
Sie können ein Aggregat nicht mit einem anderen Aggregat umschließen. Sie könnten eine Analyse in ein Aggregat packen, wenn MySQL Analyse-/Ranking-/Windowing-Funktionen unterstützt...