Как определить, что пользователь какое-то время не нажимал ни одной кнопки

Если у вас есть способ скрыть кнопку, назовите его hideButtons, вы можете выполнить селектор после задержки, чтобы скрыть кнопку:

[self performSelector:@selector(hideButtons) withObject:nil afterDelay:5.0];

И в методе, связанном с вашим UIGestureRecognizer, отмените его

[NSObject cancelPreviousPerformRequestsWithTarget:self];
//next line only if you want to restart counting no action performed for 5 sec.
[self performSelector:@selector(hideButtons) withObject:nil afterDelay:5.0];