Hubo muchos antes del Quake, fue el primero en dibujar los enemigos además del entorno a base de polígonos 3D, antes no había procesadores suficientemente potentes. El más venerable es el Wolfenstein 3D (aunque no sé si los hay anteriores pero seguro que no con tanto éxito), luego el Doom (y Doom II y Heretic etc. etc.), el Hexen (que era la secuela del Heretic), luego el Quake... El resto es historia.
Por cierto, ¿conocéis el Strife? Se hizo con el motor del Doom, pero parece mentira porque tiene historia e incluso interacción con personajes, es parte FPS y parte juego de rol:
http://www.abandonia.com/es/games/16129/Strife.html