PHP + SQL Server - pool de conexão

Ola! Precisamos disponibilizar uma aplicação web, em PHP e banco de dados MySQL Server, para aproximadamente 3500 usuários. Não que eles estejam logados todos ao mesmo tempo, mas numa eventualidade que estejam, como preparar o sistema para suportar toda essa galera? Me citaram fazer um pool de conexão, mas não sei como funciona e como se aplica o conceito no sistema. Alguem poderia me exemplificar melhor pra entender este pool de conexão e me dar um norte como implementar isso na aplicação?
Valeu