Basicamente tu problema es que tienes un sitio web con un archivo o script en PHP mal depurado que cuando se ejecuta se come todos los recursos del servidor hasta que te quedas sin memoria y Linux dice basta y empieza a cerrar servicios como es en tu caso MySQL. Da igual si usas Plesk o cualquier gestor o simplemente tienes Apache+PHP instalado a manopla en consola.
Deberás monitorizar con el navegador de consola lynx acudiendo en él a
http://localhost/server-status. Ahi te pone detallado el consumo de cada virtualhost. Es aconsejable que lo hagas cuando Apache empieza a comer los recursos para saber exactamente su origen.
Esto ya me ha pasado y limitar la RAM solo lo puedes hacer con un script en bash. ¿Mi solución? Un script en el que cuando llega a X carga por minuto, pare apache durante unos minutos y luego se vuelva a ejecutar. El problema es que te para el servidor web unos minutos pero al menos no se lleva por delante el resto de procesos del servidor, con lo que deberias dar con el origen del problema como te he explicado más arriba.