Escribir cookies desde php mediante ajax

Yo diría que en HTML no hay ventanas modales. ¿Te refieres quizás a una nueva ventana del explorador?
En cualquier caso, haría falta saber un poco más sobre el código. ¿Qué sistema usas para almacenar la cookie? ¿Por qué estás tan seguro de que no se escribe?
He de decirte que algunos exploradores pueden inhibir la escritura de cookies si el usuario así lo desea. Por lo tanto, las cookies no son seguras al 100%. En PHP se suele usar variables de sesión que son más fiables.

La ventana modal la genero mediante javascript, es una ventana normal sin marcos del navegador, lo que sucede es que la petición es mediante ajax es por eso que el archivo procesa la info del lado del servidor y no crea la cookie, estoy seguro de ello por que si llamo al archivo directamente si la crea (verifique en los temporales) el problema reside en que quiero que la info se procese del lado del servidor mediante el php y aquí sucede el problema por que al no llamar el php directamente no se crea la cookie., mi pregunta es ¿cómo pasar las variables que me resultan del proceso a la ventana que lo llama y que se ejecute de forma automática para generar la cookie?

Vale, ya voy entendiendo ahora más sobre el problema. Lo que no sé es porque al abrir la nueva ventana no le asignas directamente el contenido de la página.php en lugar de hacer la transacción con AJAX.
Si lo que haces es un window. Open() ahí deberías poner la URL de la página PHP y puedes añadirle parámetros en la URL. Por ejemplo:
window.open('login.php?nombre=un_nombre&contra=la_password')

Hola de nuevo:
La ventana es mediante thickbox http://jquery.com/demo/thickbox/ en la sección de ajax Content viene login (modal), tal vez así te sea más claro mi archivo php procesa la info, la idea es que al darle aceptar regrese a la ventana padre ya logueado. Gracias por responder tan rápido :)