Si se tiene instalado GeoServer 2.x sobre Glassfish 4, la forma más sencilla de establecer la propiedad java GEOSERVER_DATA_DIR que define dónde se encuentra el directorio de datos de GeoServer, es mediante la interfaz gráfica del administrador de este servidor de aplicaciones.
La imagen de arriba muestra la forma de establecer la propiedad. Selecciona Configuratións->server-config->JVM Settings. Se selecciona la pestaña JVM Options y se pulsa el botón Add JVM Option. Se captura la propiedad como se muestra en la figura anterior: -DGEOSERVER_DATA_DIR=ruta_directorio_de_datos_de_geoserver (en la imagen de ejemplo se indicó que el directorio se encuentra en /opt/geoserver/geoserver_data).
Una vez establecida la propiedad presiona botón Save par guardar la nueva configuración. Glassfish indicará que es necesario reiniciar el servidor de aplicaciones. Reinicie y listo.
¡Saludos!