Попробуйте увеличить память при входе в майн. Обновите джаву. Обновите драйвера на видеокарту. Слишком мало информации.