Моя система зависает во время визуализации.

Это в большей степени проблема аппаратуры. Сам V-Ray не может повесить систему. Худшее что может сделать V-Ray - обрушить 3ds max. Проверьте Вашу память и температуру CPU.

Я получаю окно с сообщением о "unhandled exception" во время визуализации.

Точный текст в этом сообщении может отличаться в зависимости от того где случилась ошибка. Есть разные причины для появления этого сообщения:
* Недостаточно памяти - одна из наиболее общих причин. Смотри секцию Использование недостаточной памяти ниже для дополнительных деталей.
* Перегрев CPU или дефект RAM - это другая причина которая стала чаще появляться с увеличением частоты современных процессоров. Она характеризуется случаным крахом во время визуализации и трудно отделима от проблем с программой. Инсталлируйте программу монитора температуры CPU и проверьте RAM на наличие дефектов. Это поможет определить в чем проблема - программы или аппаратуры.
* Обрушение с включенным motion blur (размытие движения) - общая проблема когда есть движущиеся объекты, зависящие один от другого; в этом случае скройте оригинальный объект и используйте копию для помощи визуализатору.
* Использование родного типа освещения 3ds max - Skylight (Небесное освещение) - или самого по себе или как часть дневного освещения. Если это случается используйте диалог V-Ray для создания эффекта небесного освещения.
* Несовместимость с другими плагинами - если Вы подозреваете эту причину ошибки, пожалуйста напишите в vray@chaosgroup.com производителя плагина и объясните ситуацию. Пожалуйста отметьте, что проблема должна быть в плагине, а не в V-Ray. Некоторые плагины специально кодируются для визуализаторов сканирования строк по определению и могут взаимодействовать с V-Ray неизвестным образом.
* Ошибка в V-Ray - если Вы верите что проблема в этом, попытайтесь изолировать ее (если она наблюдается в специфичной ситуации относится к отдельным объектам, материалам, атмосферным эффектам и т.д.) и пошлите письмо с файлом c:\vraylog.txt и сценой 3ds max в vray@chaosgroup.com

Неумеренное использование памяти во время визуализации.

Как все другие прораммы, V-Ray нуждается в некотором количестве памяти для визализации. В зависимости от сложности сцены и установок визуализации, он может использовать различное количество памяти. Иногда доступная системная RAM может быть меньше, чем необходимо для визуализации. В этом случае, Вы наиболее вероятно получите сообщение unhandled exception. Вы можете проверить использование памяти Windows Task Manager.
На 32-битных машинах, операционная система Windows® позволяет использовать 1.5 GB для любого единичного процесса (приложения). Это значит, что даже имея больше памяти (например 2GB), опрерационная система не позволит приложению использовать всю память.
Однако в Windows® XP Вы можете изменить это используя известный переключатель /3GB в файле boot.ini. Это разрешит ОС распределять до 3 GB RAM для любого приложения. Использование этого переключателя может позволить Вам визуализировать сцену без использования методов, описываемых ниже, для уменьшения использования памяти.
На 64-битных платформах Операционная система Windows® позволяет использовать всю доступную физическую память без ограничений.
Если Вы не можете использовать ни один из этих методов, остается только уменьшить необходимое значение изменив Вашу сцену и установки V-Ray. Элементы сцены, отнимающие наибольшее количество памяти при визуализации могут быть разделены на следующие группы:
* Геометрия - сцены с множеством объектов и/или количеством треугольников требую больше памяти для визуализации. Есть несколько путей уменьшить это значение:
- Настроить установки raycaster в свитке System (уменьшить Max. levels, увеличить размер Min. leaf size, увеличить коэффициент Face/level, переключиться из Static в Dynamic геометрию).
- Если ничего не помогло используйте объекты VRayProxy.
* Mapping UVW channels (Карты UVW каналов) - в 3ds max каждый канал карты отнимает такую же или большую часть памяти как геометрия. Неиспользуемые каналы карт могут увеличить необходимую RAM, в то время как никак не воздействуют на сцену В последних версиях 3ds max каналы текстур генерируются по умолчанию для всех объектов при их создании. V-Ray не управляет использованием RAM для текстурных координат - удостоверьтесь, что в сцене присутствуют только необходимые каналы. Использование VRayProxy также решение - т.к. координаты текстур тоже кэшируются на диске с геометрией.
* Карты смещений - объекты, смещаемые методом 2d карт смещения также требуют много памяти для визулизации, особенно с большими картами смещения. Если это случилось, используйте метод 3d карт смещения. Также, если Вы имеете несколько отдельных модификаторов смещения с той же картой смещения, лучше заменить их одним модификатором, примененным ко всем необходимым объектам. Это потому что каждый модификатор занимает память для карты смещения отдельно для каждого модификатора, даже если они используют одну карту.
* Битовые карты - есть тенденция отнимать больее число памяти, особенно если карты большие. Т.к. текстуры управляются 3ds max, V-Ray не управляет использованием ими памяти. Однако Вы можете использовать установки пейджера битовых карт 3ds max для уменьшения отнимаемой памяти. Для дополнительной информации смотрите документацию по 3ds max.
* Фильтры битовых карт - Summed area фильтры используют намного больше памяти, чем Pyramidal.
* Карты теней - тоже могут отнять память. Снова это управляется 3ds max и V-Ray не может напрямую управлять использованием ими памяти. Для уменьшения необходимой памяти Вы можете переключится на трассировщик VRayShadow.
* Буфер изображений - большое выходное разрешение требует большей памяти для запоминания финального изображения. Добавление канала G-буфера увеличивает это значение. Есть несколько путей уменьшить его:
- Использовать пейджер карт, если Вы визуализируете 3ds max-овым VFB.
- Если вы используете VRay-ский VFB, используйте опцию Render to VRay raw image и затем используйте просмотрщик VRay raw image file для конвертирования результирующего файла в необходимый формат.
- Визуализируйте изображение в несколько проходов и сшейте куски в программе наложения изображений.
* Сэмплер изображений (AA) - алгоритм выборки изображений V-Ray требует некоторое количество памяти для содержания всех данных выбираемгоо изображения. Это значение может быть большим в зависимости от захваченного размера и темпа выборки. Для его уменьшения:
- Уменьшите размер участка.
- Переключитесь на другой сэмплер изображений - например сэмплер Adaptive QMC использует меньше памяти, чем сэмплер Adaptive subdivision.
* Кэш глобального освещения - карты освещения, фотонные карты и карты света все требуют добавочной памяти для запоминания. Каждые из них имеют другие методы для управления использованием памяти:
- Для карт освещения - память зависит от числа выборок карт; Вы можете уменьшить ее использованием Min/Max rate, и более отделив значение порога (выше порога Color, выше порога Normal, ниже порога Distance).
- Для карт фотонов - память зависит от числа запоминаемых фотонов. Вы можете уменьшить это число уменьшив Diffuse subdivs для светильников или увеличив Max. density.
- Для карт света - увеличте размер выборки.
* 3ds max сцены - 3ds max сам запоминает множество информации о сцене. V-Ray не управляет этой памятью, но есть некоторые вещи, которые Вы можете сделать для уменьшения ее:
- Свернуть модификаторы для editable meshes (редактируемых сеток)
- Кэшировать анимацию с модификатором PointCache.

Я получаю пятна на визуализированном изображении при использовании карт освещения.

Есть несколько причин появления пятен когда визуализируется с картой освещения:
* Регулярные шумовые пятна - это обычно результат неполного Hemispheric subdivisions (разделения полусферы) для карт освещения. Обычно они появдяются в ситуациях трудного освещения, когда установки по умолчанию слишком малы. Пример условий трудного освещения - малая яркость источников непрямого света, HDRI окружения и т.д. Вы можете избежать этих пятен несколькими путями:
- Если Вы используетет Квази-Монте-Карло GI для вторичных GI отражений, попытайтесь использовать другой метод - карты света или фотонные карты.
- Увеличте разделение полусферы для карты освещения. Заметьте что эффект увеличения зависит также от установок QMC сэмплера.
- Уменьшите порог Шума QMC сэмплера.
* Изолированные пятна яркости - могут быть различные причины для этого:
- GI каустика - если Вы имеете отражающие и преломляющие поверхности в Вашей сцене, особенно если они блестящие, V-Ray может попытаться подсчитать GI каустику для этих поверхностей. Т.к. каустика обычно требует множество выборок для правильности, могут быть пятна.
- Неправильные или отсутствующие UVW координаты - если у некоторых объектов в Вашей сцене отсутствуют UVW координаты, или UVW координаты попали вне карт текстуры, это может произвести пятна или странные цвета в карте освещения. Решением будет применить правильные координаты к этим объектам.

Параметры влияющие на шум при рендере.

Irradiance Map
За шум (а вернее за пятнистость) изображения отвечает HSph. Subdivs - чем больше значение, тем "чище" результат.

Light Cache
Здесь за шум отвечает параметр Subdivs - чем больше, тем качественней результат. Далее Pre-filter - чем больше значение, тем больше размытость => меньше шумов.

rQMC Sampler
Здесь находятся два очень важных параметра: Noise Threshold и Global Subdivs Multiplier. Первый напрямую влияет на шум, чем меньше, тем менее шумное изображение получается (рекомендуют значения от 0.003 до 0.005). Второй задает значение, на которое будут умножены: сабдивы DOF, Motion Blur, Irradiance map, QMC GI, area lights, area shadows, glossy
reflections/refractions.

Light's Subdivs
Параметр Subdivs в настройках ИС (источника света). Чем больше, тем качественней выглядят тени.
System -> Light Settings значение Diffuse Subdivs тоже отвечает за шум в тенях.
Учтите, что повышая эти параметры, вы увеличиваете время рендера!

V-Ray не рендерит. Рендерится только черный экран. И материлы все черные!
Надо поставить V-Ray в качестве текущего рендера. Для этого: жмем F10->свиток Assign Render->рядом с полем Production жмем кнопку "...", выбираем V-Ray. Если хотите, чтоб V-Ray был рендером по умолчанию жмите Save As Defaults (находится ниже).

При использовании фильтра Catmull-Rom на границе окна возникают артефакты в виде черных полос!
В свитке Color Mapping поставьте галку Sub-Pixel Mapping

Возникают артефакты в виде черных полос и точек!
Включите галки Sub-Pixel Mapping и Clamp Output

Как сохранить настройки Vray?
F10->В низу Preset->Save Preset

Как загрузить настройки Vray?
F10->В низу Preset->Load Preset

При использовании стекла в интерьере, тени ведут себя очень странно.
Необходимо поставить галку Affect Shadows в настройках материала

Как отрендерить объект с сеткой?
На Diffuse материала надо повесить карту VRayEdgedTex

При установке Vray на операционную систему Vista, установочный файл необходимо запустить с правами Администратора.
Для этого жмем правой кнопкой мыши по файлу Vray и кликаем по ссылке: Запуск от имени администратора.
Или другой способ: отключить контроль учетных записей.
ПУСК>Панель управления>Учетные записи пользователей>Включение и отключение контроля учетных записей (UAC) снимаем галку.

Как мне сделать другой фон при рендеринге?
Нажми 8 В свитке Background нажми на кнопку Color (чёрное пространство) выбираем нужный цвет. Также можно использовать материал или текстуру на фоне. Просто рядом нажми на кнопку с надписью None.

Скачал маты к вирею, а когда подключаю их, он пишет: Error Loading ParamBlock2, а потом Invalid File - only partialy loaded.
Искать маты, соответствующие твоей версии Max и Vray.

Как сделать так, чтобы белый цвет был белым, а не цветом окружающих его предметов?
Уменьшить Saturation в свитке Indirect Illumination.

Тени уж очень шумные получаются что делать?
Увеличить Sabdivs у источников света. (20-30)

Как вывести внизу изображения при рендере время визуализации?
В настройках Vrey : sistem?frame stemp, там ставишь галочку. Если Full width включён то полоса до конца рисунка будет, если отключён то до последней надписи.

Как сбросить настройки Vray на default?
Что-бы сбросить настройки Vray, включи сначала Scanline рендер а потом снова Vray.

Как запустить Vray?
Нажать F10, в свитке Assign Renderer нажимаем на кнопку с тремя точками, рядом со словом Production и в появившемся окошке выбираем Vray.

Почему в редакторе материалов не отображаются материалы Vray?
Видимо, для редактора материалов назначен другой рендер. Чтобы его переключить, выполните все шаги из пункта Как запустить Vray, и нажмите на кнопку с замочком, чтобы он закрылся.

Вирей не рендерит или во время рендера макс отбрасывает копыта. Что делать?
Нехватка оперативной памяти.
Выход:

* Прописать ключ на 3ГБ.
* Не использовать Raytrace карты и материалы - проверить их наличие в сцене.
* Копировать одинаковые объекты методом Instance.
* Объекты с излишним количеством полигонов перевести в Proxy.
* Если всё вышеописанное не помогает, то стоит переключится в режим Dynamic Memory в самых последних настройках Вирэя.
* Если и это не поможет, то стоит снести винду (если она 32-бит) и поставить себе 64-битный виндоус и макс тоже 64-бит.
* Если и это не помогает, нужно увеличивать оперативную память, а ещё лучше проапгрейдить комп и поставить себе 8 Гигов оперативки (хотя мне и 4-х хватает).

Какие параметры отвечают за скорость рендера?
Скорость можно регулировать, уменьшая всего четыре параметра: 1. noise threshold в rQMC = 0.1
2. global subdivs mult = 0.1-0.5
3. subdivs на LC = 200-500
4. разрешение
Остальное трогать не обязательно. Само уменьшится. Это касается всех настроек Ir map и QMC GI. И еще! Используйте QMC AA 1 4. Никакого Fixed!!!

Я применил к потолку белый материал, но он получается каким-то не белым. Почему?
Всё дело в глобальном освещении. Белый цвет на свету и в тени будет выглядит по разному. Если вы рендерите изображение с помощью вирей физ.камеры, то в ней есть такая опция - White Balance - Баланс белого. Этот параметр позволяет показать вирею, какой цвет должен на рендере получится белым. Рендерите регионом часть вашего белого потолка, который получается не белым, берёте пипеткой с его цвет и загоняете в слот White Balance.

У меня стены и разные объекты подсвечиваются цветами. Тени вместо чёрных или серых получаются цвета объекта. Что делать?
Color Bleeding - воздействие одного цвета на другой. Опять таки это связано с глобальным освещением. В реальности тоже бывают такие моменты, когда рядом с серой стеной стоит коричневый шкаф и от направленного света стена тоже становится слегка коричневой. На эффект Колор Блидинга воздействуют два параметра:
* Множитель вторичного света. Уменьшение множителя приводит к ослаблению эффекта, поэтому многие визуализаторы ставят в Secondary Bounces значение от 0,8 до 0,85, хотя в последних версиях Вирея это не значительно воздействует на этот эффект.
* Параметр Saturation в свитке Indirect Illumination. При уменьшении этого параметра, эффект Колор Блидинга уменьшается.

Я в шкаф поставил стёкла, но за стеклом темно и полочек не видно. Как быть?
* В настройках материала стекла включите галочку Affect Shadows в параметрах Refraction/
* Обязательно включите галочку Refractive в настройках рендера в свитке параметров Indirect Illumination => GI Caustics/

Что такое ДЕ и с чем его едят?
ДЕ/DE - Detail Enhancement. Продвинутый алгоритм улучшения качества детализации и улучшения качества карты светимости (Irradiance Map). Включается в настройках той же карты светимости. Этот алгоритм подобен алгоритму Ambient Occlusion в Mental Ray. ДЕ затормаживает рендер, но очень сильно улучшает качество рендера. Использовать стоит при наличии достаточного количества времени. Помимо всего прочего, при использовании ДЕ пропадают глюки и артефакты при включённой Рефлективной ГИ каустики, которая зачастую и является причиной глюков и артефактов (если просчитывать без ДЕ).

Что такое HDRI и с чем её едят?
Это такая же фотография, как и любая другая, просто она содержит гораздо больше цветов, вследствие чего в ней можно сохранить максимально реалистичную световую информацию о месте съемки. Как правило, такие изображения используют для фона, чтобы он отражался в объектах, тогда можно будет добиться ярких и натуральных бликов. Так же её можно использовать как самостоятельный источник света в открытых сценах. Для загрузки HDRI в версиях Макса до 6 используйте тип карты VrayHDRI. В 6 версии добавилась встроенная поддержка этого формата, это обычный Bitmap. Чтобы использовать HDRI только для отражения и преломления, её нужно поместить в слот Reflection/Refraction, находящийся в свитке Environment, в настройках Vray. Как альтернатива: в материале VrayMtl открываем свиток Maps и кидаем хдр-карту в слот Environment. Чтобы заставить её излучать свет, кидаем её в слот GI / Skylight, в том же свитке. Не забудьте в свойствах самой картинки поставить координаты, отличающиеся от Screen, например Spherical, иначе вы столкнетесь со странным эффектом "прозрачности" на объекта. Если хдр-карта нужна и для получения освещения и для создания в объектах отражений наиболее простой способ поместить её в Rendering - Environment и использовать ее как Environment Map. Чтобы настроить хдр-карту надо с включенной галочкой "образец" перетащить ее в редактор материалов.

Чем отличаются HDRI в виде шара от панорамных?
Тем, что первые – это полуфабрикат. Для более корректного использования, их необходимо развернуть из сферы на плоскость. Сделать это можно при помощи HDRShop. К тому же, такая фотография может содержать лишь половину снимаемого пространства, поэтому панорамные фотографии предпочтительнее, так как они охватывают всю область съёмки. Так же, многие полагают что если фотография искажена в виде шара или содержит панораму, то это уже HDRI. Это не так. Любая фотография может быть панорамной, в свою очередь HDRI может быть снята как совсем обычная фотография, без каких либо искажений.

Шумный рендер. Почему?
Шум бывает разный и лечится по разному. Опишу только причины появления мелкого зерна (не пятен!).
1. Шум непосредственно от ИС. Часто на границе света и тени. Особенно сильный от Vraylight, если перед ним есть объект. Чем ближе объект к VrayLight, тем больше шум. Лечится повышением сабдивов на ИС либо настройками AA (желательно найти средние значения и того и другого, а не задирать только один параметр).
2. Шум в материалах (рефлект и рефракт глосси). Зависит от настроек глосси и соответственно от сабдивов в материале. Лечится настройками материалов и AA. Опять же желательно постепенно повышать и то и другое. Если конечно важна скорость. Если нет, то можно поставить QMC AA и увеличивать глобальный мульт и нойз треш.
3. Шум который появился в версиях выше 1.09. ЭТО ШУМ ОТ HILIGHT GLOSSINESS!!! Причем часто не важно, используете вы этот параметр в материале или нет. Просто при его использовании шума больше. Так вот, этот шум лечится только повышением сабдивов на ИС (НЕ В МАТЕРИАЛЕ!!!) и настройками AA. Естественно повышать сабдивы надо именно в том ИС от которого и идет этот шум.

У меня в логе появилась ошибка - "Warning: Material returned overbright or invalid color". Что это значит?
Это значит, что возник так называемый "пересвет", когда значения яркости превысили обычный цветовой диапазон. Вобщем-то, это не ошибка, а просто оповещение, такое часто бывает при использовании ярких HDRI. Так что, если больше при рендере ничего подозрительного не происходит, то и волноваться не о чем, если же появились цветные пятна, надо искать источник пересвета (в логе указывается проблемный объект).

Появляется ошибка "Vray Exception" при рендере анимированного персонажа, на котором используется модификатор Skin.
Нужно поверх Skin применить к персонажу модификатор Point Cache и записать анимацию точек в файл.

VRAY не сохраняет картинку. Появляется ошибка "Error: Cannot create bitmap." Картинка размером 1753/2480, вроде размер не очень большой. Почему vray отказывается сохранить готовый рендер и как это можно исправить?
Не хватает памяти для картинки. Убрать галочку Render Frame Window во вкладке Common рендера. Если не помогает, дополнительно включить сохранение в файл на той же вкладке, отключив во врейбуфере Render to memory frame bufer. Либо сохранять через Render to Vray image file, желательно без генерации превьюшки, потом с помощью конвертера VRImg to OpenEXR извлечь картинку. Либо рендерить через Backburner страйпами (Split Scan Lines). Последний способ вообще очень удобен для больших размеров.

Я использую для отражений и преломлений карту или материал Raytrace, почему у меня при рендере лезут жуткие глюки?
Потому что Raytrace нельзя использовать в Vray, по крайней мере для отражений и преломлений. Для получения отражений и преломлений в Vray существует специальный материал VrayMtl и карта VrayMap.

В чём разница между VrayMtl и VrayMap, ведь и там и там есть схожие параметры?
VrayMtl – это основной материал для работы с Vray, однако он довольно сильно отличается от Стандартного материала 3dsMax, и не содержит многих его опций. Для того, чтобы получить отражения и преломления в Vray, но при этом воспользоваться дополнительными функциями Стандартного материала, как раз и существует карта VrayMap. Её нужно положить в слот Reflection или Refraction соответственно.

Как сделать V-Ray дефолтным рендером с загрузкой по-умолчанию вирэевских матов в редакторе материалов (Актуально только для версий до SP2, т.к. в данной версии появилась возможность сделать это через Custom UI and Defaults Switcher.).
1. Закрываем макс.
2. Копируем папку \maxroot\Defaults\MAX и переименовываем её в MAX.vray
3. Открываем находящуюся там папку FactoryDefaults, удаляем файл Medit.mat и открываем в блокноте файл CurrentDefaults.ini
4. Находим в нём вот эти строчки:
CODE
DefaultProdRenderer=1 0
DefaultDraftRenderer=1 0
DefaultIReshadeRenderer=1 0
DefaultMEditRenderer=1 0
DefaultMEditRendererLocked=1

и меняем их вот на эти строчки:

CODE
DefaultProdRenderer=0x73bab286 0x77f8fd0c
DefaultDraftRenderer=0x73bab286 0x77f8fd0c
DefaultIReshadeRenderer=1 0
DefaultMEditRenderer=0x73bab286 0x77f8fd0c
DefaultMEditRendererLocked=1

5. Далее находим вот эту строчку:
CODE
materialType=2 0
и меняем её на эту строчку:
CODE
materialType=935280431 1882483036
6. Пересохраняем файлик.
7. Запускаем макс.
8. Идём в Customize > Customize UI And Defaults Switcher..., выбираем там свой созданный сет MAX.vray, жмём на кнопку Set и перезапускаем макс.
Всё. Теперь у нас дефолтным рендером является V-Ray и в редакторе материалов по-дефолту будут грузиться врэевские маты.

Так же можно сделать, чтобы в стандартных источниках света по-дефолту включались врэевские тени:
в том же файле CurrentDefaults.ini находим строки:
CODE
[30 1011 0]
castShadows=0
useGlobalShadowSettings=0
; Shadow Map
ShadowGenerator=0x100 0

и меняем их на такие строки:
CODE
[30 1011 0]
castShadows=1
useGlobalShadowSettings=0
ShadowGenerator=0x1daee05f 0x74b2d60f

На заметку: для того, чтобы врэй грузился не с дефолтными настройками, а с теми, которые вы хотите - надо при первом запуске макса сделать все необходимые вам настройки и сохраниться в файл C:\Documents and Settings\User\My Documents\3dsmax\scenes\maxstart.max