Добрый день. Являюсь вашим клиентом.
Суть обхода заключается в том, что используется общедоступная библиотека EasyHook.
Сам хук цепляют на событие CreateFile (в программе это соответствует открытию файла и чтению его md5 суммы). В итоге ловят это событие и после успешной проверки мд5 суммы файла подменяют его на свой файл.
Защищает ли в таких случаях VMProtect? Если нет, тогда какие есть варианты защиты?
Спасибо.
Защищает ли в таких случаях VMProtect?
VMProtect не защищает процесс от хука системных библиотек.
Если нет, тогда какие есть варианты защиты?
Для начала нужно понять какую роль в вашем случае играет MD5 сумма открываемого файла.
Перед запуском игры моя программа, защищенная VMProtect, проверяет некоторые важные файлы игры (берет их мд5 сумму). Если суммы не совпадают с оригиналом, значит файл подменили. В таком случае игра не запускается. Это так называемая защита от читов.
По-моему вы не до конца понимаете термин “античит”. Для меня античит - это система защиты, которая препятствует изменению файлов/данных внутри запущенной игры. Таким образом можно сказать, что с помощью EasyHook обошли вашу защиту, а нашу (навешанную на ваш “загрузчик”) никто не ломал. Все правильно? 
)
в данном случае так как игра полностью на Java, то любой модуль самой Java может быть изменен и скомпилирован читером для того, чтобы установить чит. Поэтому пришлось написать программу (античит), которая проверяет важные файлы java (java.exe, rt.jar) и предотвращает их изменение или подмену.
Какие варианты защиты существуют еще? Уверен, что они есть, но я о них незнаю.
Какие варианты защиты существуют еще? Уверен, что они есть, но я о них незнаю.
Варианты защиты от хука системных DLL? Например: контроль целостности файлов напрямую через системные сервисы, минуя kernel32 и ntdll.
подскажите пожалуйста, о каких сервисах идет речь в данном случае?
Вот тут можно почитать что это такое: http://www.wasm.ru/wault/article/show/apihook_3