Теоретически нужно перехватывать системные функции. Но вряд ли это эффективно, да и не просто.
Практически можно упаковать, зашифровать и т.п.
Других способов в Винде вроде нет, если юзер с админскими правами.
Вот если бы к файлам доступ ограничить - то это можно...

Что как же?

Есть достаточно эффективная реализация на уровне драйверов. Но ненадежность этих программ при их нейтрализации или при запуске из другой системы напрягает.
У этих программ, по словам разработчиков, есть один существенный недостаток. Они хорошо прячут файлы и папки, находящиеся лишь на компьютере пользователя. Утилиты перехватывают запросы к файловой системе от операционной системы, в результате чего последняя перестает “видеть” эти данные. Но стоит скопировать скрытую папку на другой компьютер или внешний носитель, как они из невидимок превратятся в обычные файлы.
Защита шифрованием лишена этих недостатков.