26种对付反调试的方法

安全 应用安全
本文针对的是Windows操作系统中常用的防破解及防逆向工程保护技术,即反调试方法,各种防逆向工程技术的主要目标是尽可能多的使逆变工具尽可能失效。

目前主要有3种分析软件的方法:

1.数据交换分析,研究人员使用数据包嗅探工具来分析网络数据交换。

2.对软件的二进制代码进行反汇编,然后以汇编语言列出。

3.字节码解码或二进制解码,然后以高级编程语言重新创建源代码。

本文针对的是Windows操作系统中常用的防破解及防逆向工程保护技术,即反调试方法,各种防逆向工程技术的主要目标是尽可能多的使逆变工具尽可能失效。

[[260092]]

本文的对付反调试方法,总共涉及26种:

1. IsDebuggerPresent

2. PEB(进程环境块)

3.如何避开IsDebuggerPresent的检查

4.TLS回调

5.NtGlobalFlag

6.如何避开NtGlobalFlag检查

7.NtGlobalFlag和IMAGE_LOAD_CONFIG_DIRECTORY

8.HeapFlag和ForceFlags

9.如何避开HeapFlag和ForceFlags

10.陷阱标识检查

11.如何避开陷阱标识检查

12.CheckRemoteDebuggerPresent和NtQueryInformationProcess

13.如何避开CheckRemoteDebuggerPresent和NtQueryInformationProcess

14.基于NtQueryInformationProcess的其他反调试保护技术

15.如何避开NtQueryInformationProcess检查

16.软件和硬件的断点反应

17.SEH(结构化异常处理)

18.如何避开SHE检查

19.VEH(向量化异常处理)

20.如何避开硬件断点检查和VEH

21.NtSetInformationThread ,在调试工具中隐藏线程

22.如何避开从调试工具中隐藏线程

23.NtCreateThreadEx

24. 如何避开NtCreateThreadEx

25.处理跟踪

26.堆栈段操作

建议你在阅读本文时,先具备一定的Assembler知识,一些Windbg操作经验以及使用API函数开发Windows的经验。

IsDebuggerPresent

也许最简单的方法是调用IsDebuggerPresent函数,用此函数检测用户模式的调试器是否正在调试调用进程。下面的代码就是一个基本的保护案例:

  1. int main() 
  2.     if (IsDebuggerPresent()) 
  3.     { 
  4.         std::cout << "Stop debugging program!" << std::endl; 
  5.         exit(-1); 
  6.     } 
  7.     return 0; 

如果我们来看看IsDebuggerPresent函数,我们会发现这样的代码:

  1. 0:000< u kernelbase!IsDebuggerPresent L3 
  2. KERNELBASE!IsDebuggerPresent: 
  3. 751ca8d0 64a130000000    mov     eax,dword ptr fs:[00000030h] 
  4. 751ca8d6 0fb64002        movzx   eax,byte ptr [eax+2] 
  5. 751ca8da c3              ret 

Windows X64里的进程如下:

  1. 0:000< u kernelbase!IsDebuggerPresent L3 
  2. KERNELBASE!IsDebuggerPresent: 
  3. 00007ffc`ab6c1aa0 65488b042560000000 mov   rax,qword ptr gs:[60h] 
  4. 00007ffc`ab6c1aa9 0fb64002           movzx eax,byte ptr [rax+2] 
  5. 00007ffc`ab6c1aad c3                 ret 

在FS寄存器的偏移量30h处存在PEB(进程环境块),而在X64上,PEB(进程环境块)存在于GS段寄存器的偏移量60h处。在PEB中的2个偏移量处,我们将找到BeingDebugged字段:

  1. 0:000< dt _PEB 
  2. ntdll!_PEB 
  3.    +0x000 InheritedAddressSpace : UChar 
  4.    +0x001 ReadImageFileExecOptions : UChar 
  5.    +0x002 BeingDebugged    : UChar 

即IsDebuggerPresent函数读取BeingDebugged字段的值。如果进程被调试,值为1,否则为0。

PEB(进程环境块)

PEB是在操作系统内使用的封闭结构。在不同地运行环境下,大家应该以不同的方式获取PEB结构指针。如下所示,你可以在下图中找到x32和x64系统的PEB指针:

  1. // Get PEB for WOW64 Process 
  2. PVOID GetPEB64() 
  3.     PVOID pPeb = 0; 
  4. #ifndef _WIN64 
  5.     // 1. There are two copies of PEB - PEB64 and PEB32 in WOW64 process 
  6.     // 2. PEB64 follows after PEB32 
  7.     // 3. This is true for version less then Windows 8, else __readfsdword returns address of real PEB64 
  8.     if (IsWin8OrHigher()) 
  9.     { 
  10.         BOOL isWow64 = FALSE
  11.         typedef BOOL(WINAPI *pfnIsWow64Process)(HANDLE hProcess, PBOOL isWow64); 
  12.         pfnIsWow64Process fnIsWow64Process = (pfnIsWow64Process) 
  13.             GetProcAddress(GetModuleHandleA("Kernel32.dll"), "IsWow64Process"); 
  14.         if (fnIsWow64Process(GetCurrentProcess(), &isWow64)) 
  15.         { 
  16.             if (isWow64) 
  17.             { 
  18.                 pPeb = (PVOID)__readfsdword(0x0C * sizeof(PVOID)); 
  19.                 pPeb = (PVOID)((PBYTE)pPeb + 0x1000); 
  20.             } 
  21.         } 
  22.     } 
  23. #endif 
  24.     return pPeb; 

检查操作系统版本的功能代码如下:

  1. WORD GetVersionWord() 
  2.     OSVERSIONINFO verInfo = { sizeof(OSVERSIONINFO) }; 
  3.     GetVersionEx(&verInfo); 
  4.     return MAKEWORD(verInfo.dwMinorVersion, verInfo.dwMajorVersion); 
  5. BOOL IsWin8OrHigher() { return GetVersionWord() >= _WIN32_WINNT_WIN8; } 
  6. BOOL IsVistaOrHigher() { return GetVersionWord() >= _WIN32_WINNT_VISTA; }        

如何避开IsDebuggerPresent检查

为了做到这一点,在执行检查代码之前,需要将0置于BeingDebugged。例如,可以使用DLL注入:

  1. mov eax, dword ptr fs:[0x30]   
  2. mov byte ptr ds:[eax+2], 0 

Windows X64里的进程如下:

  1. DWORD64 dwpeb = __readgsqword(0x60); 
  2. *((PBYTE)(dwpeb + 2)) = 0; 

TLS回调

其实,在主函数中检查调试器的存在不是最好的方法,因为TLS回调处于反汇编列表时反向工具的第一个位置。它实施的检查可以由nop指令擦除,从而解除保护。如果使用CRT库,则在将控制权转移到主函数之前,主线程就已经有一个调用堆栈了。执行调试器存在检查的一个方法便是TLS回调。如下图所示,在可执行模块入口调用之前就已经调用回调函数。

  1. #pragma section(".CRT$XLY", long, read
  2. __declspec(thread) int var = 0xDEADBEEF; 
  3. VOID NTAnopPI TlsCallback(PVOID DllHandle, DWORD Reason, VOID Reserved) 
  4.     var = 0xB15BADB0; // Required for TLS Callback call 
  5.     if (IsDebuggerPresent()) 
  6.     { 
  7.         MessageBoxA(NULL"Stop debugging program!""Error", MB_OK | MB_ICONERROR); 
  8.         TerminateProcess(GetCurrentProcess(), 0xBABEFACE); 
  9.     } 
  10. __declspec(allocate(".CRT$XLY"))PIMAGE_TLS_CALLBACK g_tlsCallback = TlsCallback; 

NtGlobalFlag

在Windows NT中,存在一组标识,它们存储在全局变量NtGlobalFlag中。在系统启动时,NtGlobalFlag全局系统变量将使用系统注册表项中的值进行初始化:

  1. [HKEY_LOCAL_MACHINESYSTEMCurrentControlSetControlSession ManagerGlobalFlag] 

该变量值用于系统跟踪,调试和控制。虽然变量标识未记录,但SDK包括gflags实用程序,它允许对一个全局标识值进行编辑。 PEB结构还包括NtGlobalFlag字段,其位结构不对应于NtGlobalFlag全局系统变量。在调试期间,这些标识在NtGlobalFlag字段中的设置如下:

  1. FLG_HEAP_ENABLE_TAIL_CHECK (0x10) 
  2. FLG_HEAP_ENABLE_FREE_CHECK (0x20) 
  3. FLG_HEAP_VALIDATE_PARAMETERS (0x40) 

要检查进程是否使用了调试器启动,你应该检查PEB结构的NtGlobalFlag字段的值。在x32和x64系统中,该字段位于PEB结构的开始处的0x068和0x0bc偏移处。

  1. 0:000> dt _PEB NtGlobalFlag @$peb  
  2. ntdll!_PEB 
  3.    +0x068 NtGlobalFlag : 0x70 

Windows X64里的进程如下:

  1. 0:000> dt _PEB NtGlobalFlag @$peb 
  2. ntdll!_PEB 
  3.    +0x0bc NtGlobalFlag : 0x70 

以下代码片段就是基于NtGlobalFlag标识检查的反调试保护:

  1. #define FLG_HEAP_ENABLE_TAIL_CHECK   0x10 
  2. #define FLG_HEAP_ENABLE_FREE_CHECK   0x20 
  3. #define FLG_HEAP_VALIDATE_PARAMETERS 0x40 
  4. #define NT_GLOBAL_FLAG_DEBUGGED (FLG_HEAP_ENABLE_TAIL_CHECK | FLG_HEAP_ENABLE_FREE_CHECK | FLG_HEAP_VALIDATE_PARAMETERS) 
  5. void CheckNtGlobalFlag() 
  6.     PVOID pPeb = GetPEB(); 
  7.     PVOID pPeb64 = GetPEB64(); 
  8.     DWORD offsetNtGlobalFlag = 0; 
  9. #ifdef _WIN64 
  10.     offsetNtGlobalFlag = 0xBC; 
  11. #else 
  12.     offsetNtGlobalFlag = 0x68; 
  13. #endif 
  14.     DWORD NtGlobalFlag = *(PDWORD)((PBYTE)pPeb + offsetNtGlobalFlag); 
  15.     if (NtGlobalFlag & NT_GLOBAL_FLAG_DEBUGGED) 
  16.     { 
  17.         std::cout << "Stop debugging program!" << std::endl; 
  18.         exit(-1); 
  19.     } 
  20.     if (pPeb64) 
  21.     { 
  22.         DWORD NtGlobalFlagWow64 = *(PDWORD)((PBYTE)pPeb64 + 0xBC); 
  23.         if (NtGlobalFlagWow64 & NT_GLOBAL_FLAG_DEBUGGED) 
  24.         { 
  25.             std::cout << "Stop debugging program!" << std::endl; 
  26.             exit(-1); 
  27.         } 
  28.     } 

如何避开NtGlobalFlag检查

在执行该检查之前,应该在通过反调试保护检查该值之前,将0调整为调试过程中PEB结构的NtGlobalFlag字段。

NtGlobalFlag和IMAGE_LOAD_CONFIG_DIRECTORY

可执行文件既包括IMAGE_LOAD_CONFIG_DIRECTORY结构,也包括系统加载程序的其他配置参数。不过在默认情况下,此结构不会内置到可执行文件中,需要使用补丁添加。此结构具有GlobalFlagsClear字段,对PEB结构中要重置的NtGlobalFlag字段进行了标识。如果最初没有对该结构或GlobalFlagsClear = 0创建可执行文件,那么在磁盘或内存中,该字段就具有非零值,隐藏的调试器就会正常运行。下面就是检查运行进程的内存和磁盘上的GlobalFlagsClear字段的代码,这是一种流行的反调试技术:

  1. PIMAGE_NT_HEADERS GetImageNtHeaders(PBYTE pImageBase) 
  2.     PIMAGE_DOS_HEADER pImageDosHeader = (PIMAGE_DOS_HEADER)pImageBase; 
  3.     return (PIMAGE_NT_HEADERS)(pImageBase + pImageDosHeader->e_lfanew); 
  4. PIMAGE_SECTION_HEADER FindRDataSection(PBYTE pImageBase) 
  5.     static const std::string rdata = ".rdata"
  6.     PIMAGE_NT_HEADERS pImageNtHeaders = GetImageNtHeaders(pImageBase); 
  7.     PIMAGE_SECTION_HEADER pImageSectionHeader = IMAGE_FIRST_SECTION(pImageNtHeaders); 
  8.     int n = 0; 
  9.     for (; n < pImageNtHeaders->FileHeader.NumberOfSections; ++n) 
  10.     { 
  11.         if (rdata == (char*)pImageSectionHeader[n].Name
  12.         { 
  13.             break; 
  14.         } 
  15.     } 
  16.     return &pImageSectionHeader[n]; 
  17. void CheckGlobalFlagsClearInProcess() 
  18.     PBYTE pImageBase = (PBYTE)GetModuleHandle(NULL); 
  19.     PIMAGE_NT_HEADERS pImageNtHeaders = GetImageNtHeaders(pImageBase); 
  20.     PIMAGE_LOAD_CONFIG_DIRECTORY pImageLoadConfigDirectory = (PIMAGE_LOAD_CONFIG_DIRECTORY)(pImageBase 
  21.         + pImageNtHeaders->OptionalHeader.DataDirectory[IMAGE_DIRECTORY_ENTRY_LOAD_CONFIG].VirtualAddress); 
  22.     if (pImageLoadConfigDirectory->GlobalFlagsClear != 0) 
  23.     { 
  24.         std::cout << "Stop debugging program!" << std::endl; 
  25.         exit(-1); 
  26.     } 
  27. void CheckGlobalFlagsClearInFile() 
  28.     HANDLE hExecutable = INVALID_HANDLE_VALUE; 
  29.     HANDLE hExecutableMapping = NULL
  30.     PBYTE pMappedImageBase = NULL
  31.     __try 
  32.     { 
  33.         PBYTE pImageBase = (PBYTE)GetModuleHandle(NULL); 
  34.         PIMAGE_SECTION_HEADER pImageSectionHeader = FindRDataSection(pImageBase); 
  35.         TCHAR pszExecutablePath[MAX_PATH]; 
  36.         DWORD dwPathLength = GetModuleFileName(NULL, pszExecutablePath, MAX_PATH); 
  37.         if (0 == dwPathLength) __leave; 
  38.         hExecutable = CreateFile(pszExecutablePath, GENERIC_READ, FILE_SHARE_READ, NULL, OPEN_EXISTING, 0, NULL); 
  39.         if (INVALID_HANDLE_VALUE == hExecutable) __leave; 
  40.         hExecutableMapping = CreateFileMapping(hExecutable, NULL, PAGE_READONLY, 0, 0, NULL); 
  41.         if (NULL == hExecutableMapping) __leave; 
  42.         pMappedImageBase = (PBYTE)MapViewOfFile(hExecutableMapping, FILE_MAP_READ, 0, 0, 
  43.             pImageSectionHeader->PointerToRawData + pImageSectionHeader->SizeOfRawData); 
  44.         if (NULL == pMappedImageBase) __leave; 
  45.         PIMAGE_NT_HEADERS pImageNtHeaders = GetImageNtHeaders(pMappedImageBase); 
  46.         PIMAGE_LOAD_CONFIG_DIRECTORY pImageLoadConfigDirectory = (PIMAGE_LOAD_CONFIG_DIRECTORY)(pMappedImageBase  
  47.             + (pImageSectionHeader->PointerToRawData 
  48.                 + (pImageNtHeaders->OptionalHeader.DataDirectory[IMAGE_DIRECTORY_ENTRY_LOAD_CONFIG].VirtualAddress - pImageSectionHeader->VirtualAddress))); 
  49.         if (pImageLoadConfigDirectory->GlobalFlagsClear != 0) 
  50.         { 
  51.             std::cout << "Stop debugging program!" << std::endl; 
  52.             exit(-1); 
  53.         } 
  54.     } 
  55.     __finally 
  56.     { 
  57.         if (NULL != pMappedImageBase) 
  58.             UnmapViewOfFile(pMappedImageBase); 
  59.         if (NULL != hExecutableMapping) 
  60.             CloseHandle(hExecutableMapping); 
  61.         if (INVALID_HANDLE_VALUE != hExecutable) 
  62.             CloseHandle(hExecutable); 
  63.     }  

在此代码中,CheckGlobalFlagsClearInProcess函数会通过加载当前运行的进程地址查找PIMAGE_LOAD_CONFIG_DIRECTORY结构,并检查GlobalFlagsClear字段值。如果不是0,那么该进程可能被调试。 CheckGlobalFlagsClearInFile函数也会执行相同的检查,但仅仅针对的是磁盘上的可执行文件。

HeapFlag和ForceFlags

PEB结构包含指向进程堆的指针— _HEAPP结构:

  1. 0:000> dt _PEB ProcessHeap @$peb 
  2. ntdll!_PEB 
  3.    +0x018 ProcessHeap : 0x00440000 Void0:000> dt _HEAP Flags ForceFlags 00440000 ntdll!_HEAP 
  4.    +0x040 Flags      : 0x40000062 
  5.    +0x044 ForceFlags : 0x40000060 

Windows X64里的进程如下:

  1. 0:000> dt _PEB ProcessHeap @$peb 
  2. ntdll!_PEB 
  3.    +0x030 ProcessHeap : 0x0000009d`94b60000 Void 
  4. 0:000> dt _HEAP Flags ForceFlags 0000009d`94b60000 
  5. ntdll!_HEAP 
  6.    +0x070 Flags      : 0x40000062 
  7.    +0x074 ForceFlags : 0x40000060 

如果正在调试进程,则两个字段Flags和ForceFlags都具有特定的调试值:

1.如果Flags字段没有设置HEAP_GROWABLE(0x00000002)标识,则正在调试进程。

2.如果ForceFlags!= 0,则正在调试进程。

不过要注意的是,_HEAP结构并未记录,并且Flags和ForceFlags字段的偏移值可能因操作系统版本而异。以下代码就是基于HeapFlag检查的反调试保护:

  1. int GetHeapFlagsOffset(bool x64) 
  2.     return x64 ? 
  3.         IsVistaOrHigher() ? 0x70 : 0x14: //x64 offsets 
  4.         IsVistaOrHigher() ? 0x40 : 0x0C; //x86 offsets 
  5. int GetHeapForceFlagsOffset(bool x64) 
  6.     return x64 ? 
  7.         IsVistaOrHigher() ? 0x74 : 0x18: //x64 offsets 
  8.         IsVistaOrHigher() ? 0x44 : 0x10; //x86 offsets 
  9. void CheckHeap() 
  10.     PVOID pPeb = GetPEB(); 
  11.     PVOID pPeb64 = GetPEB64(); 
  12.     PVOID heap = 0; 
  13.     DWORD offsetProcessHeap = 0; 
  14.     PDWORD heapFlagsPtr = 0, heapForceFlagsPtr = 0; 
  15.     BOOL x64 = FALSE
  16. #ifdef _WIN64 
  17.     x64 = TRUE
  18.     offsetProcessHeap = 0x30; 
  19. #else 
  20.     offsetProcessHeap = 0x18; 
  21. #endif 
  22.     heap = (PVOID)*(PDWORD_PTR)((PBYTE)pPeb + offsetProcessHeap); 
  23.     heapFlagsPtr = (PDWORD)((PBYTE)heap + GetHeapFlagsOffset(x64)); 
  24.     heapForceFlagsPtr = (PDWORD)((PBYTE)heap + GetHeapForceFlagsOffset(x64)); 
  25.     if (*heapFlagsPtr & ~HEAP_GROWABLE || *heapForceFlagsPtr != 0) 
  26.     { 
  27.         std::cout << "Stop debugging program!" << std::endl; 
  28.         exit(-1); 
  29.     } 
  30.     if (pPeb64) 
  31.     { 
  32.         heap = (PVOID)*(PDWORD_PTR)((PBYTE)pPeb64 + 0x30); 
  33.         heapFlagsPtr = (PDWORD)((PBYTE)heap + GetHeapFlagsOffset(true)); 
  34.         heapForceFlagsPtr = (PDWORD)((PBYTE)heap + GetHeapForceFlagsOffset(true)); 
  35.         if (*heapFlagsPtr & ~HEAP_GROWABLE || *heapForceFlagsPtr != 0) 
  36.         { 
  37.             std::cout << "Stop debugging program!" << std::endl; 
  38.             exit(-1); 
  39.         } 
  40.     } 

如何避开HeapFlag和ForceFlags检查

为了避开基于HeapFlag检查的反调试保护,应该为Flags字段设置HEAP_GROWABLE标识,并将ForceFlags的值设置为0.。但要注意的是,字段值的重新定义应该在HeapFlag检查之前执行。

陷阱标识检查

Trap Flag(陷阱标识)位于EFLAGS寄存器内,如果TF设置为1,CPU将在每个指令执行后产生INT 01h或单步异常(single-step exception)。以下就是基于TF设置和异常调用检查的反调试:

  1. BOOL isDebugged = TRUE
  2. __try 
  3.     __asm 
  4.     { 
  5.         pushfd 
  6.         or dword ptr[esp], 0x100 // set the Trap Flag  
  7.         popfd                    // Load the value into EFLAGS register 
  8.         nop 
  9.     } 
  10. __except (EXCEPTION_EXECUTE_HANDLER) 
  11.     // If an exception has been raised – debugger is not present 
  12.     isDebugged = FALSE
  13. if (isDebugged) 
  14.     std::cout << "Stop debugging program!" << std::endl; 
  15.     exit(-1); 

这里TF有意设置为生成异常。如果正在调试进程,则异常将被调试器捕获。

如何避开陷阱标识检查

为了在调试过程中避开TF标识检查,应该将pushfd指令传递给单步异常,但要跳过它,将断点置后,继续执行程序。断点后,跟踪可以继续。

CheckRemoteDebuggerPresent和NtQueryInformationProcess

与IsDebuggerPresent函数不同,CheckRemoteDebuggerPresent会检查一个进程是否被另一个同步进程调试。下图就是一个基于CheckRemoteDebuggerPresent的反调试技术:

  1. int main(int argc, char *argv[]) 
  2.     BOOL isDebuggerPresent = FALSE
  3.     if (CheckRemoteDebuggerPresent(GetCurrentProcess(), &isDebuggerPresent )) 
  4.     { 
  5.         if (isDebuggerPresent ) 
  6.         { 
  7.             std::cout << "Stop debugging program!" << std::endl; 
  8.             exit(-1); 
  9.         } 
  10.     } 
  11.     return 0; 

在CheckRemoteDebuggerPresent的内部,调用NtQueryInformationProcess函数:

  1. 0:000> uf kernelbase!CheckRemotedebuggerPresent 
  2. KERNELBASE!CheckRemoteDebuggerPresent: 
  3. ... 
  4. 75207a24 6a00            push    0 
  5. 75207a26 6a04            push    4 
  6. 75207a28 8d45fc          lea     eax,[ebp-4] 
  7. 75207a2b 50              push    eax 
  8. 75207a2c 6a07            push    7 
  9. 75207a2e ff7508          push    dword ptr [ebp+8] 
  10. 75207a31 ff151c602775    call    dword ptr [KERNELBASE!_imp__NtQueryInformationProcess (7527601c)] 
  11. 75207a37 85c0            test    eax,eax 
  12. 75207a39 0f88607e0100    js      KERNELBASE!CheckRemoteDebuggerPresent+0x2b (7521f89f) 
  13. ... 

如果我们来看看NtQueryInformationProcess文档,那么这个Assembler列表将向我们展示CheckRemoteDebuggerPresent函数获取DebugPort值,因为ProcessInformationClass参数值(第二个)为7,以下反调试代码就是基于调用NtQueryInformationProcess:

  1. typedef NTSTATUS(NTAPI *pfnNtQueryInformationProcess)( 
  2.     _In_      HANDLE           ProcessHandle, 
  3.     _In_      UINT             ProcessInformationClass, 
  4.     _Out_     PVOID            ProcessInformation, 
  5.     _In_      ULONG            ProcessInformationLength, 
  6.     _Out_opt_ PULONG           ReturnLength 
  7.     ); 
  8. const UINT ProcessDebugPort = 7; 
  9. int main(int argc, char *argv[]) 
  10.     pfnNtQueryInformationProcess NtQueryInformationProcess = NULL
  11.     NTSTATUS status; 
  12.     DWORD isDebuggerPresent = 0; 
  13.     HMODULE hNtDll = LoadLibrary(TEXT("ntdll.dll")); 
  14.      
  15.     if (NULL != hNtDll) 
  16.     { 
  17.         NtQueryInformationProcess = (pfnNtQueryInformationProcess)GetProcAddress(hNtDll, "NtQueryInformationProcess"); 
  18.         if (NULL != NtQueryInformationProcess) 
  19.         { 
  20.             status = NtQueryInformationProcess( 
  21.                 GetCurrentProcess(), 
  22.                 ProcessDebugPort, 
  23.                 &isDebuggerPresent, 
  24.                 sizeof(DWORD), 
  25.                 NULL); 
  26.             if (status == 0x00000000 && isDebuggerPresent != 0) 
  27.             { 
  28.                 std::cout << "Stop debugging program!" << std::endl; 
  29.                 exit(-1); 
  30.             } 
  31.         } 
  32.     } 
  33.     return 0; 

如何避开CheckRemoteDebuggerPresent和NtQueryInformationProcess

应该替换NtQueryInformationProcess函数返回的值。如果要使用mhook,就要先设置一个钩子,可以将DLL注入到调试过程中,并使用mhook在DLLMain中设置一个钩子。以下就是一个mhook用法的例子:

  1. #include <Windows.h> 
  2. #include "mhook.h" 
  3. typedef NTSTATUS(NTAPI *pfnNtQueryInformationProcess)( 
  4.     _In_      HANDLE           ProcessHandle, 
  5.     _In_      UINT             ProcessInformationClass, 
  6.     _Out_     PVOID            ProcessInformation, 
  7.     _In_      ULONG            ProcessInformationLength, 
  8.     _Out_opt_ PULONG           ReturnLength 
  9.     ); 
  10. const UINT ProcessDebugPort = 7; 
  11. pfnNtQueryInformationProcess g_origNtQueryInformationProcess = NULL
  12. NTSTATUS NTAPI HookNtQueryInformationProcess( 
  13.     _In_      HANDLE           ProcessHandle, 
  14.     _In_      UINT             ProcessInformationClass, 
  15.     _Out_     PVOID            ProcessInformation, 
  16.     _In_      ULONG            ProcessInformationLength, 
  17.     _Out_opt_ PULONG           ReturnLength 
  18.     ) 
  19.     NTSTATUS status = g_origNtQueryInformationProcess( 
  20.         ProcessHandle, 
  21.         ProcessInformationClass, 
  22.         ProcessInformation, 
  23.         ProcessInformationLength, 
  24.         ReturnLength); 
  25.     if (status == 0x00000000 && ProcessInformationClass == ProcessDebugPort) 
  26.     { 
  27.         *((PDWORD_PTR)ProcessInformation) = 0; 
  28.     } 
  29.     return status; 
  30. DWORD SetupHook(PVOID pvContext) 
  31.     HMODULE hNtDll = LoadLibrary(TEXT("ntdll.dll")); 
  32.     if (NULL != hNtDll) 
  33.     { 
  34.         g_origNtQueryInformationProcess = (pfnNtQueryInformationProcess)GetProcAddress(hNtDll, "NtQueryInformationProcess"); 
  35.         if (NULL != g_origNtQueryInformationProcess) 
  36.         { 
  37.             Mhook_SetHook((PVOID*)&g_origNtQueryInformationProcess, HookNtQueryInformationProcess); 
  38.         } 
  39.     } 
  40.     return 0; 
  41. BOOL WINAPI DllMain(HINSTANCE hInstDLL, DWORD fdwReason, LPVOID lpvReserved) 
  42.     switch (fdwReason) 
  43.     { 
  44.     case DLL_PROCESS_ATTACH: 
  45.         DisableThreadLibraryCalls(hInstDLL); 
  46.         CreateThread(NULLNULL, (LPTHREAD_START_ROUTINE)SetupHook, NULLNULLNULL); 
  47.         Sleep(20); 
  48.     case DLL_PROCESS_DETACH: 
  49.         if (NULL != g_origNtQueryInformationProcess) 
  50.         { 
  51.             Mhook_Unhook((PVOID*)&g_origNtQueryInformationProcess); 
  52.         } 
  53.         break; 
  54.     } 
  55.     return TRUE

基于NtQueryInformationProcess的其他反调试保护技术

可以从NtQueryInformationProcess函数提供的信息知道,还有更多的调试器检测技术:

1.ProcessDebugPort 0x07,已在上面讨论过。

2.ProcessDebugObjectHandle 0x1E

3.ProcessDebugFlags 0x1F

4.ProcessBasicInformation 0x00

ProcessDebugObjectHandle

从Windows XP开始,研究人员就为调试过程创建了调试对象。以下就是检查当前进程调试对象的案例:

  1. status = NtQueryInformationProcess( 
  2.             GetCurrentProcess(), 
  3.             ProcessDebugObjectHandle, 
  4.             &hProcessDebugObject, 
  5.             sizeof(HANDLE), 
  6.             NULL); 
  7. if (0x00000000 == status && NULL != hProcessDebugObject) 
  8.     std::cout << "Stop debugging program!" << std::endl; 
  9.     exit(-1); 

如果有调试对象,则正在调试该进程。

ProcessDebugFlags

当检查该标识时,它会返回到EPROCESS内核结构的NoDebugInherit位的反转值。如果NtQueryInformationProcess函数的返回值为0,则正在调试进程。以下就是一个这样的反调试检查的例子:

  1. status = NtQueryInformationProcess( 
  2.     GetCurrentProcess(), 
  3.     ProcessDebugObjectHandle, 
  4.     &debugFlags, 
  5.     sizeof(ULONG), 
  6.     NULL); 
  7. if (0x00000000 == status && NULL != debugFlags) 
  8.     std::cout << "Stop debugging program!" << std::endl; 
  9.     exit(-1); 
  10. }    

ProcessBasicInformation

当使用ProcessBasicInformation标识调用NtQueryInformationProcess函数时,会返回PROCESS_BASIC_INFORMATION结构:

  1. typedef struct _PROCESS_BASIC_INFORMATION { 
  2.     NTSTATUS ExitStatus; 
  3.     PVOID PebBaseAddress; 
  4.     ULONG_PTR AffinityMask; 
  5.     KPRIORITY BasePriority; 
  6.     HANDLE UniqueProcessId; 
  7.     HANDLE InheritedFromUniqueProcessId; 
  8. } PROCESS_BASIC_INFORMATION, *PPROCESS_BASIC_INFORMATION; 

该结构中最有趣的是InheritedFromUniqueProcessId字段。在这里,我们需要获取父进程的名称并将其与流行调试器的名称进行比较,以下是这种反调试检查的列表:

  1. std::wstring GetProcessNameById(DWORD pid) 
  2.     HANDLE hProcessSnap = CreateToolhelp32Snapshot(TH32CS_SNAPPROCESS, 0); 
  3.     if (hProcessSnap == INVALID_HANDLE_VALUE) 
  4.     { 
  5.         return 0; 
  6.     } 
  7.     PROCESSENTRY32 pe32; 
  8.     pe32.dwSize = sizeof(PROCESSENTRY32); 
  9.     std::wstring processName = L""
  10.     if (!Process32First(hProcessSnap, &pe32)) 
  11.     { 
  12.         CloseHandle(hProcessSnap); 
  13.         return processName; 
  14.     } 
  15.     do 
  16.     { 
  17.         if (pe32.th32ProcessID == pid) 
  18.         { 
  19.             processName = pe32.szExeFile; 
  20.             break; 
  21.         } 
  22.     } while (Process32Next(hProcessSnap, &pe32)); 
  23.      
  24.     CloseHandle(hProcessSnap); 
  25.     return processName; 
  26. status = NtQueryInformationProcess( 
  27.     GetCurrentProcess(), 
  28.     ProcessBasicInformation, 
  29.     &processBasicInformation, 
  30.     sizeof(PROCESS_BASIC_INFORMATION), 
  31.     NULL); 
  32. std::wstring parentProcessName = GetProcessNameById((DWORD)processBasicInformation.InheritedFromUniqueProcessId); 
  33. if (L"devenv.exe" == parentProcessName) 
  34.     std::cout << "Stop debugging program!" << std::endl; 
  35.     exit(-1); 

如何避开NtQueryInformationProcess检查

避开是非常简单的, NtQueryInformationProcess函数返回的值应该更改为那些不指示调试器存在的值:

1.将ProcessDebugObjectHandle设置为0

2.将ProcessDebugFlags设置为1

3.对于ProcessBasicInformation,将InheritedFromUniqueProcessId值更改为另一个进程ID,例如, Explorer.exe的

断点

断点,调试器的功能之一,可以让程序中断在需要的地方,从而方便其分析。两种类型的断点:

1.软件断点

2.硬件断点

在没有断点的情况下很难进行逆向工程,所以目前流行的反逆向工程策略都是基于检测断点,然后提供一系列相应的反调试方法。

软件断点

在IA-32架构中,有一个特定的指令 – int 3h,带有0xCC操作码,用于调用调试句柄。当CPU执行该指令时,会产生中断并将控制传输到调试器。为了达到控制的目的,调试器必须将int 3h指令注入到代码中。要检测断点,我们可以计算函数的校验和。

  1. DWORD CalcFuncCrc(PUCHAR funcBegin, PUCHAR funcEnd) 
  2.     DWORD crc = 0; 
  3.     for (; funcBegin < funcEnd; ++funcBegin) 
  4.     { 
  5.         crc += *funcBegin; 
  6.     } 
  7.     return crc; 
  8. #pragma auto_inline(off
  9. VOID DebuggeeFunction() 
  10.     int calc = 0; 
  11.     calc += 2; 
  12.     calc <<= 8; 
  13.     calc -= 3; 
  14. VOID DebuggeeFunctionEnd() 
  15. }; 
  16. #pragma auto_inline(on
  17. DWORD g_origCrc = 0x2bd0; 
  18. int main() 
  19.     DWORD crc = CalcFuncCrc((PUCHAR)DebuggeeFunction, (PUCHAR)DebuggeeFunctionEnd); 
  20.     if (g_origCrc != crc) 
  21.     { 
  22.         std::cout << "Stop debugging program!" << std::endl; 
  23.         exit(-1); 
  24.     } 
  25.     return 0; 

要注意的是,如果设置了/ INCREMENTAL:NO链接器选项,那么在获取函数地址来计算校验和的情况下,将会得到相对跳转地址:

  1. DebuggeeFunction: 
  2. 013C16DB  jmp         DebuggeeFunction (013C4950h) 

g_origCrc全局变量包含已由CalcFuncCrc函数计算的crc。为了终止检测函数,我们使用了存根函数的技巧。按着函数代码顺序排列,DebuggeeFunction函数的末尾是DebuggeeFunctionEnd函数的开头。我们还使用#pragma auto_inline(off)指令来防止编译器的嵌入函数。

如何避开软件断点检查

由于目前还没有一个通用的方法,所以为了避开此保护,应该找到代码计算校验和并用常量替换返回的值,以及存储函数校验和的所有变量的值。

硬件断点

在Windows x86架构中,开发人员在检查和调试代码时使用了一组调试寄存器。这些寄存器允许在访问内存读取或写入时中断程序执行并将控制传输到调试器。调试寄存器是一种特权资源,只能在具有特权级别CPL = 0的实模式或安全模式下由程序使用。8字节的调试寄存器DR0-DR7有:

1.DR0-DR3 -断点寄存器

2.DR4,DR5 -储藏

3.DR6 -调试状态

4.DR7 – 调试控制

DR0-DR3包含断点的线性地址,这些地址的比较是在物理地址转换之前进行的。这些断点中的每一个都会在DR7寄存器中被单独描述。 DR6寄存器会指示哪个断点被激活。 DR7通过访问模式定义断点激活模式:读,写,执行。以下是硬件断点检查的示例:

  1. CONTEXT ctx = {}; 
  2. ctx.ContextFlags = CONTEXT_DEBUG_REGISTERS; 
  3. if (GetThreadContext(GetCurrentThread(), &ctx)) 
  4.     if (ctx.Dr0 != 0 || ctx.Dr1 != 0 || ctx.Dr2 != 0 || ctx.Dr3 != 0) 
  5.     { 
  6.         std::cout << "Stop debugging program!" << std::endl; 
  7.         exit(-1); 
  8.     } 

也可以通过SetThreadContext函数重置硬件断点,以下是硬件断点重置示例:

  1. CONTEXT ctx = {}; 
  2. ctx.ContextFlags = CONTEXT_DEBUG_REGISTERS; 
  3. SetThreadContext(GetCurrentThread(), &ctx); 

我们可以看到,所有DRx寄存器都设置为了0。

如何避开硬件断点检查和重置

如果我们看看GetThreadContext函数,我们会明白它调用了NtGetContextThread函数:

  1. 0:000> u KERNELBASE!GetThreadContext L6 
  2. KERNELBASE!GetThreadContext: 
  3. 7538d580 8bff            mov     edi,edi 
  4. 7538d582 55              push    ebp 
  5. 7538d583 8bec            mov     ebp,esp 
  6. 7538d585 ff750c          push    dword ptr [ebp+0Ch] 
  7. 7538d588 ff7508          push    dword ptr [ebp+8] 
  8. 7538d58b ff1504683975    call    dword ptr [KERNELBASE!_imp__NtGetContextThread (75396804)] 

如果反调试保护在Dr0-Dr7中接收到零值,应该在CONTEXT结构的ContextFlags字段中重置CONTEXT_DEBUG_REGISTERS标识,然后在原始的NtGetContextThread函数调用后恢复其值。对于GetThreadContext函数,它在内部调用NtSetContextThread。以下就是避开硬件断点的检查和重置:

  1. typedef NTSTATUS(NTAPI *pfnNtGetContextThread)( 
  2.     _In_  HANDLE             ThreadHandle, 
  3.     _Out_ PCONTEXT           pContext 
  4.     ); 
  5. typedef NTSTATUS(NTAPI *pfnNtSetContextThread)( 
  6.     _In_ HANDLE              ThreadHandle, 
  7.     _In_ PCONTEXT            pContext 
  8.     ); 
  9. pfnNtGetContextThread g_origNtGetContextThread = NULL
  10. pfnNtSetContextThread g_origNtSetContextThread = NULL
  11. NTSTATUS NTAPI HookNtGetContextThread( 
  12.     _In_  HANDLE              ThreadHandle, 
  13.     _Out_ PCONTEXT            pContext) 
  14.     DWORD backupContextFlags = pContext->ContextFlags; 
  15.     pContext->ContextFlags &= ~CONTEXT_DEBUG_REGISTERS; 
  16.     NTSTATUS status = g_origNtGetContextThread(ThreadHandle, pContext); 
  17.     pContext->ContextFlags = backupContextFlags; 
  18.     return status; 
  19. NTSTATUS NTAPI HookNtSetContextThread( 
  20.     _In_ HANDLE              ThreadHandle, 
  21.     _In_ PCONTEXT            pContext) 
  22.     DWORD backupContextFlags = pContext->ContextFlags; 
  23.     pContext->ContextFlags &= ~CONTEXT_DEBUG_REGISTERS; 
  24.     NTSTATUS status = g_origNtSetContextThread(ThreadHandle, pContext);    
  25.     pContext->ContextFlags = backupContextFlags; 
  26.     return status; 
  27. void HookThreadContext() 
  28. HMODULE hNtDll = LoadLibrary(TEXT("ntdll.dll")); 
  29. g_origNtGetContextThread = (pfnNtGetContextThread)GetProcAddress(hNtDll, "NtGetContextThread"); 
  30. g_origNtSetContextThread = (pfnNtSetContextThread)GetProcAddress(hNtDll, "NtSetContextThread"); 
  31. Mhook_SetHook((PVOID*)&g_origNtGetContextThread, HookNtGetContextThread); 
  32. Mhook_SetHook((PVOID*)&g_origNtSetContextThread, HookNtSetContextThread); 

SEH(结构化异常处理)

SEH是Windows操作系统提供给程序设计者的强有力的处理程序错误或异常处理的工具,允许其接收关于异常情况的通知,例如除数是0导致的错误,引用不存在的指针或执行受限制的指令。这种机制允许处理应用程序中的异常,而无需操作系统操作。如果不对异常进行处理,则会导致异常程序终止。开发人员通常能在堆栈中找到SEH的指针,它们被称为SEH Frame。当前SEH Frame地址位于x64系统的FS选择器或GS选择器的0的偏移处,这个地址指向ntdll!_EXCEPTION_REGISTRATION_RECORD结构:

  1. 0:000> dt ntdll!_EXCEPTION_REGISTRATION_RECORD 
  2.    +0x000 Next             : Ptr32 _EXCEPTION_REGISTRATION_RECORD 
  3.    +0x004 Handler          : Ptr32 _EXCEPTION_DISPOSITION 

当启动异常时,控制将传输到当前的SEH处理程序。根据情况,SEH处理程序应返回一个_EXCEPTION_DISPOSITION值:

  1. typedef enum _EXCEPTION_DISPOSITION { 
  2.     ExceptionContinueExecution, 
  3.     ExceptionContinueSearch, 
  4.     ExceptionNestedException, 
  5.     ExceptionCollidedUnwind 
  6. } EXCEPTION_DISPOSITION; 

如果处理程序返回ExceptionContinueSearch,系统会继续执行指令,从而触发异常。如果处理程序不知道如何处理异常,它应该返回ExceptionContinueSearch,转到系统中的下一个处理程序。你可以使用windbg调试器中的!exchain命令浏览当前的异常链:

  1. 0:000> !exchain 
  2. 00a5f3bc: AntiDebug!_except_handler4+0 (008b7530) 
  3.   CRT scope  0, filter: AntiDebug!SehInternals+67 (00883d67) 
  4.                 func:   AntiDebug!SehInternals+6d (00883d6d) 
  5. 00a5f814: AntiDebug!__scrt_stub_for_is_c_termination_complete+164b (008bc16b) 
  6. 00a5f87c: AntiDebug!_except_handler4+0 (008b7530) 
  7.   CRT scope  0, filter: AntiDebug!__scrt_common_main_seh+1b0 (008b7c60) 
  8.                 func:   AntiDebug!__scrt_common_main_seh+1cb (008b7c7b) 
  9. 00a5f8e8: ntdll!_except_handler4+0 (775674a0) 
  10.   CRT scope  0, filter: ntdll!__RtlUserThreadStart+54386 (7757f076) 
  11.                 func:   ntdll!__RtlUserThreadStart+543cd (7757f0bd) 
  12. 00a5f900: ntdll!FinalExceptionHandlerPad4+0 (77510213) 

链中的最后一部分是系统分配的默认处理程序。如果以前没有异常的处理程序,则系统处理程序将转到注册表以获取

  1. HKEY_LOCAL_MACHINESoftwareMicrosoftWindows NTCurrentVersionAeDebug 

根据AeDebug密钥值,应用程序将被终止或控制被传送到调试器。调试器路径应在调试器REG_SZ中指示。

在创建新进程时,系统会向其添加主要SEH Frame。主SEH Frame的处理程序也由系统定义。主要的SEH Frame本身几乎位于最初为进程分配的堆栈内存中。 SEH处理函数签名如下所示:

  1. typedef EXCEPTION_DISPOSITION (*PEXCEPTION_ROUTINE) ( 
  2.     __in struct _EXCEPTION_RECORD *ExceptionRecord, 
  3.     __in PVOID EstablisherFrame, 
  4.     __inout struct _CONTEXT *ContextRecord, 
  5.     __inout PVOID DispatcherContext 
  6.     ); 

如果正在调试应用程序,在int 3h中断生成后,控制将被调试器拦截。否则,控制将被转移

到SEH处理程序。以下代码就是基于SEH Frame的反调试保护:

  1. BOOL g_isDebuggerPresent = TRUE
  2. EXCEPTION_DISPOSITION ExceptionRoutine( 
  3.     PEXCEPTION_RECORD ExceptionRecord, 
  4.     PVOID             EstablisherFrame, 
  5.     PCONTEXT          ContextRecord, 
  6.     PVOID             DispatcherContext) 
  7.     g_isDebuggerPresent = FALSE
  8.     ContextRecord->Eip += 1; 
  9.     return ExceptionContinueExecution; 
  10. int main() 
  11.     __asm 
  12.     { 
  13.         // set SEH handler 
  14.         push ExceptionRoutine 
  15.         push dword ptr fs:[0] 
  16.         mov  dword ptr fs:[0], esp 
  17.         // generate interrupt 
  18.         int  3h 
  19.         // return original SEH handler 
  20.         mov  eax, [esp] 
  21.         mov  dword ptr fs:[0], eax 
  22.         add  esp, 8 
  23.     } 
  24.     if (g_isDebuggerPresent) 
  25.     { 
  26.         std::cout << "Stop debugging program!" << std::endl; 
  27.         exit(-1); 
  28.     } 
  29.     return 0 

上面的示例显示了对SEH处理程序的设置,指向SEH Frame的指针放在处理程序链的开头,然后产生int 3h中断。如果应用程序未被调试,则控制将被传送到SEH处理程序,g_isDebuggerPresent值将被设置为FALSE。 ContextRecord-> Eip + = 1行更改执行流程中下一条指令的地址,这将导致执行int 3h后的指令。然后代码返回原始SEH处理程序,清除堆栈,并检查调试器是否存在。

如何避开SEH检查

虽然不存在一个普遍的方法,但还是有一些技术,能够实现这一点。我们来看看利用调用堆栈如何导致SEH处理程序调用:

  1. 0:000> kn 
  2.  # ChildEBP RetAddr   
  3. 00 0059f06c 775100b1 AntiDebug!ExceptionRoutine  
  4. 01 0059f090 77510083 ntdll!ExecuteHandler2+0x26 
  5. 02 0059f158 775107ff ntdll!ExecuteHandler+0x24 
  6. 03 0059f158 003b11a5 ntdll!KiUserExceptionDispatcher+0xf 
  7. 04 0059fa90 003d7f4e AntiDebug!main+0xb5 
  8. 05 0059faa4 003d7d9a AntiDebug!invoke_main+0x1e 
  9. 06 0059fafc 003d7c2d AntiDebug!__scrt_common_main_seh+0x15a  
  10. 07 0059fb04 003d7f68 AntiDebug!__scrt_common_main+0xd  
  11. 08 0059fb0c 753e7c04 AntiDebug!mainCRTStartup+0x8 
  12. 09 0059fb20 7752ad1f KERNEL32!BaseThreadInitThunk+0x24 
  13. 0a 0059fb68 7752acea ntdll!__RtlUserThreadStart+0x2f 
  14. 0b 0059fb78 00000000 ntdll!_RtlUserThreadStart+0x1b 

接着我们就要分析每个被称为SEH处理程序的代码,如果保护是基于SEH处理程序的多次呼叫,则很难就行反调试了。

VEH(向量化异常处理)

VEH是从Windows XP开始引入的,虽然它是SEH的一个变体,但两者彼此独立运行, VEH优先权高于SHE,只有VEH不处理某个异常的时候,异常处理权才会到达SEH.。当添加新的VEH处理程序时,SEH链不受影响,因为VEH处理程序的列表存储在ntdll!LdrpVectorHandlerList非导出的变量中。 VEH和SEH机制非常相似,唯一的区别是记录功能被用于设置和删除VEN处理程序。添加和删除VEH处理程序以及VEH处理函数的原函数签名如下:

  1. PVOID WINAPI AddVectoredExceptionHandler( 
  2.     ULONG                       FirstHandler, 
  3.     PVECTORED_EXCEPTION_HANDLER VectoredHandler 
  4. ); 
  5. ULONG WINAPI RemoveVectoredExceptionHandler( 
  6.     PVOID Handler 
  7. ); 
  8. LONG CALLBACK VectoredHandler( 
  9.     PEXCEPTION_POINTERS ExceptionInfo 
  10. ); 
  11. The _EXCEPTION_POINTERS structure looks like this:   
  12. typedef struct _EXCEPTION_POINTERS { 
  13.   PEXCEPTION_RECORD ExceptionRecord; 
  14.   PCONTEXT          ContextRecord; 
  15. } EXCEPTION_POINTERS, *PEXCEPTION_POINTERS; 

在处理程序中收到控制权后,系统会收集当前进程的上下文并通过ContextRecord参数进行传递。以下就是一个使用向量异常处理的反调试保护代码:

  1. LONG CALLBACK ExceptionHandler(PEXCEPTION_POINTERS ExceptionInfo) 
  2.     PCONTEXT ctx = ExceptionInfo->ContextRecord; 
  3.     if (ctx->Dr0 != 0 || ctx->Dr1 != 0 || ctx->Dr2 != 0 || ctx->Dr3 != 0) 
  4.     { 
  5.         std::cout << "Stop debugging program!" << std::endl; 
  6.         exit(-1); 
  7.     } 
  8.     ctx->Eip += 2; 
  9.     return EXCEPTION_CONTINUE_EXECUTION; 
  10. int main() 
  11.     AddVectoredExceptionHandler(0, ExceptionHandler); 
  12.     __asm int 1h; 
  13.     return 0; 

在这里,我们设置了一个VEH处理程序并产生中断(不需要int 1h)。在中断生成时,出现异常,控制被传送到VEH处理程序。如果设置了硬件断点,程序执行停止。如果没有硬件断点,则EIP寄存器值会增加2,以在int 1h处生成指令后继续执行。

如何避开硬件断点检查和VEH

我们来看看导致VEH处理程序的调用堆栈:

  1. 0:000> kn 
  2.  # ChildEBP RetAddr   
  3. 00 001cf21c 774d6822 AntiDebug!ExceptionHandler  
  4. 01 001cf26c 7753d151 ntdll!RtlpCallVectoredHandlers+0xba02 001cf304 775107ff ntdll!RtlDispatchException+0x7203 001cf304 00bf4a69 ntdll!KiUserExceptionDispatcher+0xf04 001cfc1c 00c2680e AntiDebug!main+0x59  
  5. 05 001cfc30 00c2665a AntiDebug!invoke_main+0x1e  
  6. 06 001cfc88 00c264ed AntiDebug!__scrt_common_main_seh+0x15a  
  7. 07 001cfc90 00c26828 AntiDebug!__scrt_common_main+0xd  
  8. 08 001cfc98 753e7c04 AntiDebug!mainCRTStartup+0x8  
  9. 09 001cfcac 7752ad1f KERNEL32!BaseThreadInitThunk+0x24 
  10. 0a 001cfcf4 7752acea ntdll!__RtlUserThreadStart+0x2f 
  11. 0b 001cfd04 00000000 ntdll!_RtlUserThreadStart+0x1b 

我们可以看到,控制从主+ 0x59转移到ntdll!KiUserExceptionDispatcher。让我们看看主+ 0x59中的什么指令导致了这个调用:

  1. 0:000> u main+59 L1 
  2. AntiDebug!main+0x59 
  3. 00bf4a69 cd02            int     1       

这是产生中断的指令, KiUserExceptionDispatcher函数是系统从内核模式调用到用户模式的回调方法之一。以下是它的签名:

  1. VOID NTAPI KiUserExceptionDispatcher( 
  2.     PEXCEPTION_RECORD pExcptRec,  
  3.     PCONTEXT ContextFrame 
  4. ); 

下面就是避开了应用KiUserExceptionDispatcher函数钩子的硬件断点检查的代码:

  1. typedef  VOID (NTAPI *pfnKiUserExceptionDispatcher)( 
  2.     PEXCEPTION_RECORD pExcptRec, 
  3.     PCONTEXT ContextFrame 
  4.     ); 
  5. pfnKiUserExceptionDispatcher g_origKiUserExceptionDispatcher = NULL
  6. VOID NTAPI HandleKiUserExceptionDispatcher(PEXCEPTION_RECORD pExcptRec, PCONTEXT ContextFrame) 
  7.     if (ContextFrame && (CONTEXT_DEBUG_REGISTERS & ContextFrame->ContextFlags)) 
  8.     { 
  9.         ContextFrame->Dr0 = 0; 
  10.         ContextFrame->Dr1 = 0; 
  11.         ContextFrame->Dr2 = 0; 
  12.         ContextFrame->Dr3 = 0; 
  13.         ContextFrame->Dr6 = 0; 
  14.         ContextFrame->Dr7 = 0; 
  15.         ContextFrame->ContextFlags &= ~CONTEXT_DEBUG_REGISTERS; 
  16.     } 
  17. __declspec(naked) VOID NTAPI HookKiUserExceptionDispatcher()  
  18. // Params: PEXCEPTION_RECORD pExcptRec, PCONTEXT ContextFrame 
  19.     __asm 
  20.     { 
  21.         mov eax, [esp + 4] 
  22.         mov ecx, [esp] 
  23.         push eax 
  24.         push ecx 
  25.         call HandleKiUserExceptionDispatcher 
  26.         jmp g_origKiUserExceptionDispatcher 
  27.     } 
  28. int main() 
  29.     HMODULE hNtDll = LoadLibrary(TEXT("ntdll.dll")); 
  30.     g_origKiUserExceptionDispatcher = (pfnKiUserExceptionDispatcher)GetProcAddress(hNtDll, "KiUserExceptionDispatcher"); 
  31.     Mhook_SetHook((PVOID*)&g_origKiUserExceptionDispatcher, HookKiUserExceptionDispatcher); 
  32.     return 0; 

在这个例子中,DRx寄存器的值在HookKiUserExceptionDispatcher函数中被复位,即在VEH处理程序调用之前。

NtSetInformationThread —从调试器隐藏线程

在Windows 2000中,ThreadHideFromDebugger这项技术用到了常常被用来设置线程优先级的API ntdll!NtSetInformationThread(),它是Windows提供的第一个反调试技术之一,功能非常强大。如果把该标识设置为一个线程,它将停止发送关于调试事件的通知。如果为主线程设置了ThreadHideFromDebugger,则这些事件包括关于程序完成的断点和通知。该标识的值存储在_ETHREAD结构的HideFromDebugger字段中,如下所示:

  1. 1: kd> dt _ETHREAD HideFromDebugger 86bfada8 
  2. ntdll!_ETHREAD 
  3.    +0x248 HideFromDebugger : 0y1 

以下是设置ThreadHideFromDebugger的示例:

  1. typedef NTSTATUS (NTAPI *pfnNtSetInformationThread)( 
  2.     _In_ HANDLE ThreadHandle, 
  3.     _In_ ULONG  ThreadInformationClass, 
  4.     _In_ PVOID  ThreadInformation, 
  5.     _In_ ULONG  ThreadInformationLength 
  6.     ); 
  7. const ULONG ThreadHideFromDebugger = 0x11; 
  8. void HideFromDebugger() 
  9.     HMODULE hNtDll = LoadLibrary(TEXT("ntdll.dll")); 
  10.     pfnNtSetInformationThread NtSetInformationThread = (pfnNtSetInformationThread) 
  11.         GetProcAddress(hNtDll, "NtSetInformationThread"); 
  12.     NTSTATUS status = NtSetInformationThread(GetCurrentThread(),  
  13.         ThreadHideFromDebugger, NULL, 0); 

如何避开从调试器隐藏线程

为了防止应用程序将线程隐藏到调试器中,需要钩住NtSetInformationThread函数调用。以下就是一个钩子代码:

  1. pfnNtSetInformationThread g_origNtSetInformationThread = NULL
  2. NTSTATUS NTAPI HookNtSetInformationThread( 
  3.     _In_ HANDLE ThreadHandle, 
  4.     _In_ ULONG  ThreadInformationClass, 
  5.     _In_ PVOID  ThreadInformation, 
  6.     _In_ ULONG  ThreadInformationLength 
  7.     ) 
  8.     if (ThreadInformationClass == ThreadHideFromDebugger &&  
  9.         ThreadInformation == 0 && ThreadInformationLength == 0) 
  10.     { 
  11.         return STATUS_SUCCESS; 
  12.     } 
  13.     return g_origNtSetInformationThread(ThreadHandle,  
  14.         ThreadInformationClass, ThreadInformation, ThreadInformationLength 
  15.                                          
  16. void SetHook() 
  17.     HMODULE hNtDll = LoadLibrary(TEXT("ntdll.dll")); 
  18.     if (NULL != hNtDll) 
  19.     { 
  20.         g_origNtSetInformationThread = (pfnNtSetInformationThread)GetProcAddress(hNtDll, "NtSetInformationThread"); 
  21.         if (NULL != g_origNtSetInformationThread) 
  22.         { 
  23.             Mhook_SetHook((PVOID*)&g_origNtSetInformationThread, HookNtSetInformationThread); 
  24.         } 
  25.     } 

在钩子函数中,当以正确的方式调用它时,就将返回STATUS_SUCCESS,而不将控制权转移到原始的NtSetInformationThread函数。

NtCreateThreadEx

Windows Vista引入了NtCreateThreadEx函数,其函数如下:

  1. NTSTATUS NTAPI NtCreateThreadEx ( 
  2.     _Out_    PHANDLE              ThreadHandle, 
  3.     _In_     ACCESS_MASK          DesiredAccess, 
  4.     _In_opt_ POBJECT_ATTRIBUTES   ObjectAttributes, 
  5.     _In_     HANDLE               ProcessHandle, 
  6.     _In_     PVOID                StartRoutine, 
  7.     _In_opt_ PVOID                Argument, 
  8.     _In_     ULONG                CreateFlags, 
  9.     _In_opt_ ULONG_PTR            ZeroBits, 
  10.     _In_opt_ SIZE_T               StackSize, 
  11.     _In_opt_ SIZE_T               MaximumStackSize, 
  12.     _In_opt_ PVOID                AttributeList 
  13. ); 

最有趣的参数是CreateFlags,这个参数的标识如下:

  1. #define THREAD_CREATE_FLAGS_CREATE_SUSPENDED 0x00000001 
  2. #define THREAD_CREATE_FLAGS_SKIP_THREAD_ATTACH 0x00000002 
  3. #define THREAD_CREATE_FLAGS_HIDE_FROM_DEBUGGER 0x00000004 
  4. #define THREAD_CREATE_FLAGS_HAS_SECURITY_DESCRIPTOR 0x00000010 
  5. #define THREAD_CREATE_FLAGS_ACCESS_CHECK_IN_TARGET 0x00000020 
  6. #define THREAD_CREATE_FLAGS_INITIAL_THREAD 0x00000080    

如果一个新线程获取了THREAD_CREATE_FLAGS_HIDE_FROM_DEBUGGER标识,它将在调试器创建时被隐藏。它是由NtSetInformationThread函数设置的ThreadHideFromDebugger,负责安全运行的代码可以在设置了THREAD_CREATE_FLAGS_HIDE_FROM_DEBUGGER标识的线程中执行。

如何避开NtCreateThreadEx

该技术可以通过钩子NtCreateThreadEx函数来避开,其中THREAD_CREATE_FLAGS_HIDE_FROM_DEBUGGER将被重置。

如何处理跟踪

从Windows XP开始,系统就配置了内核对象句柄跟踪的机制。当跟踪模式打开时,具有处理程序的所有操作都将保存到循环缓冲区,同时也尝试使用不存在的处理程序,例如,使用CloseHandle函数关闭它,将生成EXCEPTION_INVALID_HADNLE异常。如果进程不是从调试器启动,那么CloseHandle函数将返回FALSE。以下就是基于CloseHandle的防调试保护:

  1. EXCEPTION_DISPOSITION ExceptionRoutine( 
  2.     PEXCEPTION_RECORD ExceptionRecord, 
  3.     PVOID             EstablisherFrame, 
  4.     PCONTEXT          ContextRecord, 
  5.     PVOID             DispatcherContext) 
  6.     if (EXCEPTION_INVALID_HANDLE == ExceptionRecord->ExceptionCode) 
  7.     { 
  8.         std::cout << "Stop debugging program!" << std::endl; 
  9.         exit(-1); 
  10.     } 
  11.     return ExceptionContinueExecution; 
  12. int main() 
  13.     __asm 
  14.     { 
  15.         // set SEH handler 
  16.         push ExceptionRoutine 
  17.         push dword ptr fs : [0] 
  18.         mov  dword ptr fs : [0], esp 
  19.     } 
  20.     CloseHandle((HANDLE)0xBAAD); 
  21.     __asm 
  22.     { 
  23.         // return original SEH handler 
  24.         mov  eax, [esp] 
  25.         mov  dword ptr fs : [0], eax 
  26.         add  esp, 8 
  27.     } 
  28.     return 0 

堆栈段操作

当使用ss堆栈段寄存器进行操作时,调试器将跳过指令跟踪。如下图所示,调试器将立即移至xor edx,edx指令,同时执行上一条指令:

  1. __asm 
  2.     push ss 
  3.     pop  ss 
  4.     mov  eax, 0xC000C1EE // This line will be traced over by debugger 
  5.     xor  edx, edx        // Debugger will step to this line 

总结

本文介绍了一系列对付反调试技术的技术,都是一些易于操作的方法,其实还有很多方法:

1.自调试过程;

2.使用FindWindow函数进行调试器检测;

3.时间计算方法;

4.NtQueryObject;

5. BlockInput;

6.NtSetDebugFilterState;

7.自修改代码;

最后想再次强调,即使是最好的对付反调试的方法也不能完全防止恶意软件的攻击,对付反调试技术的主要目标是尽可能的使那些的恶意软件的攻击变得困难。

责任编辑:武晓燕 来源: 嘶吼
相关推荐

2018-03-12 10:15:10

前端Javascript反调试

2019-01-09 08:16:31

2020-01-06 10:01:12

JavaScript浏览器HTML

2011-02-23 09:35:25

Eclipse远程调试

2022-08-02 13:56:37

C开发段错误

2017-06-01 13:19:59

Android安全防护

2021-03-25 08:12:31

JS编辑器String

2022-11-02 08:51:01

2023-12-07 07:26:04

2018-03-08 08:04:53

JavaScript反调试恶意软件

2009-10-14 14:37:56

调试.NET程序

2021-09-07 07:53:43

Console函数DOM

2019-04-18 09:31:07

iOS项目开发断点代码

2010-10-29 16:06:55

Oracle存储过程

2012-12-13 13:32:10

2012-02-20 15:04:58

2011-02-22 16:09:53

Eclipse调试

2010-09-27 15:28:27

2015-05-18 09:31:15

2009-03-08 19:10:57

Windows 7多语言
点赞
收藏

51CTO技术栈公众号