1. 原理首先我們來看一下linker的 /subsystem 選項
該選項的語法形式如下:
/SUBSYSTEM:{CONSOLE|EFI_APPLICATION|EFI_BOOT_SERVICE_DRIVER|
EFI_ROM|EFI_RUNTIME_DRIVER|NATIVE|POSIX|WINDOWS|WINDOWSCE}
[,major[.minor]]
這個鏈接選項告訴操作系統(tǒng)如何運行可執(zhí)行文件
CONSOLE:
win32 字符模式應用程序,此種類型的應用程序在運行的時候會產(chǎn)生一個類似DOS
窗口的控制臺窗口,如果在應用程序的主函數(shù)為main()或者wmain(),在默認情況下
該應用程序就是一個控制臺應用程序
Extensible Firmware Interface
和CPU具體架構(gòu)相關(guān)的一個參數(shù)選項,并不常用,在這里暫不詳細介紹.
如果對此有興趣的可以訪問intel主頁來查看相關(guān)內(nèi)容
NATIVE;
設備驅(qū)動器選項,如果/DRIVER:WDM選項被設定的話,該鏈接選項(NATIVE)就為默認選項
POSIX:
在windows NT 種運行在POSIX子系統(tǒng)上的應用程序
WINDOWS:
該類型的應用程序不產(chǎn)生console窗口,該類型的應用程序的窗口由用戶自己創(chuàng)建,簡而言之
就是一個標準的Win32 application,其入口地址為WinMain()函數(shù)或者wWinMain()函數(shù)的地址
如果你在應用程序種定義的主函數(shù)為WinMain或者wWinMain,在默認情況下該應用程序就是一個
Win32 Application !
WINDOWSCE:
運行在windows CE上的應用程序
major and minor (optional):
主版本號和次版本號,該選項為可選,該選項為0~65535之間的十進制整數(shù)
從上面可以看出如果我們建立一個win32 console application的話,linker的/subsystem選項應該為
CONSOLE,可以在VC開發(fā)環(huán)境的project->setting->link->project option中看到!
接下來我們再看看應用程序是如何運行的!
我們知道用VC編寫的程序,運行的時候是需要 C\C++運行庫支持的.當我們運行一個C/C++程序的時候
鏈接器會首先尋找應用程序的啟動函數(shù),例如:
如果你建立了一個console程序的話,編譯器得鏈接開關(guān)會是以下這種形式
/subsystem:"console" /entry:"mainCRTStartup" (ANSI)
/subsystem:"console" /entry:"wmainCRTStartuup" (UNICODE)
如果你建立了一個win32 application,編譯器得鏈接開關(guān)則會是一下形式
/subsystem:"windows" /entry:"WinMain" (ANSI)
/sbusystem:"windows" /entry:"wWinMain" (UINCODE)
上面的兩種形式可以再project->setting->link->project option中看到
上面的subsystem和entry并不需要都設置,如果你只設置了/subsystem:"console"
的話,那么默認的entry開關(guān)在默認情況下應為/entry:"mainCRTStartup"
反之,如果你在應用程序中定義了main函數(shù)的話,默認情況下,你的/subsystem開關(guān)
應該為/system:"console"
在默認情況下/subsystem 和/entry開關(guān)是匹配的,也就是
console對應mainCRTStartup或者wmainCRTStartup
windows對應WinMain或者wWinMain
但是我們也可以通過手動改動的方式使他們不匹配
例如我們可以這樣改動
#pragma comment( linker, "/subsystem:\"windows\" /entry:\"mainCRTStartup\"" ) // 設置入口地址
int main(int argc, char* argv[])
{
MessageBox(NULL, "hello", "Notice", MB_OK);
return 0;
}
在默認情況下鏈接器看到/subsystem下是windows選項的時候,它會自動尋找WinMain或者wWinMain
但我們強制指定入口地址,這樣運行程序的時候默認的console窗口就會隱藏!
上面是在代碼中使用#pragma指令來設置,還有一種就是直接在開發(fā)環(huán)境的
project->setting->link->project option中手工改動!
在明白了通過/subsystem選項可以控制鏈接程序的類型后，我們可以根據(jù)需要來生成具有控制臺的Windows窗口程序。
2. 生成具有console窗口的Win32窗口程序（不使用MFC）
使用Visual Studio.Net 2003建立一個Win 32窗口項目（不使用MFC）：Win32WithConsole，在項目的屬性對話框中，依次選擇‘配置屬性’->‘鏈接器’->‘system’，在‘子系統(tǒng)’一項中，將‘Windows (/SUBSYSTEM:WINDOWS)’改為‘控制臺(/SUBSYSTEM:CONSOLE)’ 。現(xiàn)在，該項目所生成的可執(zhí)行文件的入口函數(shù)將是mainCRTStartup或是wmainCRTStartup，我們只需要定義一個main函數(shù)，并進行適當?shù)娜肟趨?shù)轉(zhuǎn)換，同時在該main函數(shù)中調(diào)用原來的入口函數(shù)_tWinMain即可。下面是Win32WithConsole.cpp文件中我們需要添加的main函數(shù)：
int _tmain(int argc, _TCHAR* argv[])
{
HINSTANCE hInstance = (HINSTANCE)GetModuleHandle(NULL);
HINSTANCE hPreInstance = NULL;
TCHAR szCmdLine[1024];
szCmdLine[0] = 0;
LPTSTR lpCmdLine = szCmdLine;
for ( int i = 1; i < argc; i++ )
{
if ( i > 1 )
{
_tcscpy(lpCmdLine, _T(" "));
lpCmdLine = lpCmdLine + _tcslen(_T(" "));
}
_tcscpy(lpCmdLine, argv[i]);
lpCmdLine = lpCmdLine + _tcslen(argv[i]);
}
lpCmdLine = szCmdLine;
int nCmdShow = SW_SHOWNORMAL;
int ret = _tWinMain(hInstance, hPreInstance, lpCmdLine, nCmdShow);
return 0;
}
可以參考附加的文件Win32WithConsole.rar。
3.生成具有console窗口的MFC窗口應用程序
使用向?qū)梢粋€多文檔的MFC應用程序，MFCWithConsole。同樣，將該項目配置為‘控制臺(/SUBSYSTEM:CONSOLE)’，下面我們需要找到MFC應用程序的入口函數(shù)。通過調(diào)試該程序，我們可以發(fā)現(xiàn)，MFC框架通過AfxWinMain來調(diào)用項目中全局CWinApp變量theApp的InitInstance成員函數(shù)，從而啟動整個應用程序。因此，我們可以使用兩種方式來顯式調(diào)用AfxWinMain函數(shù)，從而創(chuàng)建一個具有console窗口的MFC窗口應用程序。
第一種方法是在MFCWithConsole項目中加入AfxWinMain的定義，該函數(shù)的定義可以從winmain.cpp文件中，下面是其具體內(nèi)容：
int AFXAPI AfxWinMain(HINSTANCE hInstance, HINSTANCE hPrevInstance,
LPTSTR lpCmdLine, int nCmdShow)
{
ASSERT(hPrevInstance == NULL);
int nReturnCode = -1;
CWinThread* pThread = AfxGetThread();
CWinApp* pApp = AfxGetApp();
// AFX internal initialization
if (!AfxWinInit(hInstance, hPrevInstance, lpCmdLine, nCmdShow))
goto InitFailure;
// App global initializations (rare)
if (pApp != NULL && !pApp->InitApplication())
goto InitFailure;
// Perform specific initializations
if (!pThread->InitInstance())
{
if (pThread->m_pMainWnd != NULL)
{
TRACE(traceAppMsg, 0, "Warning: Destroying non-NULL m_pMainWnd\n");
pThread->m_pMainWnd->DestroyWindow();
}
nReturnCode = pThread->ExitInstance();
goto InitFailure;
}
nReturnCode = pThread->Run();
InitFailure:
#ifdef _DEBUG
// Check for missing AfxLockTempMap calls
if (AfxGetModuleThreadState()->m_nTempMapLock != 0)
{
TRACE(traceAppMsg, 0, "Warning: Temp map lock count non-zero (%ld).\n",
AfxGetModuleThreadState()->m_nTempMapLock);
}
AfxLockTempMaps();
AfxUnlockTempMaps(-1);
#endif
AfxWinTerm();
return nReturnCode;
}
第二種方法是顯式加載mfc71d.dll或是mfc71.dll，并調(diào)用其中的AfxWinMain函數(shù)。不過，這兩個動態(tài)鏈接庫都是使用NONAME的方式來導出函數(shù)的，因此只能通過函數(shù)序號的方式來調(diào)用AfxWinMain函數(shù)。通過在IDA Pro中對這兩個動態(tài)鏈接庫進行反編譯，我們可以發(fā)現(xiàn)AfxWinMain在mfc71d.dll中的序號為1589，而在mfc71.dll中的序號為1207，下面即是使用動態(tài)鏈接庫的方式調(diào)用AfxWinMain的方法。
// wrong
// typedef int __stdcall (*MYPROC)(HINSTANCE, HINSTANCE,LPTSTR, int);
typedef int (__stdcall *AFXWINMAIN_FUNC)(HINSTANCE, HINSTANCE,LPTSTR, int);
#ifdef _DEBUG
#define MFC_DLL_NAME _T("mfc71d.dll")
#define AFXWINMAIN_ORDINAL 1589
#else
#define MFC_DLL_NAME _T("mfc71.dll")
#define AFXWINMAIN_ORDINAL 1207
#endif
int _tmain()
{
#ifndef _AFXDLL
char _afxInitAppState = (char)(AfxInitialize(FALSE, _MFC_VER), atexit(&_AfxTermAppState));
#else
char _afxInitAppState = (char)(AfxInitialize(FALSE, _MFC_VER));
#endif
HINSTANCE hinstLib = LoadLibrary(MFC_DLL_NAME);
AFXWINMAIN_FUNC ProcAdd;
int ret = 0;
// If the handle is valid, try to get the function address.
if (hinstLib != NULL)
{
ProcAdd = (AFXWINMAIN_FUNC) GetProcAddress(hinstLib, MAKEINTRESOURCE(AFXWINMAIN_ORDINAL));
// If the function address is valid, call the function.
if (NULL != ProcAdd)
{
HINSTANCE hInstance = (HINSTANCE)GetModuleHandle(NULL);
HINSTANCE hPrevInstance = NULL;
LPTSTR lpCmdLine = NULL;
int nCmdShow = SW_SHOWNORMAL;
ret = (*ProcAdd)(hInstance, hPrevInstance, lpCmdLine, nCmdShow);
}
// Free the DLL module.
FreeLibrary(hinstLib);
}
return ret;
}
需要說明的是，在GetProcAddress函數(shù)中，我們需要調(diào)用MAKEINTRESOURCE來將函數(shù)序號進行轉(zhuǎn)化。 另外，對于AFXWINMAIN_FUNC的定義一定要加上__stdcall的調(diào)用約定，因為AfxWinMain是采用__stdcall方式來調(diào)用的。最后還有一點需要注意，我們需要使用AfxInitialize來注冊退出函數(shù)，否則程序?qū)⒉荒苷_退出。