1. 原理首先我們來看一下linker的 /subsystem 選項(xiàng)
該選項(xiàng)的語法形式如下:
/SUBSYSTEM:{CONSOLE|EFI_APPLICATION|EFI_BOOT_SERVICE_DRIVER|
EFI_ROM|EFI_RUNTIME_DRIVER|NATIVE|POSIX|WINDOWS|WINDOWSCE}
[,major[.minor]]
這個(gè)鏈接選項(xiàng)告訴操作系統(tǒng)如何運(yùn)行可執(zhí)行文件
CONSOLE:
win32 字符模式應(yīng)用程序,此種類型的應(yīng)用程序在運(yùn)行的時(shí)候會(huì)產(chǎn)生一個(gè)類似DOS
窗口的控制臺(tái)窗口,如果在應(yīng)用程序的主函數(shù)為main()或者wmain(),在默認(rèn)情況下
該應(yīng)用程序就是一個(gè)控制臺(tái)應(yīng)用程序
Extensible Firmware Interface
和CPU具體架構(gòu)相關(guān)的一個(gè)參數(shù)選項(xiàng),并不常用,在這里暫不詳細(xì)介紹.
如果對此有興趣的可以訪問intel主頁來查看相關(guān)內(nèi)容
NATIVE;
設(shè)備驅(qū)動(dòng)器選項(xiàng),如果/DRIVER:WDM選項(xiàng)被設(shè)定的話,該鏈接選項(xiàng)(NATIVE)就為默認(rèn)選項(xiàng)
POSIX:
在windows NT 種運(yùn)行在POSIX子系統(tǒng)上的應(yīng)用程序
WINDOWS:
該類型的應(yīng)用程序不產(chǎn)生console窗口,該類型的應(yīng)用程序的窗口由用戶自己創(chuàng)建,簡而言之
就是一個(gè)標(biāo)準(zhǔn)的Win32 application,其入口地址為WinMain()函數(shù)或者wWinMain()函數(shù)的地址
如果你在應(yīng)用程序種定義的主函數(shù)為WinMain或者wWinMain,在默認(rèn)情況下該應(yīng)用程序就是一個(gè)
Win32 Application !
WINDOWSCE:
運(yùn)行在windows CE上的應(yīng)用程序
major and minor (optional):
主版本號(hào)和次版本號(hào),該選項(xiàng)為可選,該選項(xiàng)為0~65535之間的十進(jìn)制整數(shù)
從上面可以看出如果我們建立一個(gè)win32 console application的話,linker的/subsystem選項(xiàng)應(yīng)該為
CONSOLE,可以在VC開發(fā)環(huán)境的project->setting->link->project option中看到!
接下來我們再看看應(yīng)用程序是如何運(yùn)行的!
我們知道用VC編寫的程序,運(yùn)行的時(shí)候是需要 C\C++運(yùn)行庫支持的.當(dāng)我們運(yùn)行一個(gè)C/C++程序的時(shí)候
鏈接器會(huì)首先尋找應(yīng)用程序的啟動(dòng)函數(shù),例如:
如果你建立了一個(gè)console程序的話,編譯器得鏈接開關(guān)會(huì)是以下這種形式
/subsystem:"console" /entry:"mainCRTStartup" (ANSI)
/subsystem:"console" /entry:"wmainCRTStartuup" (UNICODE)
如果你建立了一個(gè)win32 application,編譯器得鏈接開關(guān)則會(huì)是一下形式
/subsystem:"windows" /entry:"WinMain" (ANSI)
/sbusystem:"windows" /entry:"wWinMain" (UINCODE)
上面的兩種形式可以再project->setting->link->project option中看到
上面的subsystem和entry并不需要都設(shè)置,如果你只設(shè)置了/subsystem:"console"
的話,那么默認(rèn)的entry開關(guān)在默認(rèn)情況下應(yīng)為/entry:"mainCRTStartup"
反之,如果你在應(yīng)用程序中定義了main函數(shù)的話,默認(rèn)情況下,你的/subsystem開關(guān)
應(yīng)該為/system:"console"
在默認(rèn)情況下/subsystem 和/entry開關(guān)是匹配的,也就是
console對應(yīng)mainCRTStartup或者wmainCRTStartup
windows對應(yīng)WinMain或者wWinMain
但是我們也可以通過手動(dòng)改動(dòng)的方式使他們不匹配
例如我們可以這樣改動(dòng)
#pragma comment( linker, "/subsystem:\"windows\" /entry:\"mainCRTStartup\"" ) // 設(shè)置入口地址
int main(int argc, char* argv[])
{
MessageBox(NULL, "hello", "Notice", MB_OK);
return 0;
}
在默認(rèn)情況下鏈接器看到/subsystem下是windows選項(xiàng)的時(shí)候,它會(huì)自動(dòng)尋找WinMain或者wWinMain
但我們強(qiáng)制指定入口地址,這樣運(yùn)行程序的時(shí)候默認(rèn)的console窗口就會(huì)隱藏!
上面是在代碼中使用#pragma指令來設(shè)置,還有一種就是直接在開發(fā)環(huán)境的
project->setting->link->project option中手工改動(dòng)!
在明白了通過/subsystem選項(xiàng)可以控制鏈接程序的類型后，我們可以根據(jù)需要來生成具有控制臺(tái)的Windows窗口程序。
2. 生成具有console窗口的Win32窗口程序（不使用MFC）
使用Visual Studio.Net 2003建立一個(gè)Win 32窗口項(xiàng)目（不使用MFC）：Win32WithConsole，在項(xiàng)目的屬性對話框中，依次選擇‘配置屬性’->‘鏈接器’->‘system’，在‘子系統(tǒng)’一項(xiàng)中，將‘Windows (/SUBSYSTEM:WINDOWS)’改為‘控制臺(tái)(/SUBSYSTEM:CONSOLE)’ 。現(xiàn)在，該項(xiàng)目所生成的可執(zhí)行文件的入口函數(shù)將是mainCRTStartup或是wmainCRTStartup，我們只需要定義一個(gè)main函數(shù)，并進(jìn)行適當(dāng)?shù)娜肟趨?shù)轉(zhuǎn)換，同時(shí)在該main函數(shù)中調(diào)用原來的入口函數(shù)_tWinMain即可。下面是Win32WithConsole.cpp文件中我們需要添加的main函數(shù)：
int _tmain(int argc, _TCHAR* argv[])
{
HINSTANCE hInstance = (HINSTANCE)GetModuleHandle(NULL);
HINSTANCE hPreInstance = NULL;
TCHAR szCmdLine[1024];
szCmdLine[0] = 0;
LPTSTR lpCmdLine = szCmdLine;
for ( int i = 1; i < argc; i++ )
{
if ( i > 1 )
{
_tcscpy(lpCmdLine, _T(" "));
lpCmdLine = lpCmdLine + _tcslen(_T(" "));
}
_tcscpy(lpCmdLine, argv[i]);
lpCmdLine = lpCmdLine + _tcslen(argv[i]);
}
lpCmdLine = szCmdLine;
int nCmdShow = SW_SHOWNORMAL;
int ret = _tWinMain(hInstance, hPreInstance, lpCmdLine, nCmdShow);
return 0;
}
可以參考附加的文件Win32WithConsole.rar。
3.生成具有console窗口的MFC窗口應(yīng)用程序
使用向?qū)梢粋€(gè)多文檔的MFC應(yīng)用程序，MFCWithConsole。同樣，將該項(xiàng)目配置為‘控制臺(tái)(/SUBSYSTEM:CONSOLE)’，下面我們需要找到MFC應(yīng)用程序的入口函數(shù)。通過調(diào)試該程序，我們可以發(fā)現(xiàn)，MFC框架通過AfxWinMain來調(diào)用項(xiàng)目中全局CWinApp變量theApp的InitInstance成員函數(shù)，從而啟動(dòng)整個(gè)應(yīng)用程序。因此，我們可以使用兩種方式來顯式調(diào)用AfxWinMain函數(shù)，從而創(chuàng)建一個(gè)具有console窗口的MFC窗口應(yīng)用程序。
第一種方法是在MFCWithConsole項(xiàng)目中加入AfxWinMain的定義，該函數(shù)的定義可以從winmain.cpp文件中，下面是其具體內(nèi)容：
int AFXAPI AfxWinMain(HINSTANCE hInstance, HINSTANCE hPrevInstance,
LPTSTR lpCmdLine, int nCmdShow)
{
ASSERT(hPrevInstance == NULL);
int nReturnCode = -1;
CWinThread* pThread = AfxGetThread();
CWinApp* pApp = AfxGetApp();
// AFX internal initialization
if (!AfxWinInit(hInstance, hPrevInstance, lpCmdLine, nCmdShow))
goto InitFailure;
// App global initializations (rare)
if (pApp != NULL && !pApp->InitApplication())
goto InitFailure;
// Perform specific initializations
if (!pThread->InitInstance())
{
if (pThread->m_pMainWnd != NULL)
{
TRACE(traceAppMsg, 0, "Warning: Destroying non-NULL m_pMainWnd\n");
pThread->m_pMainWnd->DestroyWindow();
}
nReturnCode = pThread->ExitInstance();
goto InitFailure;
}
nReturnCode = pThread->Run();
InitFailure:
#ifdef _DEBUG
// Check for missing AfxLockTempMap calls
if (AfxGetModuleThreadState()->m_nTempMapLock != 0)
{
TRACE(traceAppMsg, 0, "Warning: Temp map lock count non-zero (%ld).\n",
AfxGetModuleThreadState()->m_nTempMapLock);
}
AfxLockTempMaps();
AfxUnlockTempMaps(-1);
#endif
AfxWinTerm();
return nReturnCode;
}
第二種方法是顯式加載mfc71d.dll或是mfc71.dll，并調(diào)用其中的AfxWinMain函數(shù)。不過，這兩個(gè)動(dòng)態(tài)鏈接庫都是使用NONAME的方式來導(dǎo)出函數(shù)的，因此只能通過函數(shù)序號(hào)的方式來調(diào)用AfxWinMain函數(shù)。通過在IDA Pro中對這兩個(gè)動(dòng)態(tài)鏈接庫進(jìn)行反編譯，我們可以發(fā)現(xiàn)AfxWinMain在mfc71d.dll中的序號(hào)為1589，而在mfc71.dll中的序號(hào)為1207，下面即是使用動(dòng)態(tài)鏈接庫的方式調(diào)用AfxWinMain的方法。
// wrong
// typedef int __stdcall (*MYPROC)(HINSTANCE, HINSTANCE,LPTSTR, int);
typedef int (__stdcall *AFXWINMAIN_FUNC)(HINSTANCE, HINSTANCE,LPTSTR, int);
#ifdef _DEBUG
#define MFC_DLL_NAME _T("mfc71d.dll")
#define AFXWINMAIN_ORDINAL 1589
#else
#define MFC_DLL_NAME _T("mfc71.dll")
#define AFXWINMAIN_ORDINAL 1207
#endif
int _tmain()
{
#ifndef _AFXDLL
char _afxInitAppState = (char)(AfxInitialize(FALSE, _MFC_VER), atexit(&_AfxTermAppState));
#else
char _afxInitAppState = (char)(AfxInitialize(FALSE, _MFC_VER));
#endif
HINSTANCE hinstLib = LoadLibrary(MFC_DLL_NAME);
AFXWINMAIN_FUNC ProcAdd;
int ret = 0;
// If the handle is valid, try to get the function address.
if (hinstLib != NULL)
{
ProcAdd = (AFXWINMAIN_FUNC) GetProcAddress(hinstLib, MAKEINTRESOURCE(AFXWINMAIN_ORDINAL));
// If the function address is valid, call the function.
if (NULL != ProcAdd)
{
HINSTANCE hInstance = (HINSTANCE)GetModuleHandle(NULL);
HINSTANCE hPrevInstance = NULL;
LPTSTR lpCmdLine = NULL;
int nCmdShow = SW_SHOWNORMAL;
ret = (*ProcAdd)(hInstance, hPrevInstance, lpCmdLine, nCmdShow);
}
// Free the DLL module.
FreeLibrary(hinstLib);
}
return ret;
}
需要說明的是，在GetProcAddress函數(shù)中，我們需要調(diào)用MAKEINTRESOURCE來將函數(shù)序號(hào)進(jìn)行轉(zhuǎn)化。 另外，對于AFXWINMAIN_FUNC的定義一定要加上__stdcall的調(diào)用約定，因?yàn)锳fxWinMain是采用__stdcall方式來調(diào)用的。最后還有一點(diǎn)需要注意，我們需要使用AfxInitialize來注冊退出函數(shù)，否則程序?qū)⒉荒苷_退出。