# 模块编译及运行时
回顾前几节,Webpack 运行过程中首先会根据 Module
之间的引用关系构建 ModuleGraph
对象;接下来按照若干内置规则将 Module
组织进不同 Chunk
对象中,形成 ChunkGraph
关系图。
接着,构建流程将来到最后一个重要步骤:生成产物代码,这个过程会将所有 Module
内容一一转换为适当的产物代码形态,并以 Chunk
为单位合并 Module
产物代码,之后根据 Module
中出现的特性依赖,补充相应运行时代码,最终构建出我们日常所见的 Webpack Bundle 代码文件。
# 模块转译
Webpack 的打包功能并不是将原始文件代码“复制-粘贴”到产物文件那么简单,为了确保代码能在不同环境 —— 多种版本的浏览器、Node、Electron 等正常运行,构建时需要对模块源码适当做一些转换操作,这一点在大多数构建产物的内容中都有所体现。
# 模块转译主流程
剖析模块转译、运行时依赖分析、产物合并的具体实现逻辑。
compilation.seal
函数内会调用 buildChunkGraph
生成 Chunk 依赖关系图,之后 Webpack 就可以分析出:
- 需要输出那些 Chunk;
- 每个 Chunk 包含那些 Module,以及每个 Module 经过 Loader 翻译后的代码内容;
- Chunk 与 Chunk 之间的父子依赖关系。
在此之后 seal
函数会开始触发一堆优化钩子,借助插件对 ChunkGraph 做诸如合并、拆分、删除无效 Chunk 等优化操作,并在最后调用 compilation.codeGeneration (opens new window) 方法:
class Compilation {
seal(callback) {
// 初始化 ChunkGraph、ChunkGroup 对象
for (const [name, { dependencies, includeDependencies, options }] of this.entries) {
// ...
}
for (const [name,{options: { dependOn, runtime },},] of this.entries) {
// ...
}
// 构建 ChunkGroup
buildChunkGraph(this, chunkGraphInit);
// 执行诸多优化钩子
this.hooks.optimize.call();
// ...
this.hooks.optimizeTree.callAsync(this.chunks, this.modules, (err) => {
// ...
this.hooks.optimizeChunkModules.callAsync(this.chunks, this.modules, (err) => {
// ...
this.hooks.beforeCodeGeneration.call();
// 开始生成最终产物代码
this.codeGeneration(/* ... */);
}
);
});
}
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
codeGeneration
方法负责生成最终的资产代码,主要流程:
单模块转译:这一步主要用于计算模块实际输出代码,遍历 compilation.modules 数组,调用 (opens new window) module 对象的 codeGeneration (opens new window) 方法,执行模块转译计算:
调用 (opens new window) JavascriptGenerator 的 generate (opens new window) 方法;
遍历 (opens new window) module 对象的 dependencies 与 presentationalDependencies 数组;
执行 (opens new window) 每个数组项 dependeny 对象对应的 template.apply 方法,方法中视情况可能产生三种副作用:
- 直接修改模块 source 数据,如 ConstDependency.Template (opens new window);
- 将结果记录到 initFragments 数组如 HarmonyExportSpecifierDependency (opens new window);
- 将运行时依赖记录到 runtimeRequirements 数组如 HarmonyImportDependency (opens new window)。
收集运行时依赖:计算模块运行时,首先调用 compilation.processRuntimeRequirements 方法,将上一步生成的 runtimeRequirements 数组一一转换为 RuntimeModule 对象,并挂载到 ChunkGroup 中。
模块合并:调用 compilation.createChunkAssets 方法,以 Chunk 为单位,将相应的所有 module 及 runtimeModule 按规则塞进「产物框架」 中,最终合并输出成完整的 Bundle 文件。
这些就是 Webpack 最终消费 ModuleGraph 与 ChunkGraph,生成最终产物代码的关键过程,总结而言,就是先遍历所有模块依赖对象,收集模块编译结果与运行时依赖,之后将这些内容合并在一起输出为 Bundle 文件。
# 单模块转译
「模块转译」 操作从 module.codeGeneration
调用开始,对应到上述流程图的:
这个过程首先调用 JavascriptGenerator.generate
函数,遍历模块的 dependencies
数组,依次调用依赖对象对应的 Template
子类 apply
方法更新模块内容,说起来有点绕,我将重要步骤抽取为如下伪代码:
class JavascriptGenerator {
generate(module, generateContext) {
// 先取出 module 的原始代码内容
const source = new ReplaceSource(module.originalSource());
const { dependencies, presentationalDependencies } = module;
const initFragments = [];
for (const dependency of [...dependencies, ...presentationalDependencies]) {
// 找到 dependency 对应的 template
const template = generateContext.dependencyTemplates.get(dependency.constructor);
// 调用 template.apply,传入 source、initFragments
// 在 apply 函数可以直接修改 source 内容,或者更改 initFragments 数组,影响后续转译逻辑
template.apply(dependency, source, {initFragments})
}
// 遍历完毕后,调用 InitFragment.addToSource 合并 source 与 initFragments
return InitFragment.addToSource(source, initFragments, generateContext);
}
}
// Dependency 子类
class xxxDependency extends Dependency {}
// Dependency 子类对应的 Template 定义
const xxxDependency.Template = class xxxDependencyTemplate extends Template {
apply(dep, source, {initFragments}) {
// 1. 直接操作 source,更改模块代码
source.replace(dep.range[0], dep.range[1] - 1, 'some thing')
// 2. 通过添加 InitFragment 实例,补充代码
initFragments.push(new xxxInitFragment())
}
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
从上述伪代码可以看出,JavascriptGenerator.generate
函数的逻辑相对比较固化:
- 初始化
source
、initFragments
等变量; - 遍历
module
对象的依赖数组,找到每个dependency
对应的template
对象,调用template.apply
函数修改模块内容; - 调用
InitFragment.addToSource
方法,合并source
与initFragments
数组,生成最终结果。
这里的重点是 JavascriptGenerator.generate
函数并不操作 module
源码,它仅仅提供一个执行框架,真正处理模块内容转译的逻辑都在 xxxDependencyTemplate
对象的 apply
函数实现。
每个 Dependency
子类都会挂载一个 Template
子类,且通常这两个类都会写在同一个文件中,例如 ConstDependency (opens new window) 与 ConstDependencyTemplate
;NullDependency
与 NullDependencyTemplate
。
Webpack 从「构建」(make) 阶段开始,就会通过 Dependency
子类记录不同情况下模块之间的依赖关系;到「封装」(seal) 阶段再通过 Template
子类修改 module
代码,最终 Module
、Template
、 JavascriptGenerator
、Dependency
四个关键类形成如下交互关系:
Template
对象会通过三种方法影响产物代码:
- 直接操作
source
对象,修改模块代码,该对象最初的内容等于模块的源码,经过多个Template.apply
函数流转后逐渐被替换成新的代码形式; - 操作
initFragments
数组,在模块源码之外插入补充代码片段; - 将运行时依赖记录到
runtimeRequirements
数组。
其中第 1、2 种操作所产生的副作用,最终都会被传入 InitFragment.addToSource
函数,合并成最终结果。
# 通过 source 修改模块代码
webpack-sources (opens new window) 是 Webpack 中用于编辑字符串的一套工具类库,它提供了一系列代码编辑方法,包括:
- 字符串合并、替换、插入等;
- 模块代码缓存、sourcemap 映射、hash 计算等。
Webpack 内部以及社区的很多插件、loader 都会使用 webpack-sources (opens new window) 库编辑代码内容,包括上文介绍的 Template.apply
体系。逻辑上,在启动模块代码生成流程时,Webpack 会先用模块原始内容初始化 (opens new window) Source
对象,即:
const source = new ReplaceSource(module.originalSource());
之后,不同 Dependency
子类按序、按需更改 source
内容。
举个例子,对于下面这段简单代码:
import bar from "./bar";
console.log(bar);
2
会产生 HarmonyImportSpecifierDependency
与 ConstDependency
两个依赖对象,之后:
import bar from "./bar";
console.log(bar);
// 首先,HarmonyImportSpecifierDependency 替换导入变量名:
import bar from "./bar";
console.log(_bar__WEBPACK_IMPORTED_MODULE_1__["default"]);
// 之后,ConstDependency 删除模块导入语句:
console.log(_bar__WEBPACK_IMPORTED_MODULE_1__["default"]);
2
3
4
5
6
7
8
9
可以看出,这部分逻辑的效果与 Babel 类似,会直接修改模块源码,实现语言层面的向下兼容。但这还不够,还需要将这段代码包裹进 Webpack 的模块框架中,这部分工作将由 initFragments
数组完成。
# initFragments 数组的作用
除直接操作 source
外,Template.apply
中还可能通过 initFragments
数组达成修改模块产物的效果。initFragments
数组项为 InitFragment (opens new window) 子类实例,它们带有两个关键函数:getContent
、getEndContent
,分别用于获取代码片段的头尾部分。
模块代码合并操作主要就是用 initFragments 数组一层一层包裹住模块代码 source,而两者都在 Template.apply 层面维护。还是上面那个简单例子,经过这段 Template 处理后,最终转化为:
import bar from "./bar";
console.log(bar);
// 首先,HarmonyImportSpecifierDependency 替换导入变量名:
import bar from "./bar";
console.log(_bar__WEBPACK_IMPORTED_MODULE_1__["default"]);
// 之后,ConstDependency 删除模块导入语句:
console.log(_bar__WEBPACK_IMPORTED_MODULE_1__["default"]);
// 经过 ConditionalInitFragment 处理:
/* harmony import */ var _bar__WEBPACK_IMPORTED_MODULE_1__ = __webpack_require__(/*! ./bar */ "./src/bar.js");
console.log(_bar__WEBPACK_IMPORTED_MODULE_1__["default"]);
2
3
4
5
6
7
8
9
10
11
12
13
简单总结一下,Webpack 生成 ModuleGraph 与 ChunkGraph 后,会立即开始遍历所有 Dependency 对象,依次调用对象的静态方法 template.apply 修改 module 代码,最后再将所有变更后的 source 与模块脚手架 initFragments 合并为最终产物,完成从单个模块的源码形态到产物形态的转变。
# 收集运行时模块
为了正常、正确运行业务项目,Webpack 需要将开发者编写的业务代码以及支撑、调配这些业务代码的 运行时 一并打包到产物(bundle)中。例如:
// a.js
export default 'a module';
// index.js
import name from './a'
console.log(name)
2
3
4
5
6
可以看出,整个 Bundle 被包裹在一个立即执行函数中,函数内部从上到下依次定义:
__webpack_modules__
对象,包含了除入口外的所有模块,如示例中的a.js
模块;__webpack_module_cache__
对象,用于存储被引用过的模块;__webpack_require__
函数,实现模块引用(require) 逻辑;__webpack_require__.d
,工具函数,实现将模块导出的内容附加的模块对象上;__webpack_require__.o
,工具函数,判断对象属性用;__webpack_require__.r
,工具函数,在 ESM 模式下声明 ESM 模块标识;- 最后的 IIFE,对应 entry 模块即上述示例的
index.js
,用于启动整个应用。
上述函数、对象构成了 Webpack 运行时最基本的能力 —— 模块化,假如代码中用到更多 Webpack 特性,则会相应地注入更多运行时模块代码,例如:
- 使用异步加载时,注入
__webpack_require__.e
、__webpack_require__.f
等模块; - 使用 HMR 时,注入
__webpack_require__.hmrF
、webpack/runtime/hot
等模块。
那么,Webpack 是如何收集运行时依赖,并将之合并到最终产物中的呢?
# 收集运行时依赖
早在「构建」阶段,Webpack 就已经开始在持续收集运行时依赖,例如,在一个非常简单的模块导入语句中:
import bar from './bar';
Webpack 在处理上述代码 AST 时,会相应生成多个依赖对象,比较重要的有:
HarmonyImportSideEffectDependency
:主要的 Dependency 对象,Webpack 会为该对象创建相应的NormalModule
实例,从而递归处理新模块代码;- HarmonyCompatibilityDependency (opens new window):运行时模块依赖,对应的 Template.apply (opens new window) 函数会在生成代码时记录相应运行时需求。
本质上,这是一个基于静态代码分析的方式收集依赖的过程。当所有模块处理完毕,收集到所有运行时依赖,进入 codeGeneration
函数后,Webpack 会进一步将这些依赖对象挂载到 Chunk 中:
这个过程集中 compilation.processRuntimeRequirements
函数,函数中包含三次循环:
- 第一次循环遍历所有 module,收集所有 module 的 runtime 依赖;
- 第二次循环遍历所有 chunk,将 chunk 下所有 module 的 runtime 统一收录到 chunk 中;
- 第三次循环遍历所有 runtime chunk,收集其对应的子 chunk 下所有 runtime 依赖,之后遍历所有依赖并发布
runtimeRequirementInTree
钩子,(主要是)RuntimePlugin
插件订阅该钩子并根据依赖类型创建对应的RuntimeModule
子类实例。
# 第一次循环:收集模块依赖
在上述「模块转译主流程」中,我们聊到 Template.apply
函数可能修改模块的 runtimeRequirements
数组,最终形成如下结构:
这个过程相当于将模块的 Runtime Dependency 都转化为 __webpack_require__
等枚举值,并调用 compilation.processRuntimeRequirements
进入第一重循环,将上述 runtimeRequirements
数组 挂载 (opens new window) 到 ChunkGraph
对象中。
# 第二次循环:整合 chunk 依赖
第一次循环针对 module 收集依赖,第二次循环则遍历 chunk 数组,收集将其对应所有 module 的 runtime 依赖,例如:
示例图中,module a
包含两个运行时依赖;module b
包含一个运行时依赖,则经过第二次循环整合后,对应的 chunk
会包含两个模块所包含的三个运行时依赖。
# 第三次循环:依赖标识转 RuntimeModule 对象
源码中,第三次循环的代码最少但逻辑最复杂,大致上执行三个操作:
- 遍历所有 runtime chunk,收集其所有子 chunk 的 runtime 依赖;
- 为该 runtime chunk 下的所有依赖发布
runtimeRequirementInTree
钩子; RuntimePlugin
监听钩子,并根据 runtime 依赖的标识信息创建对应的RuntimeModule
子类对象,并将对象加入到ModuleDepedencyGraph
/ChunkGraph
体系中管理。
至此,runtime 依赖完成了从 module 内容解析,到收集,到创建依赖对应的 Module
子类,再将 Module
加入到 ModuleDepedencyGraph
/ChunkGraph
体系的全流程,业务代码及运行时代码对应的模块依赖关系图完全 ready,可以准备进入下一阶段 —— 合并最终产物。
# 合并最终产物
讲完单个模块转译以及运行时模块收集过程后就是合并最终产物:
流程图中,compilation.codeGeneration
函数执行完毕 —— 也就是模块转译阶段完成后,模块的转译结果会一一保存到 compilation.codeGenerationResults
对象中,之后会启动一个新的执行流程 —— 模块合并打包。
模块合并打包过程会将 chunk 对应的 module 及 runtimeModule 按规则塞进模板框架中,最终合并输出成完整的 bundle 文件,例如上例中:
示例右边 bundle 文件中,红框框出来的部分为用户代码文件及运行时模块生成的产物,其余部分撑起了一个 IIFE 形式的运行框架,即为模板框架,也就是:
(() => { // webpackBootstrap
"use strict";
var __webpack_modules__ = ({
"module-a": ((__unused_webpack_module, __webpack_exports__, __webpack_require__) => {
// ! module 代码,
}),
"module-b": ((__unused_webpack_module, __webpack_exports__, __webpack_require__) => {
// ! module 代码,
})
});
// The module cache
var __webpack_module_cache__ = {};
// The require function
function __webpack_require__(moduleId) {
// ! webpack CMD 实现
}
/************************************************************************/
// ! 各种 runtime
/************************************************************************/
var __webpack_exports__ = {};
// This entry need to be wrapped in an IIFE because it need to be isolated against other modules in the chunk.
(() => {
// ! entry 模块
})();
})();
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
运行框架包含如下关键部分:
- 最外层是一个 IIFE 包裹;
- 一个记录了除
entry
外的其它模块代码的__webpack_modules__
对象,对象的 key 为模块标志符;值为模块转译后的代码; - 一个极度简化的 CMD 实现:
__webpack_require__
函数; - 最后,一个包裹了
entry
代码的 IIFE 函数。
模块转译 是将 module
转译为可以在宿主环境如浏览器上运行的代码形式;收集运行时模块 负责决定整个 Bundle 需要的骨架代码;而 模块合并 操作则串联这些 modules
,使之整体符合开发预期,能够正常运行整个应用逻辑。接下来,我们揭晓这部分代码的生成原理。
模块合并主流程:
在 compilation.codeGeneration
执行完毕,即所有用户代码模块做完转译,运行时模块都收集完毕作后,seal
函数调用 compilation.createChunkAssets
函数,触发 renderManifest
钩子,JavascriptModulesPlugin
插件监听到这个钩子消息后开始组装 bundle,伪代码:
// Webpack 5
// lib/Compilation.js
class Compilation {
seal() {
// 先把所有模块的代码都转译,准备好
this.codeGenerationResults = this.codeGeneration(this.modules);
// 1. 调用 createChunkAssets
this.createChunkAssets();
}
createChunkAssets() {
// 遍历 chunks ,为每个 chunk 执行 render 操作
for (const chunk of this.chunks) {
// 2. 触发 renderManifest 钩子
const res = this.hooks.renderManifest.call([], {
chunk,
codeGenerationResults: this.codeGenerationResults,
...others,
});
// 提交组装结果
this.emitAsset(res.render(), ...others);
}
}
}
// lib/javascript/JavascriptModulesPlugin.js
class JavascriptModulesPlugin {
apply() {
compiler.hooks.compilation.tap("JavascriptModulesPlugin", (compilation) => {
compilation.hooks.renderManifest.tap("JavascriptModulesPlugin", (result, options) => {
// JavascriptModulesPlugin 插件中通过 renderManifest 钩子返回组装函数 render
const render = () =>
// render 内部根据 chunk 内容,选择使用模板 `renderMain` 或 `renderChunk`
// 3. 监听钩子,返回打包函数
this.renderMain(options);
result.push({ render /* arguments */ });
return result;
}
);
});
}
renderMain() {/* */}
renderChunk() {/* */}
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
这里的核心逻辑是,compilation
以 renderManifest
钩子方式对外发布 bundle 打包需求; JavascriptModulesPlugin
监听这个钩子,按照 chunk 的内容特性,调用不同的打包函数。
JavascriptModulesPlugin
内置的打包函数有:
renderMain
:打包主 chunk 时使用;renderChunk
:打包子 chunk ,如异步模块 chunk 时使用。
两个打包函数实现的逻辑接近,都是按顺序拼接各个模块,下面简单介绍下 renderMain
的实现。
JavascriptModulesPlugin.renderMain
函数:renderMain
函数涉及比较多场景判断,伪代码如下:
class JavascriptModulesPlugin {
renderMain(renderContext, hooks, compilation) {
const { chunk, chunkGraph, runtimeTemplate } = renderContext;
const source = new ConcatSource();
// ...
// 1. 先计算出 bundle CMD 核心代码,包含:
// - "var __webpack_module_cache__ = {};" 语句
// - "__webpack_require__" 函数
const bootstrap = this.renderBootstrap(renderContext, hooks);
// 2. 计算出当前 chunk 下,除 entry 外其它模块的代码
const chunkModules = Template.renderChunkModules(
renderContext,
inlinedModules
? allModules.filter((m) => !inlinedModules.has(m))
: allModules,
(module) =>
this.renderModule(
module,
renderContext,
hooks,
allStrict ? "strict" : true
),
prefix
);
// 3. 计算出运行时模块代码
const runtimeModules =
renderContext.chunkGraph.getChunkRuntimeModulesInOrder(chunk);
// 4. 重点来了,开始拼接 bundle
// 4.1 首先,合并核心 CMD 实现,即上述 bootstrap 代码
const beforeStartup = Template.asString(bootstrap.beforeStartup) + "\n";
source.add(
new PrefixSource(
prefix,
useSourceMap
? new OriginalSource(beforeStartup, "webpack/before-startup")
: new RawSource(beforeStartup)
)
);
// 4.2 合并 runtime 模块代码
if (runtimeModules.length > 0) {
for (const module of runtimeModules) {
compilation.codeGeneratedModules.add(module);
}
}
// 4.3 合并除 entry 外其它模块代码
for (const m of chunkModules) {
const renderedModule = this.renderModule(m, renderContext, hooks, false);
source.add(renderedModule)
}
// 4.4 合并 entry 模块代码
if (
hasEntryModules &&
runtimeRequirements.has(RuntimeGlobals.returnExportsFromRuntime)
) {
source.add(`${prefix}return __webpack_exports__;\n`);
}
return source;
}
}
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
核心逻辑为:
- 先计算出 bundle CMD 代码,即
__webpack_require__
函数; - 计算出当前 chunk 下,除 entry 外其它模块代码
chunkModules
; - 计算出运行时模块代码;
- 开始执行合并操作,子步骤有:
- 合并 CMD 代码;
- 合并 runtime 模块代码;
- 遍历
chunkModules
变量,合并除 entry 外其它模块代码; - 合并 entry 模块代码。
- 返回结果。
总结:先计算出不同组成部分的产物形态,之后按顺序拼接打包,输出合并后的版本。
至此,Webpack 完成 bundle 的转译、打包流程,后续调用 compilation.emitAsset
,将产物内容输出到 output
指定的路径即可,Webpack 单次编译打包过程就结束了。
# 小结
- Webpack 构建过程可以简单划分为 Init、Make、Seal 三个阶段;
- Init 阶段负责初始化 Webpack 内部若干插件与状态,逻辑比较简单;
- Make 阶段解决资源读入问题,这个阶段会从 Entry —— 入口模块开始,递归读入、解析所有模块内容,并根据模块之间的依赖关系构建 ModuleGraph —— 模块关系图对象;
- Seal 阶段更复杂:
- 一方面,根据 ModuleGraph 构建 ChunkGraph;
- 另一方面,开始遍历 ChunkGraph,转译每一个模块代码;
- 最后,将所有模块与模块运行时依赖合并为最终输出的 Bundle —— 资产文件。