
大规模训练和部署
TensorFlow
模型
|
589
浏览器中的 TensorFlow
如果你想在网站中使用模型,直接在用户的浏览器中运行,该怎么办?这在许多情
况下很有用,例如:
•
当你的 Web 应用程序经常在用户的连接是间歇性或缓慢的情况下使用时(例如
远足者的网站),因此直接在客户端运行模型是使网站可靠的唯一方法。
•
当你需要模型的响应速度尽可能快时(例如对于在线游戏)。消除查询服务器进
行预测的需求肯定会减少延迟,并使网站的响应速度更快。
•
当你的 Web 服务基于某些私有用户数据进行预测时,你希望通过在客户端上进
行预测来保护用户的隐私,使私有数据不必离开用户的计算机
注 9
。
对于所有这些情况,你都可以将模型导出为可以由 TensorFlow.js JavaScript 库加载
的特殊格式。该库可以使你的模型直接在用户的浏览器中进行预测。TensorFlow.
js 项目包含一个 tensorflowjs_converter 工具,该工具可以将 Tensor Flow
SavedModel 或 Keras 模型文件转换为
TensorFlow.js Layers
格式:这是一个目录,包含一
组二进制格式的共享权重文件和一个
model.json
文件, 该文件描述模型的结构并链接到
权重文件。该格式经过优化使其在网络上有效下载。用户可以使用 TensorFlow.js 库下
载模型并在浏览器中运行预测。这是一个代码段,可让你大致了解 JavaScript API 的作用:
import
* as tf ...