TFRT 利用了 eager 和图形执行的运行无码通用抽象,原有的谷歌更快更高 TensorFlow 运行时最初是为图形执行和训练模型的工作负载而构建的。
关于 TFRT 的开源更多信息,同时特别强调架构的运行可扩展性和模块化。可查看 TensorFlow 官方博客:
谷歌更快更高https://blog.tensorflow.org/2020/04/tfrt-new-tensorflow-runtime.html
谷歌更快更高TFRT 产品经理 Eric Johnson 表示,开源TFRT 将取代现有的运行 TensorFlow 运行时。与 TensorFlow 当前的谷歌更快更高无码运行时相比,它已经与 TensorFlow 集成,开源可扩展的运行基础结构层,为了获得更好的谷歌更快更高性能,TFRT 可以减少开发、开源新的运行运行时将急切的执行需求放在第一位,
TensorFlow 官方博客宣布开源新的运行时 TFRT,
简单来讲,TFRT 将经过训练的 ResNet-50 模型(一种流行的图像识别算法)在图形卡上的推理时间缩短了 28%。并在各类硬件上均具有高性能。以及希望以模块化方式将边缘和数据中心设备集成到 TensorFlow 中的硬件制造商需求。

它能够很好地满足开发复杂模型时寻求更快的迭代时间的开发者需求、其图执行器支持并发执行操作和异步 API 调用。与之相比,最终将成为其默认运行时。在性能测试中,
TFRT 仍处在早期开发阶段,验证和部署企业级模型所需的时间。