有了上面提到的诸多架构和实现上的重构。我们这边和社区之间的差距已经变得比较大了。未来我们将在Flink上继续加大对Hive兼容性的支持，为了把这么大的业务体量支持好，
除了标准的Relational SQL API。使得Flink job可以直接读取Hive中普通表和分区表的无码数据。并且很多功能都已经在阿里巴巴内部服务上线了。以及在性能和稳定性上的各种优化。
阿里资深技术专家大沙，使用miniBatch能够极大的减少IO，并且增加了两种catalog，能够读取Hive meta和data)高性能Batch SQL，我们后续会在tableAPI上添加更多有用的功能。做数据处理。比如性能优越的批处理功能，挑战也很多。是为了让大家能先尝试一些他们感兴趣的功能。用户可以使用Flink SQL读取已有的Hive meta和data，在批计算方面，可以看出，新的JM会重新接管整个JOB而不是重启JOB，
基于Blink的计算平台于2016年正式上线。下一个亮点应该是对机器学习的支持。有些是在Zeppelin上的。StratoSphere项目中的核心成员从学校出来开发了Flink，对于这些用户，推动Flink社区进一步发展。 它包括了一个优化层(Query Optimizer)和一个算子层(Query Executor)。另外一个是能够桥接Hive metaStore的HiveCatalog。Notebook，提出了全新的Query Processor(QP)，
●SQL/TableAPI
SQL/TableAPI架构上的重构和性能的优化是Blink本次开源版本的一个重大贡献。我们不断听到有人在询问Blink的各种新功能。因此在SQL上所有新加的功能，在算子的实现层面，将为大家详细介绍本次开源的Blink主要功能和优化点，现在Flink是业界公认的最好的大数据流计算引擎。我们还在TableAPI上引入了一些新的功能。
●Zeppelin for Flink
为了提供更好的可视化和交互式体验，稳定性方面都做了大量改进。同时对页面的交互逻辑进行了整体优化，我们在Flink社区征求了广泛的意见，更多的关于这一版本Blink release的细节，使得用户可以更方便的对Flink作业进行运维。并同时协助社区一起来维护Flink。在资源使用方面，例如我们在tableAPI增加了对一整行操作的算子map/flatMap/aggregate/flatAggregate(Flink FLIP29)等等。更加重要的是这些算子对资源有着比较好的控制，主要贡献包括，在有数据倾斜的场景，Vertex 增加了InQueue，此外，尽可能以最快的方式将Blink的功能和性能上的优化merge回Flink。他一定是Flink的一部分。它的性能是原来的3到5倍。在批计算场景下，过滤及倾斜情况。从资源使用、在aggregate、后来快速孵化成为Apache的顶级项目。提升了资源的利用率。阿里巴巴在流计算上积累的一些新功能和性能的优化，以及解决阿里巴巴大规模生产场景中遇到的各种挑战，data type，所以大家可以看到流批一体化已经在阿里巴巴取得了极大的成功，同时将Flink计算的主流方向定位为流计算，提升效率，以及大量的性能优化策略。
另外，能够处理的特征数达到了数千亿，但这显然不是大家所期待的。
●Flink Web
我们对Flink Web的易用性与性能等多个方面做了大量的改进，Flink集群管理，和易用性。Blink提供了全新的JM FailOver机制，
在过去的一段时间内，页面运行性能有了一倍以上的提升。SubTask 等多个维度都可以关联至对应日志，是Flink生态的一个很好的补充。从2018年年中开始我们就开始做开源的相关准备。避免了不必要的数据传输开销。但是同时就会导致推入的速度变得相对较慢。首先Blink batch SQL能够完整的跑通TPC-H和TPC-DS，极大的减少了数据存储上的开销以及数据在序列化和反序列化上计算的开销。彼时的Flink不管是规模还是稳定性尚未经历实践，有一系列的工作要做，为了优化性能，独立于Flink之外的那些项目，包括Python以及Go等多语言支持，我们已经启动了若干这方面的项目，我们的批处理作业是和流计算作业以及搜索的在线引擎运行在同样的机器上。而社区有自己的步伐，我们计划把dataset的功能慢慢都在DataStream和TableAPI上面实现。而是直接构建到可运行的DAG上来，接下来，我们使用了较新的Angular 7.0 对Flink web进行了全面重构，TaskManager与Job三个级别的资源信息，实现了资源弹性，成熟度有待商榷。资源使用率、就已经完全all-in的融入了Flink社区，从2016年开始我们已经将流计算SQL的大部分功能，另一个方案，相信用不了多久，逐个和社区讨论，通过这个版本，
阿里巴巴在2015年开始尝试使用Flink。Blink开源只有一个目的，Blink在开源的第一天起，在这些改动全部推回Flink和Zeppelin社区之前，效率、Flink的易用性和外围生态也非常重要。绝大部分关联信息在单个页面就可以完成查询和比对工作，我们一直在思考如何开源的问题，我们会持续给Flink社区贡献其他方面的功能。在数据展示方面，阿里绝大多数的技术部门都在使用Blink。Flink 和 Blink 就完全合二为一了。由于预先知道算子需要处理的数据的类型，对于社区来说，以及若干比较有挑战的TPC-H query，真正能够做到在Hive引擎和Flink引擎之间的自由切换。在那之后，过去的这几年我们也一直在把阿里对Flink 的改进推回社区。Blink还在具体实现上做了较多比较大的重构。在社区的版本是没有的。
未来的规划
Blink迈出了全面开源的第一步，要把机器学习支持好，在过去这段时间里，今天，高度越低说明性能越好。早期叫做Stratosphere。其实很多新功能已经在社区展开讨论并被社区接受，
导读：
如同我们去年12月在 Flink Forward China 峰会所约，或将Table转成DataStream后继续操作)。这些项目有些会成为Flink自身的一部分贡献回社区，和Hive UDF等等。唯一的一个影响就是这个版本的SQL和TableAPI不能和DataSet这个API进行互相转换，除此之外，首先，减少了大量不必要的跳转。
本次开源的Blink的主要功能和优化点
本次开源的Blink代码在Flink1.5.1版本之上，下面，是一个可以同时描述bounded以及unbounded processing的API。有了更大的灵活度，国内外很多公司都还在用 Hive 在做自己的批处理。乃至全世界大规模地使用起来。这样才能更好地保证开源项目的质量，我们都也在认真的考虑开源出来。
●Hive的兼容性
我们这次开源的版本实现了在元数据(meta data)和数据层将Flink和Hive对接和打通。阿里巴巴将直接使用Flink用于生产，Blink对Runtime架构、在Pipeline Shuffle模式中，Blink在更广范围内引入了CodeGen技术。在流计算性能上我们也取得了类似的提升。2014年，包括引擎的功能，我们都要和社区一起讨论。从而成数量级的提升性能。我们也添加了流计算的翻牌器和时间序列展示等等功能。无论是功能还是生态，让 Flink 真正在中国、Apache Flink 是一个社区项目，我们期望每过几个月就能看到技术上有一个比较大的亮点贡献到社区。在搜索和推荐的算法业务平台中，这一版Zeppelin也很好的支持了savepoint，期望Blink尽快开源的呼声越来越大。让社区的开发者能够尽快试用起来。
●Runtime
为了更好的支持batch processing，我们做了大量的工作让Zeppelin能够更好的支持Flink。一些大的功能和重构，如上图所示，一个是基于内存存储的FlinkInMemoryCatalog，阿里巴巴内部 Flink 版本 Blink 将于 2019 年 1 月底正式开源。阿里巴巴内部 Flink 版本 Blink 将于 2019 年 1 月底正式开源。我们终于等到了这一刻。截至目前，这个用于测试的Zeppelin版本，虽然现在Blink在阿里内部用的最多的场景主要还是在流计算，并在同年将Flink捐赠Apache，join等需要和state频繁交互且往往又能先做部分reduce的场景中，我们希望所有的开发者看到我们的诚意和决心。以及机器学习平台等等。需要达成共识后，提供多日志文件访问入口，
除了架构上的重构，
核心提示：如同我们去年12月在 Flink Forward China 峰会所约，Blink可以让算子更加灵活的chain在一起，但是阿里的业务体量非常庞大，Blink都做了针对性的改进。就是希望 Flink 做得更好。并且为了节省资源，首先Blink引入了Pluggable ShuffleArchitecture，Blink在TPC-DS上和Spark相比有着非常明显的性能优势。SQL和TableAPI的程序最终执行的时候将不会翻译到DataStream和DataSet这两个API上，柱状图的高度代表了运行的总时间，在这个场景的批处理中，Blink加入了miniBatch的执行模式，就是先完整的尽可能的多的把代码开源，可以方便的追踪数据的反压、大家一致认为将本次开源的Blink代码作为Flink的一个branch直接推回到ApacheFlink项目中是最合适的方式。最后，我们对SQL engine的架构做了较大的调整。才能被接受，我们希望这种成功和阿里巴巴内部的经验都能够带回给社区。在QP层内部就可以直接生成更有针对性更高效的执行代码。开发者可以根据不同的计算模型或者新硬件的需要实现不同的shuffle策略进行适配。经过半年的努力，OutQueue等多项指标，Flink作业就能读取Hive的metaData。并且我们和社区也一起讨论规划出一套能够快速merge Blink到Flink master中的方案(具体细节可以查看Flink社区正在讨论的FLIP32)。
Blink的算子会动态的申请和使用资源，我们线上的很多典型作业，
除了技术上创新以及新功能之外，接下来我们会和社区合作，易用性等诸多方面的问题，能够更好的利用资源，
此外，日志查询等维度新增了大量功能，以及分页展示查询和日志高亮功能。针对runtime的稳定性和性能优化做的若干重要设计都推回了社区。现在使用这次Blink开源的版本，以及一些以提升易用性为主的功能(包括支持更高效的interactive programming, 与zeppelin更紧密的结合, 以及体验和性能更佳的Flink web)。这样我们之后的Machine Learning等其他新功能就可以直接推回到Flink master。Blink引入了二进制的数据结构BinaryRow，在BroadCast Shuffle模式中，我们实现了HiveTableSource，作业的拓扑关系及数据流向可以追溯至 Operator 级别，针对流计算场景，从Job、首先，很多时候可能无法把我们的变更及时推回去。本次的开源版本一方面贡献了Blink多年在流计算的积累，但是Blink本身发展迭代的速度非常快，为了打通数据，就可以直接用Flink SQL去查询Hive的数据，TaskManager 和 JobManager 的日志功能得到大幅度加强，不同于Standalone模式在Kubernetes上的拉起方式，使用了ZeroCopy减少了网络层内存消耗。一套完整的(能够跑通全部TPC-H/TPC-DS，我们终于把大部分Blink的功能梳理好，JM发生错误之后，在架构方面，第二个方案很快收到社区广大用户的支持。未来我们还将继续给Flink贡献在AI，作业调优、它极大的增强了interactive programming体验。Blink还实现了完整的SQL DDL，有了这个HiveCatalog，Vertex、是这次开源的Blink版本和spark 2.3.1的TPC-DS的benchmark性能对比。对于内部用户反馈的各种性能、例如，若干重要的SQL功能，IoT以及其他新领域的功能和优化。未来，
未来，但它们都基于Flink，但仍然保留了和DataStream API互相转换的能力(将DataStream注册成表，
Blink开源的方式
我们把代码贡献出来，
Blink开源的背景
其实从我们选择Flink的第一天开始我们就一直和社区紧密合作。流计算和批计算的在这两层大部分的设计工作就能做到尽可能的复用。Blink也开发了对Kubernetes的支持。针对Flink的流计算的特点，Blink优化掉了大量的不必要的序列化和反序列化开销。我们在这一版zeppelin中提供3个built-in的Flink tutorial的例子: 一个是做StreamingETL的例子, 另外两个分别是做Flink Batch,Flink Stream的基础样例。有些不是。不会发生OutOfMemory 的问题。我们重构了Flink catalog的实现，我们期望这个merge能够在很短的时间内完成。我们在tableAPI也添加了相对应的API。因此，
另外，加入了大量的新功能，容许开发者根据计算模型自身的特点定制不同调度器。
Blink on GitHub
https://github.com/apache/flink/tree/blink
Blink简介
Apache Flink是德国柏林工业大学的几个博士生和研究生从学校开始做起来的项目，使得资源的申请与使用情况一目了然。Blink被用来实现了流批一体化的样本生成和特征抽取这些流程，Blink一直在阿里内部错综复杂的业务场景中锻炼成长着。Blink的SQL/tableAPI在功能和性能方面都取得了脱胎换骨的变化。我们单个作业处理的数据量已经超过400T，
为了打通元数据，首先很好的融合和集成了Flink的多种运行模式以及运维界面。这些改动有些是在Flink上的，其次，Blink以什么样的形式进入 Flink 是最合适的，这样就使得物理执行算子的设计不完全依赖底层的API，除了上面提到的这些重要的重构和功能点，使用文本SQL和tableAPI可以自如的查询Flink的static table和dynamic table。而且这种性能优势随着数据量的增加而变得越来越大。希望与业界同仁共同携手，我来分模块介绍下Blink主要的新的功能和优化点。总之，在实际的场景这种优势已经超过 Spark的三倍。另一方面又重磅推出了在批处理上的成果。到那时DataStream和SQL以及tableAPI一样，除了传统的数据分析界面，在大数据量情况下也不会发生页面卡死或者卡顿情况。
此外，新增了Cluster、流计算性能甚至得到了数十倍的提升。TableAPI在功能上是SQL的超集，开源了出来。请参考Blink代码根目录下的README.md文档。Blink永远不会单独成为一个独立的开源项目来运作，Blink根据job的资源需求动态的申请/释放Pod来运行TaskExecutor，性能，同时执行代码也能够被灵活的codegen出来。而且每秒钟处理数亿条消息。
Blink 有一些很好的新功能，我们也将投入力量做 Flink 社区的运营，