辜渝傧

13037102709

027-87870986

新闻动态

您当前的位置:首页 > 新闻动态 > 行业动态 >

大数据技术区||大数据的计算模式有哪几类?

发布者:唯众    布时间:2020-09-17 09:59:42    点击量:

       大数据计算模式有如下几类。   

       1.批处理计算模式
       针对大规模数据的批量处理。批处理系统将并行计算的实现进行封装,大大降低开发人员的并行程序设计难度。目前主要的批处理计算系统代表产品有MapReduce、Spark等。
 
       2.流计算
       流计算是针对流数据的实时计算,需要对应用不断产生的数据实时进行处理,使数据不积压、不丢失,常用于处理电信、电力等行业应用以及互联网行业的访问日志等。
代表产品有Storm、Flume、Scribe、S4、Streams、Puma、DStream、Super Mario等。
 
       3.图计算
       图计算针对大规模图结构数据进行处理。社交网络、网页链接等包含具有复杂关系的图数据,这些图数据的规模巨大,可包含数十亿顶点和上百亿条边,图数据需要由专门的系统进行存储和计算。
       常用的图计算系统有Google公司的Pregel、Pregel的开源版本Giraph、微软的Trinity、Berkeley AMPLab的GraphX以及高速图数据处理系统PowerGraph、Hama、GoldenOrb等。
 
      4.内存计算
      随着内存价格的不断下降和服务器可配置内存容量的不断增长,使用内存计算完成高速的大数据处理已成为大数据处理的重要发展方向。
      目前常用的内存计算系统有分布式内存计算系统Spark、全内存式分布式数据库系统HANA、Google的可扩展交互式查询系统Dremel。
 
      5.查询分析计算
      对大规模数据的存储管理和实时或准实时查询分析。目前主要的数据查询分析计算系统代表产品有HBase、Hive、Dremel、Cassandra、Shark、Hana、Impala等。
 
      6.迭代计算
      针对MapReduce不支持迭代计算的缺陷,人们对Hadoop的MapReduce进行了大量改进,Haloop、iMapReduce、Twister、Spark是典型的迭代计算系统。

唯众大数据实训平台助你快速掌握大数据关键技术点

  大数据实训平台简介

       唯众大数据实训平台系统是针对IT类实验室现状开发的一套虚拟化网络创新教学实训平台,它采用B/S的软件架构,基于web浏览器访问,以少量硬件设备完成大量实训集群的构建,可提供大量学生进行IT类相关实训。每个学生的实训环境互相隔离、实训过程互不干扰。同一页面中既包含了各类实操环境,也包含了每个实验对应的实验文档,省去了在同页面间来回切换的麻烦,实验过程采用分布式设计,配合大数据分析模块,实时监控每个步骤的学习情况,方便学生高效的完成实训操作的同时,大幅节省了硬件成本和人力成本的投入。 

     大数据实训平台特点

      配置灵活
  • 支持集群部署,支持集群内管理云主机,提供高可用特性,自动生成IP池,内置DHCP服务器,自动为云主机分配IP地址
  • 支持自定义镜像上传,可满足多种格式镜像上传及管理功能
  • 支持批量创建/删除多个云主机,支持云主机基本生命周期控制,
  • 支持自定义云主机配置管理
      操作简便
  • 同一页面中既包含了各类实操环境,也包含了每个实验对应的实验文档,省去了在同页面间来  回切换的麻烦。
  • 学生在实验过程中可以根据学习内容记录学习笔记,并查看他人笔记
  • 学生在实验过程中可以将自己遇到的问题进行提问或回答其他同学的问题,老师或其他同学可对起问题进行回答
  • 学生在实验结束后在线提交实验报告,并查看成绩以及评语
唯众大数据实训平台
 

大数据实训资源

大数据之Linux基础
大数据之Python基础
大数据之MySQL基础
大数据之Java程序设计
大数据之jQuery数据处理
大数据之可视化
大数据之JavaWeb应用程序设计
大数据之JavaWeb图书管理系统项目
大数据之JavaWeb试题库管理系统项目
大数据之环境搭建
Hadoop离线大数据网站点击流日志分析
Hadoop离线大数据学情分析系统开发
Spark Streming医疗实时审核系统开发
Spark用户人群画像系统开发
 


上一篇:大数据技术区||大数据的主要技术层面有哪些?

下一篇:大数据技术区||大数据、云计算和物联网三者之间的关系