-
大数据集群开始 kerberos 认证后 Hive 作业执行失败
所属栏目:[大数据] 日期:2021-11-23 热度:93
大数据集群开启 kerberos 安全认证后,HIVE ON SPARK 作业执行失败。通过客户端 beeline 提交作业,报错 spark client 创建失败,其报错信息是: Failed to create spark client for spark session xxx: java.util.concurrent.TimeoutException: client xxx[详细]
-
因HIVE元数据与HDFS上的数据不一致引起的问题修补
所属栏目:[大数据] 日期:2021-11-23 热度:147
客户端报错如下: Unable to move source xxx to destination xxx 客户端报错 问题分析 客户端的报错信息,并没有完全展现问题背后的全貌。我们进入 hiveserver2 所在节点查看hiveserver2的日志,可以看到如下相关信息: 2021-09-01 11:47:46,795 INFO org.[详细]
-
简谈大数据风控平台的功能需要
所属栏目:[大数据] 日期:2021-11-23 热度:62
大数据风控业务的开展依赖智能风控平台,智能风控平台的技术基础是大数据技术,智能风控系统技术架构也是以大数据系统技术架构为基础演进而来的。 智能风控系统技术架构主要分为访问层、展现层、系统层、大数据平台四部分,其中大数据平台又分为接入层、清[详细]
-
数据研发,如何平衡效率与质量
所属栏目:[大数据] 日期:2021-11-23 热度:126
数据开发的效率,是如何尽快的将产品设计、业务过程,转换为数据模型;数据开发的质量,则是如何尽快的将数据加工过程中的问题,识别出来。向业务交付的内容,是开发的内容;而如果开发的时候,忽略质量的问题,虽然交付的时候不会有感知,但往往会在排查问题[详细]
-
浅谈人工智能、大数据等技术在交通行业的应用
所属栏目:[大数据] 日期:2021-11-23 热度:62
我们将浅谈一下人工智能、大数据、云计算、物联网等技术将会给交通行业带来哪些便利与变革: 1.数据资源整合 由于我国线路众多,与交通相关的绝大多数部门都有自己的信息化平台,并产生着海量数据,但是现在的每个部门及单位内的系统平台大都是独立的,信息[详细]
-
大数据与云计算之间的联系
所属栏目:[大数据] 日期:2021-11-23 热度:184
大数据处理大量的结构化,半结构化或非结构化数据,以进行存储和处理以进行数据分析。大数据有五个方面,通过5V来描述 数量数据量 种类不同类型的数据 速度系统中的数据流率 价值 基于其中包含的信息的数据价值 准确性 数据保密性和可用性 云计算以按需付费[详细]
-
时代大数据安全和隐私
所属栏目:[大数据] 日期:2021-11-23 热度:68
随着大数据的发展,大数据的安全问题越来越受到行业的重视。 日前,中国信息通信研究院指出了目前大数据发展面临的安全问题,提出了促进大数据安全技术发展的具体建议。 大数据已经严重影响了经济运行机制、社会生活方式和国家治理能力,需要从大安全的角度[详细]
-
从技术视角看大数据行业的发展走势
所属栏目:[大数据] 日期:2021-11-23 热度:64
关于该趋势,明哥在前期发布过一篇博文,大数据与云计算深度融合的趋势体现在哪些方面? 对该趋势做了自己的解读,这里再次简要描述下。该博文链接如下: 大数据与云计算深度融合的趋势体现在哪些方面? 云原生(Cloud Native)理念,本质上是一套利用云计算技术[详细]
-
Hdfs 相对路径和静态代码块引起的问题
所属栏目:[大数据] 日期:2021-11-23 热度:170
HIVE 作为大数据生态的数仓解决方案,因为历史的原因在很多行业很多公司都有着广泛的应用。对于比较复杂的业务逻辑,HIVE SQL 往往比较难以表达,此时大家在开发中往往会辅以 HIVE UDF。所以充分理解和掌握 HIVE UDF正确的表写和使用方式,是大数据从业人[详细]
-
大数据时代,移动联通大数据技术的价值,你知道了多少
所属栏目:[大数据] 日期:2021-11-23 热度:99
大数据时代,移动联通大数据技术的价值,你掌握了多少 大数据技术就是在多种类型的大量数据信息中,快速获得有使用价值信息的技术性,然后做到大数据精准营销。拥有大量信息本身并不能造就出多少使用价值,必须选用具体方法进行处理分析才能够获得其智能化[详细]
-
企业IT可以真正将大数据应用到什么地方?
所属栏目:[大数据] 日期:2021-11-23 热度:197
企业IT可以真正将大数据应用到哪些地方? 了解企业IT如何以及在何处准确地应用大数据为其带来利益,将取决于几个关键因素。 作者:Bill Scudder 来源:企业网D1Net|2021-11-12 14:10 收藏 分享 在各行业领域中,很少有比大数据更容易提及同时又不太容易理解[详细]
-
大数据分析,到底分析了何?
所属栏目:[大数据] 日期:2021-11-23 热度:147
大数据分析,到底分析了啥? 大数据仨字已经被喊烂了,大数据分析也经常被人提起。可到底咋完全是大数据分析?为啥大家喊得很多,平时工作中很少感受得到?今天系统讲解一下。 作者:接地气的陈老师来源:接地气学堂|2021-11-11 11:27 收藏 分享 大数据仨字已[详细]
-
数据经济时代大数据基础软件呈现四大发展走势
所属栏目:[大数据] 日期:2021-11-23 热度:155
大数据基础软件是大数据软件的一个组成部分,涉及传统数据库、大数据平台(中台)、大数据操作系统等多个门类,在信息系统中起基础性、平台性的作用,对整个大数据软件行业发展起到基础性、变革性的推动作用。我国正处于数字经济加速发展时期,以大数据操作系[详细]
-
扫身份证识别健康码设备利用大数据技术致力疫情高效防控
所属栏目:[大数据] 日期:2021-11-23 热度:97
扫身份证识别健康码设备的方案利用行程轨迹、身份证、GPS等大数据应用,通过扫取人脸或身份证验证,获取健康码亮码(红码、黄码、绿码),有效的在全国多个车站、医院疫情防控中起到了重要技术支撑作用。 非接触式红外热成像测温设备验码一体机整合了红外热成[详细]
-
大数据致力政治学研究
所属栏目:[大数据] 日期:2021-11-23 热度:128
随着信息技术迅猛发展,新型信息分析技术被应用到政治学研究中来。许多政治学研究者采用当前比较成熟的大数据爬[详细]
-
大数据如何为优化营商环境助力?
所属栏目:[大数据] 日期:2021-11-23 热度:159
营商环境是是一个国家或地区综合竞争力的重要体现,利用技术力量优化营商环境对提升市场效率,释放市场活力等意义重大。营商环境的技术力量主要是数字技术,特别是大数据。大数据和营商环境多维关联、相互促进、动态进化,对国家经济建设具有战略意义。 大数[详细]
-
我们一起说说大数据框架发展史
所属栏目:[大数据] 日期:2021-11-23 热度:60
这几年大数据的飞速发展,出现了很多热门的开源社区,其中著名的有 Hadoop、Storm,以及后来的 Spark,他们都有着各自专注的应用场景。Spark 掀开了内存计算的先河,也以内存为赌注,赢得了内存计算的飞速发展。Spark 的火热或多或少的掩盖了其他分布式计算[详细]
-
通过更好的数据质量改进决策的八个主要提示
所属栏目:[大数据] 日期:2021-11-23 热度:105
企业对良好数据质量的需求日益增长,人们需要了解如何获得良好的数据质量以及它如何影响决策。 搜索引擎上有关数据质量这一术语多达600万项,这清楚地表达了数据质量的重要性及其在决策场景中的关键作用。了解数据有助于对其进行分类和鉴定,以便在所需场景[详细]
-
大数据:阻止网络安全威胁的五种可行方式
所属栏目:[大数据] 日期:2021-11-23 热度:154
大数据是一门新科学,数据生产率如今正在以惊人的速度发展。全球正在产生数量惊人的数据,而且随着物联网的发展,这一增长速度正在加快。调查表明,全球产生的数据90%都是在过去两年中产生的。此外,根据一些调研机构的预测,预计到2025年,全球将会产生200[详细]
-
大数据下的千人千面,让你沉迷于网络之中
所属栏目:[大数据] 日期:2021-11-23 热度:183
通过这种技术,抖音和今日头条两款APP迅速成为全民APP用户数量成倍增长。据数据显示,截至2020年8月,包含抖音火山版在内,抖音的日活跃用户已经超过了6亿。今日头条用户接近6亿,MAU为2.6亿,日活跃近1.2亿。 字节跳动成功的背后离不开大数据下的千人千面[详细]
-
接受AI的建制造企业才能抓住这个时代
所属栏目:[大数据] 日期:2021-11-23 热度:157
今天,人工智能不再是虚构的; 这就是现实。 目前,人工智能已经可以比人类更快更高效地分析大量数据,从而实时提供更及时的、具有洞察力的和决定性的选择建议。人工智能深度学习的这些功能对越来越多的行业(如医疗保[详细]
-
制造业:你必须更加快地接受人工智能
所属栏目:[大数据] 日期:2021-11-23 热度:102
新的一轮技术变革正发生在我们身上。人工智能(AI)正逐渐在每个行业中占据主导地位,制造业也不例外。人工智能使企业(从医疗设备和电子制造商到制药企业)能够利用它们的大数据和物联网投资来看到新的模式和视角,并且能够比以往更高效地完成工作。人工智[详细]
-
发展工业4.0需要发展的八个主要领域
所属栏目:[大数据] 日期:2021-11-23 热度:143
工业4.0的发展必须伴随着相关产业和产业政策的发展。以下是德国工业4.0工作组认为的,需要着力发展的八个关键领域: 标准化和参考架构:贯穿整个价值网络,工业 4.0 将涉及一些不同公司的网络连接与集成。只有开发出一套单一的共同标准,这种合作伙伴关系才[详细]
-
制造运行管理MOM探究与应用综述
所属栏目:[大数据] 日期:2021-11-23 热度:129
详细论述了制造运行管理(MOM)的产生及其与制造执行系统(MES)之间的关系,介绍了制造运行管理的概念、范围、整体结构、信息交互及基础信息资源定义,描述了MOM通用活动模型的框架与使用。在此基础上,综述了基于MOM框架的研究与应用现状。最后,探讨了MOM的[详细]
-
MES系统发展到MOM制造运营管理是大势所向
所属栏目:[大数据] 日期:2021-11-23 热度:195
随着国务院陆续出台《中国制造2025》、制造业与互联网融合发展等政策,中国的制造业企业已经意识到智能制造的重要性,对未来制造业的发展趋势和方向已有领会。而在制造业迈向智能制造的过程中,工业软件起到了加速器催化剂的作用。 对于工业软件,中国的制[详细]