-
Spark日臻完善之小文件是否需要合并?
所属栏目：[大数据] 日期：2021-05-28 热度：107
我们知道，大部分Spark计算都是在内存中完成的，所以Spark的瓶颈一般来自于集群(standalone, yarn, mesos, k8s)的资源紧张，CPU，网络带宽，内存。Spark的性能，想要它快，就得充分利用好系统资源，尤其是内存和CPU。有时候我们也需要做一些优化调整来减少[详细]
-
5个可以帮助Pandas进行数据预解决的可视化图表
所属栏目：[大数据] 日期：2021-05-28 热度：59
数据科学和机器学习项目的结构化方法从项目目标开始。同一组数据点可以推断出一些有意义的信息。基于我们所寻找的，我们需要关注数据的另一个方面。一旦我们明确了目标，我们就应该开始考虑我们需要的数据点。这将使我们能够专注于最相关的信息集，而忽略[详细]
-
大数据在疫情期间对货运运营商的安全不可估量
所属栏目：[大数据] 日期：2021-05-28 热度：99
大数据对于避免许多危机非常重要。采用大数据应对冠状病毒疫情危机是一个很好的例子。越来越多的国家和组织正在使用大数据来促进社交距离，加强联系追踪并找到新的治疗方法。 在这场危机期间，某些行业比其他行业更依赖大数据来保障安全。这些包括货运运营[详细]
-
数据科学家vs数据分析师，到底有啥差异？
所属栏目：[大数据] 日期：2021-05-28 热度：64
副标题#e# 数据科学和机器学习两个领域很容易混淆，从职责描述上还是大家的普遍印象里，这两个职位都差不多。相较之下，数据科学和数据分析这两个职位更容易区分。它们虽有关键差别，但也有相似之处。 有人会说，要成为一名数据科学家，要先从数据分析的工[详细]
-
大数据和物联网是如何相辅相成的？
所属栏目：[大数据] 日期：2021-05-28 热度：63
物联网传感器持续接收来自大量连接的异构设备的数据。随着联网设备数量的增加，物联网系统需要具有可伸缩性，以适应数据的流入。分析系统处理这些数据并提供有价值的报告，这将使企业具有竞争优势。由于数据是基于其类型挖掘的，因此必须对数据进行分岔以[详细]
-
粉碎二八法则！每个数据科学家都得会一点SparkMagic
所属栏目：[大数据] 日期：2021-05-28 热度：179
著名的帕累托法则，即80/20定律，告诉我们：原因和结果、投入和产出、努力和报酬之间存在着无法解释的不平衡。即使是21世纪最具吸引力的工作，数据科学依然逃不脱这一定律。 商业数据科学家80%的时间都花在查找、清洗和准备数据上，这是数据科学家工作中效[详细]
-
社交大数据如何助力社会风险问题？
所属栏目：[大数据] 日期：2021-05-28 热度：99
副标题#e# 在网络空间治理中运用社交大数据 当今社会，社交媒体已经成为用户内容获取与危机风险传播的主要渠道。根据艾瑞咨询发布的《2019年中国移动社交行业研究报告》，我国移动社交媒体用户规模预计2020年将达到8.2亿。社交媒体的传播生态越来越呈现出全[详细]
-
据挖掘中所需的概率论与数理统计知识
所属栏目：[大数据] 日期：2021-05-28 热度：176
据挖掘中所需的概率论与数理统计知识 ??（ 关键词：微积分、概率分布、期望、方差、协方差、数理统计简史、大数定律、中心极限定理、正态分布） 导言：本文从微积分相关概念，梳理到概率论与数理统计中的相关知识，但本文之压轴戏在本文第4节（彻底颠覆以[详细]
-
【轰炸】大数据分析2015年中国留学生回国就业蓝皮书
所属栏目：[大数据] 日期：2021-05-28 热度：57
副标题#e# 本文摘自数据观 前几日，教育部公布了《中国留学回国就业蓝皮书2015》。蓝皮书中介绍，1978年至2015年底，我国累计出国留学人数404.21万，年均增长率19.06%，累计回国人数221.86万。留学回国就业人员的基本特征有哪些?就业情况怎么样?一起跟天道[详细]
-
找出一个整数数组中的第二大数
所属栏目：[大数据] 日期：2021-05-28 热度：65
可能以故事形式：如从第一层到第十层电梯每层停一次，如何找到第二个大的钻石 ?1?#includestdio.h??2?#includeassert.h??3?#define?MINNUMBER?-32768??4?int?find_sec_max(int?arr[],int?size)??5?{??6?????assert(arr);??7?????int?maxnumber=arr[0];??8?[详细]
-
【机器学习】数据处理中白化Whitening的作用图解分析
所属栏目：[大数据] 日期：2021-05-27 热度：105
之前在看斯坦福教程中whiteining这一章时，由于原始图像相邻像素值具有高度相关性，所以图像数据信息冗余，对于白化的作用的描述主要有两个方面：1，减少特征之间的相关性；2，特征具有相同的方差（协方差阵为1）；但是为什么这么做，以及这样做对于算法或[详细]
-
数据集成--Informatica PowerCenter
所属栏目：[大数据] 日期：2021-05-27 热度：85
概要 随着数据呈现单位级别的递增，从海量的数据中分析出有价值的数据，对未来的事情进行一些预测，显得更能体现出BI的优越性了，但这也同时考验着数据处理ETL的性能和安全。这几天大体调查了一下informatica公司的PowerCenter，在国内市场上使用的挺早的[详细]
-
美团机器学习中的数据清洗与特征挖掘实践
所属栏目：[大数据] 日期：2021-05-27 热度：144
综述 如上图所示是一个经典的机器学习问题框架图。数据清洗和特征挖掘的工作是在灰色框中框出的部分，即“数据清洗=特征，标注数据生成=模型学习=模型应用”中的前两个步骤 灰色框中蓝色箭头对应的是离线处理部分。主要工作是： 从原始数据，如文本、图像[详细]
-
String大数加减乘除（非负整数）
所属栏目：[大数据] 日期：2021-05-27 热度：79
副标题#e# leetcode上一题使用String完成大数乘法，鉴于之前华为机试也考到过大数减法，这里做一个大数运算的专题。 说到底，大数运算考察的还是对运算的理解，我们完全可以通过模拟手算来进行。 注意string与int间的转换，string[] - '0' 变成int，int + '[详细]
-
【bzoj3110】[Zjoi2013]K大数查询 权值线段树套区间线段树
所属栏目：[大数据] 日期：2021-05-27 热度：145
权值线段树套区间线段树 外层线段树按照完全二叉树的建法全部建出 内层线段树动态开点 外层的每个节点上都建一棵区间线段树，维护权值在[l,r]中每个区间出现的个数 每次修改对应外层线段树上的O(log n)个节点，内层修改一个区间，对应内层线段树上的O(log[详细]
-
lightoj 1214 - Large Division 大数对小数取余
所属栏目：[大数据] 日期：2021-05-27 热度：105
给定一个200位的大数和一个int范围整数，问大数是否是小数的倍数。 同之前的某到简单数学题 #includebits/stdc++.husing namespace std;#define ll long long#define ull unsigned long long#define mod 1000007#define inf 0x3f3f3f3f#define N 100100usi[详细]
-
模版--大数加减乘除
所属栏目：[大数据] 日期：2021-05-27 热度：116
/* 因为计算大数除法时需要用到乘法和减法， 但是不指定字符串长度的乘法和减法不容易用字符数组表示， 所以这里就没写用字符数组计算的大数除法。o(╯□╰)o *//***********大数加减乘/仅限正整数***************///加法测试：HDU 1002//减法测试：百练OJ[详细]
-
沈艳：关注大数据分析门槛 警惕大数据神话
所属栏目：[大数据] 日期：2021-05-27 热度：108
副标题#e# 大数据是近几年最热门的IT概念之一，并已在许多领域实现落地。从淘宝利用平台数据解读中国消费趋势和地区差异到出行类APP在拥塞的城市中为用户提供快速的车辆调度，从数据分析团队在奥巴马连任竞选中发挥巨大作用到谷歌智能系统AlphaGo在人机围棋[详细]
-
大规模数据处理Bloom Filter C++代码实现
所属栏目：[大数据] 日期：2021-05-27 热度：103
副标题#e# 大规模数据处理Bloom Filter C++代码实现 ? Bloom Filter是由Bloom在1970年提出的一种多哈希函数映射的快速查找算法。通常应用在一些需要快速判断某个元素是否属于集合，但是并不严格要求100%正确的场合。 一. 实例? 为了说明Bloom Filter存在的[详细]
-
上海交大-IBM“大数据分析”合作项目签约及软件捐赠仪式
所属栏目：[大数据] 日期：2021-05-27 热度：189
4月13日上午，上海交通大学-IBM“大数据分析”合作项目签约及软件捐赠仪式在上海交大闵行校区电院群楼3-208会议室举行。上海交大电子信息与电气工程学院计算机系校友、IBM大中华区副总裁、战略部总经理郭继军，IBM大中华区大数据与分析市场总监韩国华，大[详细]
-
智能家居应用高峰论坛圆满结束！
所属栏目：[大数据] 日期：2021-05-27 热度：186
智能家居创新发展与技术标准产业联盟执行理事长陈军、中国移动智慧家庭运营中心智能方案系统部总经理浦贵阳、青岛海信智慧家居系统股份有限公司华南区总经理成斌、美的置业旗下广东睿住智能科技有限公司技术公司总经理杨[详细]
-
从智能建筑到自我掌握的智慧建筑
所属栏目：[大数据] 日期：2021-05-27 热度：60
企业组织尤其是他们的设施和房地产经理，一直在寻求改善我们的工作环境以及我们在其中工作的建筑物。与此同时，他们希望提高成本效益、提高生产力，并且-如今创造为员工提供健康，有吸引力的工作场所至关重要。 智能建筑技术和物联网（IoT）为改善我们的工[详细]
-
机器学习的五个成功实践
所属栏目：[大数据] 日期：2021-05-27 热度：195
IT领导者们分享了使用人工智能和机器学习来获得业务洞察的方法。 随着组织越来越多地利用技术来更好地预测客户的偏好并支持业务运营，人工智能和机器学习(ML)越来越受企业青睐。 IDC的数据指出，2019年的支出为375亿美元，到2023年，人工智能系统方面的支[详细]
-
光学字符识别OCR如何让城市变得更便捷
所属栏目：[大数据] 日期：2021-05-27 热度：170
OCR通常也称为自动车牌识别（ANPR）、自动车牌识别（ALPR）和车牌识别（LNPR），采用人眼可见的字母数字字符，例如车牌、支票和护照，并使它们成为电子护照。正确识别这些各种字符可以帮助组织机构更准确地执行以前遭受人为错误的功能。它还可以帮助加快计[详细]
-
推荐丨大数据处理漫谈：盘点开源软件栈
所属栏目：[大数据] 日期：2021-05-26 热度：175
本篇文章重点梳理了软件栈，主要以开源软件为主，闭源不谈。大数据发展至今，开源软件层出不穷，也去解决了不同的问题，笔者试图去弄清楚这些，分门别类，后面也可以参照下。由于笔者知识面有限，难免会出现一些偏颇，不全，不正确，还请指正。后面也会有[详细]
浙公网安备 33038102330465号