Tag: 大数据

All the articles with the tag "大数据".

• Hive表中数据倾斜的处理方法

  Published:2024年9月23日 |  at 14:24

  在 Hive 表中，数据倾斜 是大数据处理中的常见问题，尤其在执行 JOIN、GROUP BY、DISTINCT 等操作时，某些键值的数据分布不均匀，导致某些计算节点负载过重，任务执行变慢甚至失败。以下是处理 Hive 表数据倾斜的常见方法：

• Flink 在大数据开发中的应用（实时数据分析和处理）

  Published:2024年9月22日 |  at 16:29

  在当今快节奏的商业环境中，实时数据分析成为企业获取竞争优势的关键能力。通过对实时数据进行分析，企业可以快速应对市场变化、做出更精准的业务决策。无论是金融、零售还是物联网领域，实时数据流的处理需求愈发重要。Apache Flink，作为一款开源的分布式流处理框架，以其强大的实时数据处理能力和低延迟特性，在大数据实时分析领域备受推崇。本文将详细介绍 Flink 在实时数据分析与处理中的应用，结合 PyFlink 和 Flink SQL 的实操步骤，帮助开发者快速掌握 Flink 的实时流处理技巧。

• 作为前员工，对阿里瓴羊业务的理解

  Published:2024年9月20日 |  at 13:57

  在国内，过去几年中大数据底层技术的发展并没有发生显著变化，很多服务提供商的产品同质化严重，竞争也集中在价格和短期服务上。然而，仅靠短期的项目或服务维持盈利显然是不现实的，企业必须为客户提供长期、持续的服务，才能建立真正的竞争优势。鉴于我也曾经是瓴羊的一分子，我认为瓴羊的未来发展需要从多个层面进行优化与调整。

• 数据湖与数据仓库：两种核心数据存储方式的深度解析与差异

  Published:2024年9月20日 |  at 10:31

  最近有一些朋友在问我，数据湖和数据仓库有什么区别和关系，一开始我是觉得这个事情压根不需要一篇博客来解释，昨天又有人在问，我想了下，还是话点时间来解释下

• 离线数据中台的数据安全策略实践

  Published:2024年9月7日 |  at 01:29

  在数字化时代，数据成为了企业的核心资产，而如何保障这些资产的安全成为了亟待解决的问题。离线数据中台，作为企业数据资产管理的重要环节，其数据安全策略的实践显得尤为重要。今天，我们就来聊聊这个话题，知其然，更要知其所以然。

• Python 在大数据开发中的应用

  Published:2024年7月22日 |  at 16:15

  在大数据领域，数据的处理和分析是企业决策和业务优化的核心。随着数据量的不断增长和数据类型的多样化，企业面临着如何高效处理和分析这些数据的挑战。Python 作为一种灵活、易于学习且功能强大的编程语言，逐渐成为大数据开发中不可或缺的工具。从数据采集、清洗、分析到机器学习，Python 在大数据开发的各个环节中都扮演了重要角色。本文将探讨 Python 在大数据开发中的应用及其优势，并介绍一些常见的使用场景和工具。

• Flink 在大数据开发中的应用

  Published:2024年7月21日 |  at 16:20

  在现代大数据开发中，实时数据处理变得愈发重要。无论是金融服务中的实时风控，还是电商平台的个性化推荐，企业都需要对实时数据进行处理，以便做出快速决策。Apache Flink 作为一个分布式流处理框架，以其高性能、低延迟和强大的状态管理功能，逐渐成为实时数据处理的首选解决方案。本文将详细介绍 Flink 在大数据开发中的应用，并探讨其在实际业务场景中的使用优势。

• 【数据质量】使用Sifflet 获得可靠的数据

  Published:2024年6月9日 |  at 02:17

  最近在看国外最近都有哪些新的大数据相关技术，无意中发现Sifflet这个工具，简单研究了下，结合海外的其他文章写点总结

• 【数据安全】离线数仓的数据安全理解（未完待续）

  Published:2024年6月3日 |  at 16:54

  数据安全在离线数据仓库（离线数仓）中尤为重要，因为它涉及到大量敏感数据的存储、处理和分析。离线数仓通常用于存储历史数据和进行复杂的批量处理，因此需要采取严格的安全措施来保护数据的完整性和机密性。