当前位置:首页 > 公司动态
大数据时代如何有效管理冷数据?
  • 发表时间:2019-11-11 点击数:204
  • 来源:未知

大数据时代,人们的生活、工作都在数据化,时时刻刻都有新的数据产生,数据正在呈几何倍数爆炸式增长。如何存储、管理和使用这些数据,是现代企业面临的难题。

Forrester报告显示,组织中经常有多达73%的数据未使用,但很少有数据被丢弃。这些组织仍然保留旧的但很少或从未访问过的数据,原因主要是:

新的分析类型,比如长期趋势分析可能会使这些几乎被遗忘的数据变得必要。

诉讼的可能性,这可能要追溯到几年前的旧文档和电子邮件。

这些数据可以被称作“冷数据”,顾名思义,冷数据即是那些不经常访问、但又无法删除的信息,比如用户在社交媒体上存储的大量信息、企业备份数据、业务与操作日志数据、话单与统计数据等信息。

组织在这方面面临的挑战是,如何有效管理此类数据的存储,即使大部分时间组织看不到也用不到这些数据。

其中一个问题是,存储被IT界视为一种商品。存储很便宜,所以没有人会考虑在需要的时候订购更多的磁盘。

但是存储真的便宜吗?

带宽和基础架构成本不断增长,而这些成本通常需要支持更多存储(甚至便宜的存储)以及包含大数据的更大文件。更多的存储空间需要更多的资金用于处理、网络和人员等支持资源。与存储相关的成本会增加的另一个原因是,保留大型文件的多个版本时灾难恢复和备份过程变得复杂。

结果是,需要为很少使用或根本不使用的数据留出额外的存储空间,尤其是大数据的需要超出了存储空间的规模。这增加了总体IT支出。

公司可以采取以下四个方法来有效地管理其冷存储数据。

1、使用便宜但可靠的冷存储

对于很少使用或存档的数据,慢速硬盘驱动器和磁带是最常用的存储介质。重要的是定期测试磁盘和磁带,以确保它们工作正常。另外,要避免将旧的驱动器和磁带降级为归档和数据备份功能——这些资源仍然有使用寿命,如果它们太旧,则更有可能出现故障。

2.考虑基于云的冷存储

如果您不想在现场或物理外部设施中存储大数据,则可以选择使用云。基于云的冷存储有很多选择,您可能会找到一种存储所有冷数据最合适的选择。

3.对冷数据进行年度评估

即使您已经有存储冷数据的方法,也并不意味着您应该存储所有数据。如果您还没有,您可以与管理层和法律部门商议确定应该保留哪些数据、丢弃哪些数据,每年评估一次即可。

4. 使用数据/存储自动化

大多数存储提供商提供分层的数据存储,这种存储是通过人工智能实现的。人工智能会采用您定义的存储数据的规则,并自动应用它们来确定数据的存储位置。

数据存储的主要层是内存存储或固态驱动器,您经常访问的数据存储就在其中。不常访问的数据可以存储在更便宜的硬盘存储的二级数据层上。

很少使用的数据或冷数据将被分配给速度较慢的磁盘驱动器或磁带,这些磁盘或磁带是您最便宜的存储介质。通过利用这种自动化,您可以确保经常以最低的成本存储冷数据的同时,始终可以将大量热数据提供给用户。

结束语

大多数大数据存储管理策略的重点是让用户随时可以实时获得数据,但这也增加了存储和处理的预算支出。公司可以通过管理很少使用的数据来帮助抵消这些较大的支出,这样就可以以最低的成本存储这些数据。对于这些数据,冷存储是一种安全、可靠、经济的解决方案。