分布式文件存储服务器之Minio对象存储技术参考指南_1

网上科普有关“分布式文件存储服务器之Minio对象存储技术参考指南”话题很是火热,小编也是针对分布式文件存储服务器之Minio对象存储技术参考指南寻找了一些与之相关的一些信息进...

网上科普有关“分布式文件存储服务器之Minio对象存储技术参考指南”话题很是火热,小编也是针对分布式文件存储服务器之Minio对象存储技术参考指南寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。

Minio对象存储技术

MinIO是一种高性能对象存储解决方案,原生支持Kubernetes部署。MinIO提供与AmazonWebServicesS3兼容的API并支持所有核心S3功能。MinIO是在GNUAffero通用公共许可证v3.0下发布的。

也许提起对象存储技术,我们都经历过Fastdfs长时间的拉锯战,即使现在大部分都在使用云服务厂商提供的OSS对象存储服务,但是其所花费的经济成本也是递增的,而且数据都存储在别人的服务器上,从一定程度上来说,对于文件资源的把控粒度是极其不可控制,公网数据是何其的没有隐私可言。虽然,对于开发层面上来说,只需要整合对应的SDK,对其使用已经是开箱即用。但是,对于选择自研对象存储技术来说,Minio何尝不失为一大利器。其搭建过程与整合方面,几乎已经没有什么瓶颈可言。不论是从传统服务器的安装,还是基于Docker以及Kubernetes的部署,简直简单得不要不要的。

基本概述

MinIOsupportsthewidestrangeofusecasesacrossthelargestnumberofenvironments.Cloudnativesinceinception,MinIO’ssoftware-definedsuiterunsseamlesslyinthepubliccloud,privatecloudandattheedge-makingitaleaderinthehybridcloud.Withindustryleadingperformanceandscalability,MinIOcandeliverarangeofusecasesfromAI/ML,analytics,backup/restoreandmodernwebandmobileapps.

MinIO在最大数量的环境中支持最广泛的用例。自云原生以来,MinIO的软件定义套件在公共云、私有云和边缘无缝运行——使其成为混合云的领导者。凭借行业领先的性能和可扩展性,MinIO可以提供一系列用例,包括AI/ML、分析、备份/恢复以及现代Web和移动应用程序。

HybridCloud:混合云

Borncloudnative:云原生

MinIOispioneeringhighperformanceobjectstorage:高性能对象存储的先驱

Builtontheprinciplesofwebscale:建立在网络规模的原则上

The#1opensourceobjectstore.Andthemostenterpriseready.开源对象存储,并且最适合企业

ThedefactostandardforAmazonS3compatibility:AmazonS3兼容性的事实标准

Simplypowerful:简单强大[极简主义]

基本特点

MinIO的企业级特性代表了对象存储空间的标准。从AWSS3API到S3Select以及我们对内联擦除编码和安全性的实施,我们的代码广受赞誉,并经常被一些技术和商业领域的大腕复制。

ErasureCoding:纠错码

MinIO使用以汇编代码编写的每个对象内联擦除编码来保护数据,以提供尽可能高的性能。MinIO使用Reed-Solomon代码将对象条带化为具有用户可配置冗余级别的数据和奇偶校验块。MinIO的ErasureCoding在对象级别执行修复,可以独立修复多个对象。

在N/2的最大奇偶校验下,MinIO的实现可以确保在部署中仅使用((N/2)+1)个操作驱动器进行不间断的读写操作。例如,在12个驱动器的设置中,MinIO将对象分片到6个数据和6个奇偶校验驱动器,并且可以可靠地写入新对象或重建现有对象,而部署中仅剩下7个驱动器。

BitrotProtection:Bitrot保护

静默数据损坏或bitrot是磁盘驱动器面临的严重问题,导致数据在用户不知情的情况下损坏。原因是多方面的(驱动器老化、电流峰值、磁盘固件中的错误、幻像写入、读取/写入方向错误、驱动程序错误、意外覆盖),但结果是一样的-数据受损。

MinIO对HighwayHash算法的优化实现确保它永远不会读取损坏的数据-它即时捕获和修复损坏的对象。通过在READ上计算散列并在从应用程序、网络到内存/驱动器的WRITE上对其进行验证来确保端到端的完整性。该实现专为速度而设计,可以在IntelCPU的单核上实现超过10GB/秒的散列速度。

Encryption:加密处理

在飞行中加密数据是一回事;保护静态数据是另一回事。MinIO支持多种复杂的服务器端加密方案来保护数据——无论数据在哪里。MinIO的方法以可忽略的性能开销确保机密性、完整性和真实性。使用AES-256-GCM、ChaCha20-Poly1305和AES-CBC支持服务器端和客户端加密。

加密对象使用AEAD服务器端加密进行防篡改。此外,MinIO与所有常用的密钥管理解决方案(例如HashiCorpVault)兼容并经过测试。MinIO使用密钥管理系统(KMS)来支持SSE-S3。

如果客户端请求SSE-S3或启用自动加密,则MinIO服务器使用唯一的对象密钥加密每个对象,该对象密钥受KMS管理的主密钥保护。鉴于极低的开销,可以为每个应用程序和实例打开自动加密。

IdentityManagement:身份管理

MinIO支持身份管理中最先进的标准,与OpenID连接兼容提供商以及关键的外部IDP供应商集成。这意味着访问是集中的,密码是临时的和轮换的,而不是存储在配置文件和数据库中。此外,访问策略是细粒度和高度可配置的,这意味着支持多租户和多实例部署变得简单。

ContinuousReplication:连续复制

传统复制方法的挑战在于,它们无法有效扩展超过数百TB。话虽如此,每个人都需要一个复制策略来支持灾难恢复,并且该策略需要跨越地域、数据中心和云。

MinIO的持续复制专为大规模、跨数据中心部署而设计。通过利用Lambda计算通知和对象元数据,它可以高效快速地计算增量。Lambda通知确保更改立即传播,而不是传统的批处理模式。

连续复制意味着如果发生故障,即使面对高度动态的数据集,数据丢失也将保持在最低限度。最后,与MinIO所做的一样,持续复制是多供应商的,这意味着您的备份位置可以是从NAS到公共云的任何位置。

GlobalFederation:全球联合会

现代企业到处都有数据。MinIO允许将这些不同的实例组合起来形成一个统一的全局命名空间。具体来说,可以将任意数量的MinIO服务器组合成一个分布式模式集,多个分布式模式集可以组合成一个MinIO服务器联合。每个MinIOServerFederation都提供统一的管理和命名空间。

MinIO联合服务器支持无限数量的分布式模式集。这种方法的影响是对象存储可以为大型、地理分布的企业大规模扩展,同时保留从单个控制台容纳各种应用程序(Splunk、Teradata、Spark、Hive、Presto、TensorFlow、H20)的能力。

Multi-CloudGateway:多云网关

所有企业都在采用多云战略。这也包括私有云。因此,您的裸机虚拟化容器和公共云服务(包括Google、Microsoft和阿里巴巴等非S3提供商)必须看起来相同。虽然现代应用程序具有高度可移植性,但支持这些应用程序的数据却不是。

让这些数据无论位于何处都可用,是MinIO解决的主要挑战。MinIO在裸机、网络附加存储和每个公共云上运行。更重要的是,MinIO通过AmazonS3API确保您从应用程序和管理的角度来看这些数据的视图看起来完全相同。

MinIO可以走得更远,使您现有的存储基础设施与AmazonS3兼容。影响是深远的。现在,组织可以真正统一他们的数据基础设施——从文件到块,所有这些都显示为可通过AmazonS3API访问的对象,而无需迁移。

WORM:WORM对象锁定

启用WORM后,MinIO会禁用所有可能改变对象数据和元数据的API。这意味着一旦写入的数据就可以防篡改。这对于许多不同的监管要求具有实际应用。

基本架构

MinIO被设计为云原生,可以作为由外部编排服务(如Kubernetes)管理的轻量级容器运行。整个服务器是一个约40MB的静态二进制文件,并且在使用CPU和内存资源方面非常高效-即使在高负载下也是如此。结果是您可以在共享硬件上共同托管大量租户。

MinIO在带有本地连接驱动器(JBOD/JBOF)的商用服务器上运行。集群中的所有服务器的能力相同(完全对称架构)。没有名称节点或元数据服务器。

MinIO将数据和元数据作为对象一起写入,无需元数据数据库。此外,MinIO将所有功能(擦除代码、bitrot检查、加密)作为内联、严格一致的操作执行。结果是MinIO非常有弹性。

每个MinIO集群是一组分布式MinIO服务器,每个节点一个进程。MinIO作为单个进程在用户空间运行,并使用轻量级协程来实现高并发。驱动器被分组到擦除集(默认情况下每组16个驱动器),并且使用确定性散列算法将对象放置在这些集上。

MinIO专为大规模、多数据中心的云存储服务而设计。每个租户运行自己的MinIO集群,与其他租户完全隔离,使他们能够保护他们免受升级、更新和安全事件的任何中断。每个租户通过跨地域联合集群来独立扩展。

MinIO服务器功能

MinIO的企业级特性代表了对象存储空间的标准。从AWSS3API到S3Select以及我们对内联擦除编码和安全性的实施,我们的代码广受赞誉,并经常被一些技术和商业领域的大腕复制。

MinIO对象保留

默认情况下,对唯一对象名称的每次新写入操作都会导致覆盖该对象。您可以将MinIO配置为创建每个对象突变的版本,从而保留该对象的完整历史记录。MinIO还支持一次写入多次读取(WORM)锁定版本化对象,以确保在指定的持续时间内或直到显式解除锁定为止的完全不变性。

版本控制和对象锁定功能仅适用于分布式MinIO部署:

BucketVersioning:存储桶版本控制

MinIO支持在单个存储桶中保存对象的多个“版本”。通常会覆盖现有对象的写入操作会导致创建新的版本化对象。MinIO版本控制可防止意外覆盖和删除,同时支持“撤消”写入操作。存储桶版本控制是配置对象锁定和保留规则的先决条件。

对于版本化存储桶,任何改变对象的写入操作都会导致该对象的新版本具有唯一的版本ID。MinIO标记客户端默认检索的对象的“最新”版本。然后,客户端可以明确选择列出、检索或删除特定对象版本。

其中:

具有单一版本的对象:MinIO为每个对象添加一个唯一的版本ID作为写入操作的一部分。

2.具有多个版本的对象:MinIO保留对象的所有版本,并将最新版本标记为“最新”。

3.检索最新的对象版本

4.检索特定对象版本

WORM:对象锁定

MinIO对象锁定(“对象保留”)强制执行一次写入多次读取(WORM)不变性以保护版本化对象不被删除。MinIO支持基于持续时间的对象保留和无限期合法保留保留。

MinIO对象锁定提供关键数据保留合规性,并符合CohassetAssociates的SEC17a-4(f)、FINRA4511(C)和CFTC1.31(c)-(d)要求。

其中:

不带锁的桶:MinIO版本控制保留了对象突变的完整历史。但是,应用程序可以明确删除特定的对象版本。

带锁的桶:对存储桶中的对象应用默认的30天WORM锁定可确保所有对象版本的最短保留期和保护期。

3.锁定桶中的删除操作:删除操作遵循版本化存储桶中的正常行为,其中MinIODeleteMarker为对象创建一个。但是,对象的非删除标记版本仍受保留规则约束,并且不会受到任何特定删除或覆盖尝试的影响。

4.锁定存储桶中的版本化删除操作:MinIO会阻止任何删除在WORM锁定下持有的特定对象版本的尝试。客户端可以删除版本的最早可能时间是锁定到期时。

Minio部署和管理

MinIO是一个软件定义的高性能分布式对象存储服务器。您可以在消费级或企业级硬件以及各种操作系统和架构上运行MinIO。

MinIO支持两种部署模式:独立和分布式:

独立部署:具有单个存储卷或文件夹的单个MinIO服务器。独立部署最适合使用MinIO进行对象存储的应用程序的评估和初始开发,或为单个存储卷提供S3访问层。独立部署不提供对全套MinIO高级S3特性和功能的访问。

分布式部署:一台或多台MinIO服务器,所有服务器上至少有四个总存储卷。分布式部署最适合生产环境和工作负载,并支持MinIO的所有核心和高级S3特性和功能。对于生产环境,MinIO建议使用4个节点和4个驱动器的基线拓扑。

两种存储在在功能、性能等方面存在区别。

1、功能:NGINX是一个高性能的Web服务器和反向代理服务器,它采用基于事件驱动的异步I/O模型,能够处理大量并发连接而不会消耗太多的系统资源。对象存储则是专门针对云计算、大数据和非结构化数据的海量存储形态。

2、性能:NGINX采用单线程模型来处理请求,并通过使用内存池来管理内存分配和释放,从而避免了频繁的malloc/free操作,提高了性能。对象存储通常具有兼容性、高可靠性、高性价比等特点。它可能采用分片上传功能将大对象切成多个小片,并仅对失败的分片进行重传,以提高上传速度。

关于“分布式文件存储服务器之Minio对象存储技术参考指南”这个话题的介绍,今天小编就给大家分享完了,如果对你有所帮助请保持对本站的关注!

本文来自作者[听露]投稿,不代表长隆号立场,如若转载,请注明出处:https://clcgzw.com/cshi/202502-1758.html

(276)

文章推荐

  • 台风蓝色预警代表什么

    网上科普有关“台风蓝色预警代表什么”话题很是火热,小编也是针对台风蓝色预警代表什么寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。台风蓝色预警代表什么台风蓝色预警信号是对产生于热带洋面上的一种强烈的热带气旋的预警,是台风预警中的最低一级警报。台风蓝色预警信号含

    2025年02月18日
    342
  • 火车z和k哪个环境好

    网上科普有关“火车z和k哪个环境好”话题很是火热,小编也是针对火车z和k哪个环境好寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。Z字头和K字头的列车都是新空调列车,列车的环境基本上是一样的。z开头的列车是绿皮火车,z开头的列车就是平时被称之为是普通火车或者是

    2025年02月19日
    330
  • 春节高速免费时间段

    网上科普有关“春节高速免费时间段”话题很是火热,小编也是针对春节高速免费时间段寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。春节高速免费九天,也就是说从2024年的1月31日00:00-2024年2月6日24:00截止。高速免费通行的时间范围为春节、清明节、

    2025年02月20日
    295
  • 各种恶劣天气的预警都是由什么颜色代表什么意思

    网上科普有关“各种恶劣天气的预警都是由什么颜色代表什么意思”话题很是火热,小编也是针对各种恶劣天气的预警都是由什么颜色代表什么意思寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。预警信号4种颜色预警11种灾害天气据中国气象局预测减灾司司长、国家气象中心主任章国

    2025年02月20日
    304
  • 吃糖会影响视力吗 常见影响视力的4大情况

    网上科普有关“吃糖会影响视力吗常见影响视力的4大情况”话题很是火热,小编也是针对吃糖会影响视力吗常见影响视力的4大情况寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。眼睛是心灵的窗户,千万不能够让眼睛过早的戴上眼镜,很多小的方面都会对我们的视力有影响,小

    2025年02月20日
    299
  • DDR ECC服务器内存能不能用在台式机上-

    网上科普有关“DDRECC服务器内存能不能用在台式机上?”话题很是火热,小编也是针对DDRECC服务器内存能不能用在台式机上?寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。分类:电脑/网络>>硬件问题描述:听说服务器分

    2025年02月23日
    365
  • 对象存储可以提供的访问协议有哪些(多选)()-

    网上科普有关“对象存储可以提供的访问协议有哪些(多选)()?”话题很是火热,小编也是针对对象存储可以提供的访问协议有哪些(多选)()?寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。iSCSI和FC。iSCSI是一种可以通过TCP或IP网络提供对存储设备的块级

    2025年02月24日
    282
  • 国内有哪些大数据公司

    网上科普有关“国内有哪些大数据公司”话题很是火热,小编也是针对国内有哪些大数据公司寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。极其流行,同样也是竞争力极其大的一种商业模式。虽然国内软件开发公司都发展壮大起来了,但是各地软件开发公司的实力及资质仍然参差不齐。

    2025年02月25日
    286
  • 管理的对象包括哪些

    网上科普有关“管理的对象包括哪些”话题很是火热,小编也是针对管理的对象包括哪些寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。管理的对象包括:人、财、物、时间、信息1、人指被管理的生产人员、技术人员、以及下属管理人员,从长远的发展来看,还应包括预备劳动力的培养

    2025年02月25日
    355
  • 打开虚拟机时显示不是有效的虚拟机配置文件是什么原因啊

    网上科普有关“打开虚拟机时显示不是有效的虚拟机配置文件是什么原因啊”话题很是火热,小编也是针对打开虚拟机时显示不是有效的虚拟机配置文件是什么原因啊寻找了一些与之相关的一些信息进行分析,如果能碰巧解决你现在面临的问题,希望能够帮助到您。修复方法:本方法仅适用.vmx文件损坏而其他文件完好无损的

    2025年02月26日
    292

发表回复

本站作者后才能评论

评论列表(4条)

  • 听露
    听露 2025年02月26日

    我是长隆号的签约作者“听露”!

  • 听露
    听露 2025年02月26日

    希望本篇文章《分布式文件存储服务器之Minio对象存储技术参考指南_1》能对你有所帮助!

  • 听露
    听露 2025年02月26日

    本站[长隆号]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • 听露
    听露 2025年02月26日

    本文概览:网上科普有关“分布式文件存储服务器之Minio对象存储技术参考指南”话题很是火热,小编也是针对分布式文件存储服务器之Minio对象存储技术参考指南寻找了一些与之相关的一些信息进...

    联系我们

    邮件:长隆号@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们