分布式文件存储 - - - MinIO从入门到飞翔

2024-06-15 1381阅读

MinIO从入门到飞翔

文章目录

    • MinIO从入门到飞翔
      • 0、前言
      • 1、分布式文件系统
      • 2、MinIO 介绍
      • 3、 MinIO安装（docker）
      • 4、基本概念
      • 5、通过代码上传文件到MinIO
      • 6、封装MinIO为starter
      • 7、在其他项目中集成封装好的模块

        0、前言

        对象存储是一种数据存储架构，设计用于管理和处理大量非结构化数据。与传统的文件存储和块存储不同，对象存储通过将数据分解为离散的、独立的单元或“对象”来存储每个对象包含数据本身、相关的元数据和一个唯一的标识符。

        对象存储对比：

        存储方式优点缺点
        服务器磁盘开发便捷，成本低扩展困难
        分布式文件系统容易实现扩容复杂度高
        第三方存储开发简单，功能强大，免维护收费

        1、分布式文件系统

        分布式文件系统（Distributed File System, DFS）是一种文件系统，它使文件可以跨越多个服务器或存储设备存储和访问。DFS 通过网络将多个存储资源组合成一个统一的文件系统，使用户和应用程序可以像访问本地文件一样透明地访问远程文件。

        分布式文件系统的关键特性：

        1. 透明性：用户和应用程序可以像访问本地文件一样访问远程文件，感受不到底层的复杂性。
        2. 高可用性：通过复制和冗余机制，确保即使某些节点或硬件发生故障，数据仍然可用。
        3. 可扩展性：能够处理随着数据量和用户数增加而增长的需求。
        4. 容错性：通过数据冗余和错误检测机制，保证系统能继续运行，即使发生部分硬件或网络故障。
        5. 性能：通过分布式架构，能够有效地处理大量并发访问请求。

        2、MinIO 介绍

        MinIO 是一个高性能的分布式对象存储系统，兼容 Amazon S3 云存储服务，Min10基于Apache License v2.0开源协议的对象存储服务，可以做为云存储的解决方案用来保存海量的图片，视频，文档。它专为大规模存储基础设施设计，能够高效地存储海量非结构化数据，如图片、视频、日志文件等。MinIO 提供了一组简单的 API，用户可以方便地进行数据存储和管理。

        分布式文件存储 - - - MinIO从入门到飞翔

        官方文档

        MinIO 的关键特性

        1. 兼容性：
          • 完全兼容 Amazon S3 API，使用户可以使用现有的 S3 客户端和工具。
          • 高性能：
            • 设计为高性能对象存储系统，能够支持每秒数十GB的数据吞吐量。
            • 可扩展性：
              • 支持横向扩展，允许用户通过添加更多的存储节点来扩展存储容量和性能。
              • 简易部署：
                • 提供简单的安装和配置过程，可以在几分钟内启动和运行。
                • 数据保护：
                  • 通过纠删码（Erasure Coding）和位衰减（Bit Rot）保护机制确保数据完整性和持久性。
                  • 多租户支持：
                    • 支持多用户和多租户环境，提供隔离和权限管理。
                    • Kubernetes 集成：
                      • 提供原生的 Kubernetes Operator，方便在 Kubernetes 集群中部署和管理 MinIO。

        3、 MinIO安装（docker）

        如果你有 Docker 环境，可以通过以下命令快速拉取并运行 MinIO 容器：

        1. 拉取镜像

          docker pull minio/minio

        2. 创建容器

          docker run -p 9000:9000 --name minio -d --restart=always -e "MINIO_ACCESS_KEY=minio" -e "MINIO_SECRET_KEY=minio123" -v /home/data:/data -v /home/config:/root/.minio minio/minio server /data

        3. 访问minio系统:

          http://:9000

          如：http://192.168.200.130:9000

          分布式文件存储 - - - MinIO从入门到飞翔

        4、基本概念

        • bucket – 类比于文件系统的目录

        • Object – 类比文件系统的文件

        • Keys – 类比文件名

          分布式文件存储 - - - MinIO从入门到飞翔

          5、通过代码上传文件到MinIO

          1. 新建项目，导入pom文件

                
        
            io.minio
            minio
            7.1.0
        
        
            org.springframework.boot
            spring-boot-starter-web
        
        
            org.springframework.boot
            spring-boot-starter-test
        
        
            com.heima
            heima-file-starter
            1.0-SNAPSHOT

          2. 创建test测试文件

            package com.heima.minio.test;
import com.heima.file.service.FileStorageService;
import io.minio.MinioClient;
import io.minio.PutObjectArgs;
import org.junit.Test;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
public class MinIOTest {
    public static void main(String[] args) {
        FileInputStream fileInputStream = null;
        try {
            fileInputStream =  new FileInputStream("E:\\list.html");;
            //1.创建minio链接客户端
            MinioClient minioClient = MinioClient.builder().credentials("minio", "minio123").endpoint("http://192.168.200.130:9000").build();
            //2.上传
            PutObjectArgs putObjectArgs = PutObjectArgs.builder()
                    .object("list.html")//文件名
                    .contentType("text/html")//文件类型
                    .bucket("leadnews")//桶名词  与minio创建的名词一致
                    .stream(fileInputStream, fileInputStream.available(), -1) //文件流
                    .build();
            minioClient.putObject(putObjectArgs);
            System.out.println("http://192.168.200.130:9000/leadnews/list.html");
        } catch (Exception ex) {
            ex.printStackTrace();
        }
    }
}

          3. 上传文件，点击控制台连接即可访问list.html文件

            分布式文件存储 - - - MinIO从入门到飞翔

          4. 若不能访问，在minio控制系统中，打开访问权限

            分布式文件存储 - - - MinIO从入门到飞翔

            分布式文件存储 - - - MinIO从入门到飞翔

          分布式文件存储 - - - MinIO从入门到飞翔

          6、封装MinIO为starter

          在项目中封装：

          1. 导入依赖

                org.springframework.boot
    spring-boot-autoconfigure


    io.minio
    minio
    7.1.0


    org.springframework.boot
    spring-boot-starter


    org.springframework.boot
    spring-boot-configuration-processor
    true


    org.springframework.boot
    spring-boot-starter-actuator

          2. 添加minio配置文件

            package com.heima.file.config;
import com.heima.file.service.FileStorageService;
import io.minio.MinioClient;
import lombok.Data;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.autoconfigure.condition.ConditionalOnClass;
import org.springframework.boot.context.properties.EnableConfigurationProperties;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Data
@Configuration
@EnableConfigurationProperties({MinIOConfigProperties.class})
//当引入FileStorageService接口时
@ConditionalOnClass(FileStorageService.class)
public class MinIOConfig {
    @Autowired
    private MinIOConfigProperties minIOConfigProperties;
    @Bean
    public MinioClient buildMinioClient() {
        return MinioClient
                .builder()
                .credentials(minIOConfigProperties.getAccessKey(), minIOConfigProperties.getSecretKey())
                .endpoint(minIOConfigProperties.getEndpoint())
                .build();
    }
}

          3. 在spring管理的bean中注入MinIOFileStorageService（在spring.factories中）

            org.springframework.boot.autoconfigure.EnableAutoConfiguration=\
  com.heima.file.service.impl.MinIOFileStorageService

          4. MinIOFileStorageService文件详情（大概就实现了对于文件资源上传的操作）

            package com.heima.file.service.impl;
import com.heima.file.config.MinIOConfig;
import com.heima.file.config.MinIOConfigProperties;
import com.heima.file.service.FileStorageService;
import io.minio.GetObjectArgs;
import io.minio.MinioClient;
import io.minio.PutObjectArgs;
import io.minio.RemoveObjectArgs;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.context.properties.EnableConfigurationProperties;
import org.springframework.context.annotation.Import;
import org.springframework.util.StringUtils;
import java.io.ByteArrayOutputStream;
import java.io.IOException;
import java.io.InputStream;
import java.text.SimpleDateFormat;
import java.util.Date;
@Slf4j
@EnableConfigurationProperties(MinIOConfigProperties.class)
@Import(MinIOConfig.class)
public class MinIOFileStorageService implements FileStorageService {
    @Autowired
    private MinioClient minioClient;
    @Autowired
    private MinIOConfigProperties minIOConfigProperties;
    private final static String separator = "/";
    /**
     * @param dirPath
     * @param filename  yyyy/mm/dd/file.jpg
     * @return
     */
    public String builderFilePath(String dirPath,String filename) {
        StringBuilder stringBuilder = new StringBuilder(50);
        if(!StringUtils.isEmpty(dirPath)){
            stringBuilder.append(dirPath).append(separator);
        }
        SimpleDateFormat sdf = new SimpleDateFormat("yyyy/MM/dd");
        String todayStr = sdf.format(new Date());
        stringBuilder.append(todayStr).append(separator);
        stringBuilder.append(filename);
        return stringBuilder.toString();
    }
    /**
     *  上传图片文件
     * @param prefix  文件前缀
     * @param filename  文件名
     * @param inputStream 文件流
     * @return  文件全路径
     */
    @Override
    public String uploadImgFile(String prefix, String filename,InputStream inputStream) {
        String filePath = builderFilePath(prefix, filename);
        try {
            PutObjectArgs putObjectArgs = PutObjectArgs.builder()
                    .object(filePath)
                    .contentType("image/jpg")
                    .bucket(minIOConfigProperties.getBucket()).stream(inputStream,inputStream.available(),-1)
                    .build();
            minioClient.putObject(putObjectArgs);
            StringBuilder urlPath = new StringBuilder(minIOConfigProperties.getReadPath());
            urlPath.append(separator+minIOConfigProperties.getBucket());
            urlPath.append(separator);
            urlPath.append(filePath);
            return urlPath.toString();
        }catch (Exception ex){
            log.error("minio put file error.",ex);
            throw new RuntimeException("上传文件失败");
        }
    }
    /**
     *  上传html文件
     * @param prefix  文件前缀
     * @param filename   文件名
     * @param inputStream  文件流
     * @return  文件全路径
     */
    @Override
    public String uploadHtmlFile(String prefix, String filename,InputStream inputStream) {
        String filePath = builderFilePath(prefix, filename);
        try {
            PutObjectArgs putObjectArgs = PutObjectArgs.builder()
                    .object(filePath)
                    .contentType("text/html")
                    .bucket(minIOConfigProperties.getBucket()).stream(inputStream,inputStream.available(),-1)
                    .build();
            minioClient.putObject(putObjectArgs);
            StringBuilder urlPath = new StringBuilder(minIOConfigProperties.getReadPath());
            urlPath.append(separator+minIOConfigProperties.getBucket());
            urlPath.append(separator);
            urlPath.append(filePath);
            return urlPath.toString();
        }catch (Exception ex){
            log.error("minio put file error.",ex);
            ex.printStackTrace();
            throw new RuntimeException("上传文件失败");
        }
    }
    /**
     * 删除文件
     * @param pathUrl  文件全路径
     */
    @Override
    public void delete(String pathUrl) {
        String key = pathUrl.replace(minIOConfigProperties.getEndpoint()+"/","");
        int index = key.indexOf(separator);
        String bucket = key.substring(0,index);
        String filePath = key.substring(index+1);
        // 删除Objects
        RemoveObjectArgs removeObjectArgs = RemoveObjectArgs.builder().bucket(bucket).object(filePath).build();
        try {
            minioClient.removeObject(removeObjectArgs);
        } catch (Exception e) {
            log.error("minio remove file error.  pathUrl:{}",pathUrl);
            e.printStackTrace();
        }
    }
    /**
     * 下载文件
     * @param pathUrl  文件全路径
     * @return  文件流
     *
     */
    @Override
    public byte[] downLoadFile(String pathUrl)  {
        String key = pathUrl.replace(minIOConfigProperties.getEndpoint()+"/","");
        int index = key.indexOf(separator);
        String bucket = key.substring(0,index);
        String filePath = key.substring(index+1);
        InputStream inputStream = null;
        try {
            inputStream = minioClient.getObject(GetObjectArgs.builder().bucket(minIOConfigProperties.getBucket()).object(filePath).build());
        } catch (Exception e) {
            log.error("minio down file error.  pathUrl:{}",pathUrl);
            e.printStackTrace();
        }
        ByteArrayOutputStream byteArrayOutputStream = new ByteArrayOutputStream();
        byte[] buff = new byte[100];
        int rc = 0;
        while (true) {
            try {
                if (!((rc = inputStream.read(buff, 0, 100)) > 0)) break;
            } catch (IOException e) {
                e.printStackTrace();
            }
            byteArrayOutputStream.write(buff, 0, rc);
        }
        return byteArrayOutputStream.toByteArray();
    }
}

          5. 具体模块下载：

            链接：https://pan.baidu.com/s/17eWr0sLCOuF3bWoMravH_A?pwd=m6ls

          7、在其他项目中集成封装好的模块

          在第5步创建的项目中进行测试使用：

          1. 导入文件管理依赖（自己封装好的，第6步的模块）

                
        com.heima
        heima-file-starter
        1.0-SNAPSHOT

          2. 添加minio配置文件（application.yml文件中）

            minio:
  accessKey: minio
  secretKey: minio123
  bucket: leadnews
  endpoint: http://192.168.200.130:9000
  readPath: http://192.168.200.130:9000

          3. 在spring管理的bean中注入FileStorageService

            package com.heima.minio.test;
import com.heima.file.service.FileStorageService;
import io.minio.MinioClient;
import io.minio.PutObjectArgs;
import org.junit.Test;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
@SpringBootTest( classes = MinIOApplication.class)
@RunWith(SpringRunner.class)
public class MinIOTest {
    public static void main(String[] args) {
    @Autowired
    private FileStorageService fileStorageService;
    @Test
    public void testUpdateImgFile() {
        try {
            FileInputStream fileInputStream = new FileInputStream("E:\\test.jpg");
            String filePath = fileStorageService.uploadImgFile("", "test.jpg", fileInputStream);
            System.out.println(filePath);
        } catch (FileNotFoundException e) {
            e.printStackTrace();
        }
    }
}

          4. 查看上传

            分布式文件存储 - - - MinIO从入门到飞翔

            分布式文件存储 - - - MinIO从入门到飞翔

VPS购买请点击我

免责声明：我们致力于保护作者版权，注重分享，被刊用文章因无法核实真实出处，未能及时与作者取得联系，或有版权异议的，请联系管理员，我们会立即处理! 部分文章是来自自研大数据AI进行生成,内容摘自(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供学习参考,不准确地方联系删除处理! 图片声明：本站部分配图来自人工智能系统AI生成,觅知网授权图片,PxHere摄影无版权图库和百度，360，搜狗等多加搜索引擎自动关键词搜索配图，如有侵权的图片，请第一时间联系我们，邮箱：ciyunidc@ciyunshuju.com。本站只作为美观性配图使用,无任何非法侵犯第三方意图,一切解释权归图片著作权方,本站不承担任何责任。如有恶意碰瓷者,必当奉陪到底严惩不贷!

相关阅读

目录[+]