利用hdfs gateway挂载NFS到本地
HDFS NFS Gateway
HDFS提供了基于NFS(Network File System)的插件,可以对外提供NFS网关,供其它系统挂载使用。
(图片来源网络,侵删)
NFS网关支持NFSv3,并允许将HDFS作为客户机本地文件系统的一部分挂载,现在支持:
·上传、下载、删除、追加内容
我们通过NFS网关可以将hdfs文件系统挂在为网络磁盘的形式,这样就可以像操作本地磁盘一样操作上面的数据
利用hdfs gateway挂载NFS
配置HDFS需要配置如下内容:
- core-site.xml,新增配置项以及hdfs-site.xml,新增配置项
core-site.xml中新增:
hadoop.proxyuser.hadoop.groups * hadoop.proxyuser.hadoop.hosts *
第一个配置项表示允许hadoop用户代理任何其他用户组,第二个标识允许代理服务器的请求
2.在hdfs-site.xml中新增如下项
nfs.superuser hadoop nfs.dump.dir /tmp/.hdfs-nfs nfs.exports.allowed.hosts 192.168.88.1 rw
- nfs.suerpser:NFS操作HDFS系统,所使用的超级用户(hdfs的启动用户为超级用户)
- nfs.dump.dir:NFS接收数据上传时使用的临时目录
- nfs.exports.allowed.hosts:NFS允许连接的客户端IP和权限,rw表示读写,IP整体或部分可以以*代替
- 开启portmap、nfs3两个新进程
启动NFS功能
1.将配置好的core-site.xml和hdfs-site.xml分发到node2和node3
2.重启Hadoop HDFS集群(先stop-dfs.sh,后start-dfs.sh)
3.停止系统的NFS相关进程
a.systemctl stop nfs;systemctl disable nfs
关闭系统nfs并关闭其开机自启
b.yum remove-y rpcbind卸载系统自带rpcbind
4.启动portmap(HDFS自带的rpcbind功能)(必须以root执行):hdfs-daemon start portmap
5.启动nfs(HDFS自带的nfs功能)(必须以hadoop.用户执行):hdfs–daemon start nfs.3
- 开启portmap、nfs3两个新进程
免责声明:我们致力于保护作者版权,注重分享,被刊用文章因无法核实真实出处,未能及时与作者取得联系,或有版权异议的,请联系管理员,我们会立即处理! 部分文章是来自自研大数据AI进行生成,内容摘自(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供学习参考,不准确地方联系删除处理! 图片声明:本站部分配图来自人工智能系统AI生成,觅知网授权图片,PxHere摄影无版权图库和百度,360,搜狗等多加搜索引擎自动关键词搜索配图,如有侵权的图片,请第一时间联系我们,邮箱:ciyunidc@ciyunshuju.com。本站只作为美观性配图使用,无任何非法侵犯第三方意图,一切解释权归图片著作权方,本站不承担任何责任。如有恶意碰瓷者,必当奉陪到底严惩不贷!
