2024年6月6日发(作者:)
由于用户数量的不断攀升,我对访问量大的应用实现了可扩展、高可靠的集群部署(即
lvs+keepalived的方式),但仍然有用户反馈访问慢的 问题。通过排查个服务器的情况,
发现问题的根源在于共享存储服务器NFS。在我这个网络环境里,N个服务器通过nfs方
式共享一个服务器的存储空间,使得 NFS服务器不堪重负。察看系统日志,全是nfs服务
超时之类的报错。一般情况下,当nfs客户端数目较小的时候,NFS性能不会出现问题;
一旦NFS服 务器数目过多,并且是那种读写都比较频繁的操作,所得到的结果就不是我
们所期待的。
下面是某个集群使用nfs共享的示意图:
这种架构除了性能问题而外,还存在单点故障,一旦这个NFS服务器发生故障,所有
靠共享提供数据的应用就不再可用,尽管用rsync方式同步数据到 另外一个服务器上做
nfs服务的备份,但这对提高整个系统的性能毫无帮助。基于这样一种需求,我们需要对
nfs服务器进行优化或采取别的解决方案,然而优 化并不能对应对日益增多的客户端的性
能要求,因此唯一的选择只能是采取别的解决方案了;通过调研,分布式文件系统是一个
比较合适的选择。采用分布式文件系 统后,服务器之间的数据访问不再是一对多的关系(1
个NFS服务器,多个NFS客户端),而是多对多的关系,这样一来,性能大幅提升毫无问
题。
到目前为止,有数十种以上的分布式文件系统解决方案可供选择,如
lustre,hadoop,Pnfs等等。我尝试了 PVFS,hadoop,moosefs这三种应用,参看了lustre、
KFS等诸多技术实施方法,最后我选择了moosefs(以下简称MFS)这种 分布式文件系
统来作为我的共享存储服务器。为什么要选它呢?我来说说我的一些看法:
1、 实施起来简单。MFS的安装、部署、配置相对于其他几种工具来说,要简单和容
易得多。看看lustre 700多页的pdf文档,让人头昏吧。
2、 不停服务扩容。MFS框架做好后,随时增加服务器扩充容量;扩充和减少容量皆
不会影响现有的服务。注:hadoop也实现了这个功能。
3、 恢复服务容易。除了MFS本身具备高可用特性外,手动恢复服务也是非常快捷的,
原因参照第1条。
4、 我在实验过程中得到作者的帮助,这让我很是感激。
发布评论