Linux下NFS服务器的配置 (二)

这是我写的第一份笔记式文档，是对自己最近在研究NFS方面的一个小小的总结，这个稳定也参考和引用了一部分别人的文档，这里表示感谢，这篇是根据LINUX来写的，有空的话我还会写一篇FORFREEBSD和SOLARIS的。请斑竹帮忙加个精华，万分感谢

超全的NFS文档(FORLINUX)
上海天俊
欢迎大家和我交流网络方面的技术问题
msn:[e-mail]:11300242
如果要转载的话请保留以上信息，谢谢配合

一、NFS简介
NFS-NetworkFileSystem的缩写，NFS是由Sun开发并发展起来的一项用于在不同机器，不同操作系统之间通过网络互相分享各自的文件。NFSserver也可以看作是一个FILESERVER,它可以让你的PC通过网络将远端得NFSSERVER共享出来的档案MOUNT到自己的系统中，在CLIENT看来使用NFS的远端文件就象是在使用本地文件一样。
NFS协议从诞生到现在为止，已经有多个版本，如NFSV2（rfc1094）,NFSV3（rfc1813）（最新的版本是V4（rfc3010）。

二、各NFS协议版本的主要区别
V3相对V2的主要区别：
1、文件尺寸
V2最大只支持32BIT的文件大小(4G),而NFSV3新增加了支持64BIT文件大小的技术。
2、文件传输尺寸
V3没有限定传输尺寸，V2最多只能设定为8k，可以使用-rsizeand-wsize来进行设定。
3、完整的信息返回
V3增加和完善了许多错误和成功信息的返回，对于服务器的设置和管理能带来很大好处。
4、增加了对TCP传输协议的支持
V2只提供了对UDP协议的支持，在一些高要求的网络环境中有很大限制，V3增加了对TCP协议的支持
*5、异步写入特性
6、改进了SERVER的mount性能
7、有更好的I/OWRITES性能。
9、更强网络运行效能，使得网络运作更为有效。
10、更强的灾难恢复功能。

异步写入特性（v3新增加）介绍：
NFSV3能否使用异步写入，这是可选择的一种特性。NFSV3客户端发发送一个异步写入请求到服务器，在给客户端答复之前服务器并不是必须要将数据写入到存储器中（稳定的）。服务器能确定何时去写入数据或者将多个写入请求聚合到一起并加以处理，然后写入。客户端能保持一个数据的copy以防万一服务器不能完整的将数据写入。当客户端希望释放这个copy的时候，它会向服务器通过这个操作过程，以确保每个操作步骤的完整。异步写入能够使服务器去确定最好的同步数据的策略。使数据能尽可能的同步的提交何到达。与V2比较来看，这样的机制能更好的实现数据缓冲和更多的平行（平衡）。而NFSV2的SERVER在将数据写入存储器之前不能再相应任何的写入请求。

V4相对V3的改进：
1：改进了INTERNET上的存取和执行效能
2：在协议中增强了安全方面的特性
3：增强的跨平台特性

三、CLIENT和SERVER的具体操作和设置
在讲NFSSERVER的运作之前先来看一些与NFSSERVER有关的东西：
RPC（RemoteProcedureCall）
NFS本身是没有提供信息传输的协议和功能的，但NFS却能让我们通过网络进行资料的分享，这是因为NFS使用了一些其它的传输协议。而这些传输协议勇士用到这个RPC功能的。可以说NFS本身就是使用RPC的一个程序。或者说NFS也是一个RPCSERVER.所以只要用到NFS的地方都要启动RPC服务，不论是NFSSERVER或者NFSCLIENT。这样SERVER和CLIENT才能通过RPC来实现PROGRAMPORT的对应。可以这么理解RPC和NFS的关系：NFS是一个文件系统，而RPC是负责负责信息的传输。

NFS需要启动的DAEMONS
pc.nfsd:主要复杂登陆权限检测等。
rpc.mountd：负责NFS的档案系统，当CLIENT端通过rpc.nfsd登陆SERVER后，对clinet存取server的文件进行一系列的管理
NFSSERVER在REDHATLINUX平台下一共需要两个套件：nfs-utils和PORTMAP
nfs-utils：提供rpc.nfsd及rpc.mountd这两个NFSDAEMONS的套件
portmap:NFS其实可以被看作是一个RPCSERVERPROGRAM,而要启动一个RPCSERVERPROGRAM，都要做好PORT的对应工作，而且这样的任务就是由PORTMAP来完成的。通俗的说PortMap就是用来做PORT的mapping的。

服务器端的设定（以LINUX为例）
服务器端的设定都是在/etc/exports这个文件中进行设定的，设定格式如下：
/etc/exports
欲分享出去的目录主机名称1或者IP1(参数1，参数2）主机名称2或者IP2（参数3，参数4）
上面这个格式表示，同一个目录分享给两个不同的主机，但提供给这两台主机的权限和参数是不同的，所以分别设定两个主机得到的权限。
可以设定的参数主要有以下这些：
rw：可读写的权限；
ro：只读的权限；
no_root_squash：登入到NFS主机的用户如果是ROOT用户，他就拥有ROOT的权限，此参数很不安全，建议不要使用。
root_squash：在登入NFS主機使用分享之目錄的使用者如果是root時，那麼這個使用者的權限將被壓縮成為匿名使用者，通常他的UID與GID都會變成nobody那個身份；
all_squash：不管登陆NFS主机的用户是什么都会被重新设定为nobody。
anonuid：将登入NFS主机的用户都设定成指定的userid,此ID必须存在于/etc/passwd中。
anongid：同anonuid，但是變成groupID就是了！
sync：资料同步写入存储器中。
async：资料会先暂时存放在内存中，不会直接写入硬盘。
insecure允许从这台机器过来的非授权访问。

例如可以编辑/etc/exports为：
/tmp　　　　　*(rw,no_root_squash)
/home/public　192.168.0.*(rw)　　*(ro)
/home/test　　192.168.0.100(rw)
/home/linux　*.the9.com(rw,all_squash,anonuid=40,anongid=40)
设定好后可以使用以下命令启动NFS:
/etc/rc.d/init.d/portmapstart(在REDHAT中PORTMAP是默认启动的）
/etc/rc.d/init.d/nfsstart

exportfs命令：
如果我们在启动了NFS之后又修改了/etc/exports，是不是还要重新启动nfs呢？这个时候我们就可以用exportfs命令来使改动立刻生效，该命令格式如下：
exportfs[-aruv]
-a：全部mount或者unmount/etc/exports中的内容
-r：重新mount/etc/exports中分享出来的目录
-u：umount目录
-v：在export的時候，将详细的信息输出到屏幕上。
具体例子：
[root@testroot]#exportfs-rv<==全部重新export一次！
exporting192.168.0.100:/home/test
exporting192.168.0.*:/home/public
exporting*.the9.com:/home/linux
exporting*:/home/public
exporting*:/tmp
reexporting192.168.0.100:/home/testtokernel

exportfs-au<==全部都卸载了。



客户段的操作：
1、showmout命令对于NFS的操作和查错有很大的帮助，所以我们先来看一下showmount的用法
showmout
-a：这个参数是一般在NFSSERVER上使用，是用来显示已经mount上本机nfs目录的cline机器。
-e：显示指定的NFSSERVER上export出来的目录。
例如：
showmount-e192.168.0.30
Exportlistforlocalhost:
/tmp*
/home/linux*.linux.org
/home/public(everyone)
/home/test192.168.0.100

2、mountnfs目录的方法：
mount-tnfshostname(orIP):/directory/mount/point
具体例子：
Linux:mount-tnfs192.168.0.1:/tmp/mnt/nfs
Solaris:mount-Fnfs192.168.0.1:/tmp/mnt/nfs
BSD:mount192.168.0.1:/tmp/mnt/nfs

3、mountnfs的其它可选参数：
HARDmount和SOFTMOUNT：
HARD:NFSCLIENT会不断的尝试与SERVER的连接（在后台，不会给出任何提示信息,在LINUX下有的版本仍然会给出一些提示），直到MOUNT上。
SOFT:会在前台尝试与SERVER的连接，是默认的连接方式。当收到错误信息后终止mount尝试，并给出相关信息。
例如：mount-Fnfs-ohard192.168.0.10:/nfs/nfs
对于到底是使用hard还是soft的问题，这主要取决于你访问什么信息有关。例如你是想通过NFS来运行XPROGRAM的话，你绝对不会希望由于一些意外的情况（如网络速度一下子变的很慢，插拔了一下网卡插头等）而使系统输出大量的错误信息，如果此时你用的是HARD方式的话，系统就会等待，直到能够重新与NFSSERVER建立连接传输信息。另外如果是非关键数据的话也可以使用SOFT方式，如FTP数据等，这样在远程机器暂时连接不上或关闭时就不会挂起你的会话过程。

rsize和wsize：
文件传输尺寸设定：V3没有限定传输尺寸，V2最多只能设定为8k，可以使用-rsizeand-wsize来进行设定。这两个参数的设定对于NFS的执行效能有较大的影响
bg：在执行mount时如果无法顺利mount上时，系统会将mount的操作转移到后台并继续尝试mount，直到mount成功为止。（通常在设定/etc/fstab文件时都应该使用bg，以避免可能的mount不上而影响启动速度）
fg：和bg正好相反，是默认的参数
nfsvers＝n:设定要使用的NFS版本，默认是使用2，这个选项的设定还要取决于server端是否支持NFSVER3
mountport：设定mount的端口
port：根据server端export出的端口设定，例如如果server使用5555端口输出NFS,那客户端就需要使用这个参数进行同样的设定
timeo=n:设置超时时间，当数据传输遇到问题时，会根据这个参数尝试进行重新传输。默认值是7/10妙（0.7秒）。如果网络连接不是很稳定的话就要加大这个数值，并且推荐使用HARDMOUNT方式，同时最好也加上INTR参数，这样你就可以终止任何挂起的文件访问。
intr允许通知中断一个NFS调用。当服务器没有应答需要放弃的时候有用处。
udp：使用udp作为nfs的传输协议（NFSV2只支持UDP)
tcp：使用tcp作为nfs的传输协议
namlen=n：设定远程服务器所允许的最长文件名。这个值的默认是255
acregmin=n：设定最小的在文件更新之前cache时间，默认是3
acregmax=n：设定最大的在文件更新之前cache时间，默认是60
acdirmin=n：设定最小的在目录更新之前cache时间，默认是30
acdirmax=n：设定最大的在目录更新之前cache时间，默认是60
actimeo=n：将acregmin、acregmax、acdirmin、acdirmax设定为同一个数值，默认是没有启用。
retry=n：设定当网络传输出现故障的时候，尝试重新连接多少时间后不再尝试。默认的数值是10000minutes
noac:关闭cache机制。
同时使用多个参数的方法：mount-tnfs-otimeo=3,udp,hard192.168.0.30:/tmp/nfs
请注意，NFS客户机和服务器的选项并不一定完全相同，而且有的时候会有冲突。比如说服务器以只读的方式导出，客户端却以可写的方式mount,虽然可以成功mount上，但尝试写入的时候就会发生错误。一般服务器和客户端配置冲突的时候，会以服务器的配置为准。


4、/etc/fstab的设定方法
/etc/fstab的格式如下：
fs_spec　　　fs_file　　fs_type　　　fs_options　　fs_dump　fs_pass　
fs_spec:该字段定义希望加载的文件系统所在的设备或远程文件系统,对于nfs这个参数一般设置为这样：192.168.0.1:/NFS
fs_file:本地的挂载点
fs_type：对于NFS来说这个字段只要设置成nfs就可以了
fs_options:挂载的参数，可以使用的参数可以参考上面的mount参数。
fs_dump　-　该选项被"dump"命令使用来检查一个文件系统应该以多快频率进行转储，若不需要转储就设置该字段为0
fs_pass　-　该字段被fsck命令用来决定在启动时需要被扫描的文件系统的顺序，根文件系统"/"对应该字段的值应该为1，其他文件系统应该为2。若该文件系统无需在启动时扫描则设置该字段为0。

5、与NFS有关的一些命令介绍
nfsstat:
查看NFS的运行状态，对于调整NFS的运行有很大帮助
rpcinfo：
查看rpc执行信息，可以用于检测rpc运行情况的工具。



四、NFS调优
调优的步骤：
1、测量当前网络、服务器和每个客户端的执行效率。
2、分析收集来的数据并画出图表。查找出特殊情况，例如很高的磁盘和CPU占用、已经高的磁盘使用时间
3、调整服务器
4、重复第一到第三步直到达到你渴望的性能


与NFS性能有关的问题有很多，通常可以要考虑的有以下这些选择：

WSIZE,RSIZE参数来优化NFS的执行效能
WSIZE、RSIZE对于NFS的效能有很大的影响。
wsize和rsize设定了SERVER和CLIENT之间往来数据块的大小，这两个参数的合理设定与很多方面有关，不仅是软件方面也有硬件方面的因素会影响这两个参数的设定（例如LINUXKERNEL、网卡，交换机等等）。
下面这个命令可以测试NFS的执行效能，读和写的效能可以分别测试，分别找到合适的参数。对于要测试分散的大量的数据的读写可以通过编写脚本来进行测试。在每次测试的时候最好能重复的执行一次MOUNT和unmount。
timeddif=/dev/zeroof=/mnt/home/testfilebs=16kcount=16384
用于测试的WSIZE,RSIZE最好是1024的倍数，对于NFSV2来说8192是RSIZE和WSIZE的最大数值，如果使用的是NFSV3则可以尝试的最大数值是32768。
如果设置的值比较大的时候，应该最好在CLIENT上进入mount上的目录中，进行一些常规操作（LS,VI等等），看看有没有错误信息出现。有可能出现的典型问题有LS的时候文件不能完整的列出或者是出现错误信息，不同的操作系统有不同的最佳数值，所以对于不同的操作系统都要进行测试。

设定最佳的NFSD的COPY数目。
linux中的NFSD的COPY数目是在/etc/rc.d/init.d/nfs这个启动文件中设置的，默认是8个NFSD,对于这个参数的设置一般是要根据可能的CLIENT数目来进行设定的，和WSIZE、RSIZE一样也是要通过测试来找到最近的数值。

UDPandTCP
可以手动进行设置，也可以自动进行选择。
mount-tnfs-osync,tcp,noatime,rsize=1024,wsize=1024EXPORT_MACHINE:/EXPORTED_DIR/DIR
UDP有着传输速度快，非连接传输的便捷特性，但是UDP在传输上没有TCP来的稳定，当网络不稳定或者黑客入侵的时候很容易使NFS的Performance大幅降低甚至使网络瘫痪。所以对于不同情况的网络要有针对的选择传输协议。nfsovertcp比较稳定，nfsoverudp速度较快。在机器较少网络状况较好的情况下使用UDP协议能带来较好的性能，当机器较多，网络情况复杂时推荐使用TCP协议（V2只支持UDP协议）。在局域网中使用UDP协议较好，因为局域网有比较稳定的网络保证，使用UDP可以带来更好的性能，在广域网中推荐使用TCP协议，TCP协议能让NFS在复杂的网络环境中保持最好的传输稳定性。可以参考这篇文章：http://www.hp.com.tw/ssn/unix/0212/unix021204.asp

版本的选择
V3作为默认的选择（REDHAT8默认使用V2,SOLARIS8以上默认使用V3），可以通过vers=mountoption来进行选择。
LINUX通过mountoption的nfsvers=n进行选择。

五、NFS故障解决
1、NFSD没有启动起来
首先要确认NFS输出列表存在，否则nfsd不会启动。可用exportfs命令来检查，如果exportfs命令没有结果返回或返回不正确，则需要检查/etc/exports文件。
2、mountd进程没有启动
mountd进程是一个远程过程调用(RPC)，其作用是对客户端要求安装（mount）文件系统的申请作出响应。mountd进程通过查找/etc/xtab文件来获知哪些文件系统可以被远程客户端使用。另外，通过mountd进程，用户可以知道目前有哪些文件系统已被远程文件系统装配，并得知远程客户端的列表。查看mountd是否正常启动起来可以使用命令rpcinfo进行查看，在正常情况下在输出的列表中应该象这样的行：
1000051udp1039mountd
1000051tcp1113mountd
1000052udp1039mountd
1000052tcp1113mountd
1000053udp1039mountd
1000053tcp1113mountd
如果没有起来的话可以检查是否安装了PORTMAP组件。
rpm-qa|grepportmap
3、fstypenfsnosupportedbykernel
kernel不支持nfs文件系统，重新编译一下KERNEL就可以解决。
4、can'tcontactportmapper:RPC:Remotesystemerror-Connectionrefused
出现这个错误信息是由于SEVER端的PORTMAP没有启动。
5、mountclntudp_create:RPC:Programnotregistered
NFS没有启动起来，可以用showmout-ehost命令来检查NFSSERVER是否正常启动起来。
6、mount:localhost:/home/testfailed,reasongivenbyserver:Permissiondenied
这个提示是当client要mountnfsserver时可能出现的提示，意思是说本机没有权限去mountnfsserver上的目录。解决方法当然是去修改NFSSERVER咯。
7、被防火墙阻挡
这个原因很多人都忽视了，在有严格要求的网络环境中，我们一般会关闭linux上的所有端口，当需要使用哪个端口的时候才会去打开。而NFS默认是使用111端口，所以我们先要检测是否打开了这个端口，另外也要检查TCP_Wrappers的设定。


六、NFS安全
NFS的不安全性主要体现于以下4个方面:

1、新手对NFS的访问控制机制难于做到得心应手,控制目标的精确性难以实现
2、NFS没有真正的用户验证机制,而只有对RPC/Mount请求的过程验证机制
3、较早的NFS可以使未授权用户获得有效的文件句柄
4、在RPC远程调用中,一个SUID的程序就具有超级用户权限.

加强NFS安全的方法：
1、合理的设定/etc/exports中共享出去的目录，最好能使用anonuid，anongid以使MOUNT到NFSSERVER的CLIENT仅仅有最小的权限，最好不要使用root_squash。
2、使用IPTABLE防火墙限制能够连接到NFSSERVER的机器范围
iptables-AINPUT-ieth0-pTCP-s192.168.0.0/24--dport111-jACCEPT
iptables-AINPUT-ieth0-pUDP-s192.168.0.0/24--dport111-jACCEPT
iptables-AINPUT-ieth0-pTCP-s140.0.0.0/8--dport111-jACCEPT
iptables-AINPUT-ieth0-pUDP-s140.0.0.0/8--dport111-jACCEPT
3、为了防止可能的Dos攻击，需要合理设定NFSD的COPY数目。
4、修改/etc/hosts.allow和/etc/hosts.deny达到限制CLIENT的目的
/etc/hosts.allow
portmap:192.168.0.0/255.255.255.0:allow
portmap:140.116.44.125:allow

/etc/hosts.deny
portmap:ALL:deny
5、改变默认的NFS端口
NFS默认使用的是111端口，但同时你也可以使用port参数来改变这个端口，这样就可以在一定程度上增强安全性