Hi ,all<br><br>&nbsp;We found a strange problem. Some clients worked normally while some clients couldn't access sepcial files. For exmaple, Client A couldn't create the directory xxx, but Client B could. However, if Client B created the directory, Client A could acess it and even deleted it. But Client A still couldn't create the same directory later. If I changed the directory name, Client A worked without problems. It seemed that there were some problems with special bricks in special clients. But all the bricks were online.<br><br>I saw this in the logs in the GlusterFS client after creating directory failure:<br>[2017-11-06 11:55:18.420610] W [MSGID: 109011] [dht-layout.c:186:dht_layout_search] 0-data-dht: no subvolume for hash (value) = 4148753024<br>[2017-11-06 11:55:18.457744] W [fuse-bridge.c:521:fuse_entry_cbk] 0-glusterfs-fuse: 488: MKDIR() /xxx =&gt; -1 (Input/output error)<br>The message "W [MSGID: 109011] [dht-layout.c:186:dht_layout_search] 0-data-dht: no subvolume for hash (value) = 4148753024" repeated 3 times between [2017-11-06 11:55:18.420610] and [2017-11-06 11:55:18.457731]<br><div><div><br></div><div><br></div><div style="font-size: 12px;font-family: Arial Narrow;padding:2px 0 2px 0;">------------------&nbsp;原始邮件&nbsp;------------------</div><div style="font-size: 12px;background:#efefef;padding:8px;"><div><b>发件人:</b>&nbsp;"Ben&amp;amp;nbsp;Turner";&lt;bturner@redhat.com&gt;;</div><div><b>发送时间:</b>&nbsp;2017年11月5日(星期天) 凌晨3:00</div><div><b>收件人:</b>&nbsp;"acfreeman"&lt;21291285@qq.com&gt;;<wbr></div><div><b>抄送:</b>&nbsp;"gluster-users"&lt;gluster-users@gluster.org&gt;; <wbr></div><div><b>主题:</b>&nbsp;Re: [Gluster-users] glusterfs segmentation fault in rdma mode</div></div><div><br></div>This looks like there could be some some problem requesting / leaking / whatever memory but without looking at the core its tought to tell for sure.&nbsp;&nbsp; Note:<br><br>/usr/lib64/libglusterfs.so.0(_gf_msg_backtrace_nomem+0x78)[0x7f95bc54e618]<br><br>Can you open up a bugzilla and get us the core file to review?<br><br>-b<br><br>----- Original Message -----<br>&gt; From: "自由人" &lt;21291285@qq.com&gt;<br>&gt; To: "gluster-users" &lt;gluster-users@gluster.org&gt;<br>&gt; Sent: Saturday, November 4, 2017 5:27:50 AM<br>&gt; Subject: [Gluster-users] glusterfs segmentation fault in rdma mode<br>&gt; <br>&gt; <br>&gt; <br>&gt; Hi, All,<br>&gt; <br>&gt; <br>&gt; <br>&gt; <br>&gt; I used Infiniband to connect all GlusterFS nodes and the clients. Previously<br>&gt; I run IP over IB and everything was OK. Now I used rdma transport mode<br>&gt; instead. And then I ran the traffic. After I while, the glusterfs process<br>&gt; exited because of segmentation fault.<br>&gt; <br>&gt; <br>&gt; <br>&gt; <br>&gt; Here were the messages when I saw segmentation fault:<br>&gt; <br>&gt; pending frames:<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(1) op(WRITE)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; frame : type(0) op(0)<br>&gt; <br>&gt; patchset: git:// git.gluster.org/glusterfs.git<br>&gt; <br>&gt; signal received: 11<br>&gt; <br>&gt; time of crash:<br>&gt; <br>&gt; 2017-11-01 11:11:23<br>&gt; <br>&gt; configuration details:<br>&gt; <br>&gt; argp 1<br>&gt; <br>&gt; backtrace 1<br>&gt; <br>&gt; dlfcn 1<br>&gt; <br>&gt; libpthread 1<br>&gt; <br>&gt; llistxattr 1<br>&gt; <br>&gt; setfsid 1<br>&gt; <br>&gt; spinlock 1<br>&gt; <br>&gt; epoll.h 1<br>&gt; <br>&gt; xattr.h 1<br>&gt; <br>&gt; st_atim.tv_nsec 1<br>&gt; <br>&gt; package-string: glusterfs 3.11.0<br>&gt; <br>&gt; /usr/lib64/ libglusterfs.so.0(_gf_msg_backtrace_nomem+0x78)[0x7f95bc54e618 ]<br>&gt; <br>&gt; /usr/lib64/ libglusterfs.so.0(gf_print_trace+0x324)[0x7f95bc557834 ]<br>&gt; <br>&gt; /lib64/ libc.so.6(+0x32510)[0x7f95bace2510 ]<br>&gt; <br>&gt; The client OS was CentOS 7.3. The server OS was CentOS 6.5. The GlusterFS<br>&gt; version was 3.11.0 both in clients and servers. The Infiniband card was<br>&gt; Mellanox. The Mellanox IB driver version was v4.1-1.0.2 (27 Jun 2017) both<br>&gt; in clients and servers.<br>&gt; <br>&gt; <br>&gt; Is rdma code stable for GlusterFS? Need I upgrade the IB driver or apply a<br>&gt; patch?<br>&gt; <br>&gt; Thanks!<br>&gt; <br>&gt; _______________________________________________<br>&gt; Gluster-users mailing list<br>&gt; Gluster-users@gluster.org<br>&gt; http://lists.gluster.org/mailman/listinfo/gluster-users</div>