<div dir="ltr"><div>Hi,</div><div><br></div><div>Thank you for the update, sorry for the delay.</div><div><br></div><div>I did some more tests, but couldn&#39;t see the behaviour of spiked network bandwidth usage when quick-read is on. After upgrading, have you remounted the clients? As in the fix will not be effective until the process is restarted.</div><div>If you have already restarted the client processes, then there must be something related to workload in the live system that is triggering a bug in quick-read. Would need wireshark capture if possible, to debug further.<br></div><div><br></div><div>Regards,</div><div>Poornima<br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Apr 16, 2019 at 6:25 PM Hu Bert &lt;<a href="mailto:revirii@googlemail.com">revirii@googlemail.com</a>&gt; wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Hi Poornima,<br>
<br>
thx for your efforts. I made a couple of tests and the results are the<br>
same, so the options are not related. Anyway, i&#39;m not able to<br>
reproduce the problem on my testing system, although the volume<br>
options are the same.<br>
<br>
About 1.5 hours ago i set performance.quick-read to on again and<br>
watched: load/iowait went up (not bad at the moment, little traffic),<br>
but network traffic went up - from &lt;20 MBit/s up to 160 MBit/s. After<br>
deactivating quick-read traffic dropped to &lt; 20 MBit/s again.<br>
<br>
munin graph: <a href="https://abload.de/img/network-client4s0kle.png" rel="noreferrer" target="_blank">https://abload.de/img/network-client4s0kle.png</a><br>
<br>
The 2nd peak is from the last test.<br>
<br>
<br>
Thx,<br>
Hubert<br>
<br>
Am Di., 16. Apr. 2019 um 09:43 Uhr schrieb Hu Bert &lt;<a href="mailto:revirii@googlemail.com" target="_blank">revirii@googlemail.com</a>&gt;:<br>
&gt;<br>
&gt; In my first test on my testing setup the traffic was on a normal<br>
&gt; level, so i thought i was &quot;safe&quot;. But on my live system the network<br>
&gt; traffic was a multiple of the traffic one would expect.<br>
&gt; performance.quick-read was enabled in both, the only difference in the<br>
&gt; volume options between live and testing are:<br>
&gt;<br>
&gt; performance.read-ahead: testing on, live off<br>
&gt; performance.io-cache: testing on, live off<br>
&gt;<br>
&gt; I ran another test on my testing setup, deactivated both and copied 9<br>
&gt; GB of data. Now the traffic went up as well, from before ~9-10 MBit/s<br>
&gt; up to 100 MBit/s with both options off. Does performance.quick-read<br>
&gt; require one of those options set to &#39;on&#39;?<br>
&gt;<br>
&gt; I&#39;ll start another test shortly, and activate on of those 2 options,<br>
&gt; maybe there&#39;s a connection between those 3 options?<br>
&gt;<br>
&gt;<br>
&gt; Best Regards,<br>
&gt; Hubert<br>
&gt;<br>
&gt; Am Di., 16. Apr. 2019 um 08:57 Uhr schrieb Poornima Gurusiddaiah<br>
&gt; &lt;<a href="mailto:pgurusid@redhat.com" target="_blank">pgurusid@redhat.com</a>&gt;:<br>
&gt; &gt;<br>
&gt; &gt; Thank you for reporting this. I had done testing on my local setup and the issue was resolved even with quick-read enabled. Let me test it again.<br>
&gt; &gt;<br>
&gt; &gt; Regards,<br>
&gt; &gt; Poornima<br>
&gt; &gt;<br>
&gt; &gt; On Mon, Apr 15, 2019 at 12:25 PM Hu Bert &lt;<a href="mailto:revirii@googlemail.com" target="_blank">revirii@googlemail.com</a>&gt; wrote:<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; fyi: after setting performance.quick-read to off network traffic<br>
&gt; &gt;&gt; dropped to normal levels, client load/iowait back to normal as well.<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; client: <a href="https://abload.de/img/network-client-afterihjqi.png" rel="noreferrer" target="_blank">https://abload.de/img/network-client-afterihjqi.png</a><br>
&gt; &gt;&gt; server: <a href="https://abload.de/img/network-server-afterwdkrl.png" rel="noreferrer" target="_blank">https://abload.de/img/network-server-afterwdkrl.png</a><br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; Am Mo., 15. Apr. 2019 um 08:33 Uhr schrieb Hu Bert &lt;<a href="mailto:revirii@googlemail.com" target="_blank">revirii@googlemail.com</a>&gt;:<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Good Morning,<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; today i updated my replica 3 setup (debian stretch) from version 5.5<br>
&gt; &gt;&gt; &gt; to 5.6, as i thought the network traffic bug (#1673058) was fixed and<br>
&gt; &gt;&gt; &gt; i could re-activate &#39;performance.quick-read&#39; again. See release notes:<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; <a href="https://review.gluster.org/#/c/glusterfs/+/22538/" rel="noreferrer" target="_blank">https://review.gluster.org/#/c/glusterfs/+/22538/</a><br>
&gt; &gt;&gt; &gt; <a href="http://git.gluster.org/cgit/glusterfs.git/commit/?id=34a2347780c2429284f57232f3aabb78547a9795" rel="noreferrer" target="_blank">http://git.gluster.org/cgit/glusterfs.git/commit/?id=34a2347780c2429284f57232f3aabb78547a9795</a><br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Upgrade went fine, and then i was watching iowait and network traffic.<br>
&gt; &gt;&gt; &gt; It seems that the network traffic went up after upgrade and<br>
&gt; &gt;&gt; &gt; reactivation of performance.quick-read. Here are some graphs:<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; network client1: <a href="https://abload.de/img/network-clientfwj1m.png" rel="noreferrer" target="_blank">https://abload.de/img/network-clientfwj1m.png</a><br>
&gt; &gt;&gt; &gt; network client2: <a href="https://abload.de/img/network-client2trkow.png" rel="noreferrer" target="_blank">https://abload.de/img/network-client2trkow.png</a><br>
&gt; &gt;&gt; &gt; network server: <a href="https://abload.de/img/network-serverv3jjr.png" rel="noreferrer" target="_blank">https://abload.de/img/network-serverv3jjr.png</a><br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; gluster volume info: <a href="https://pastebin.com/ZMuJYXRZ" rel="noreferrer" target="_blank">https://pastebin.com/ZMuJYXRZ</a><br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Just wondering if the network traffic bug really got fixed or if this<br>
&gt; &gt;&gt; &gt; is a new problem. I&#39;ll wait a couple of minutes and then deactivate<br>
&gt; &gt;&gt; &gt; performance.quick-read again, just to see if network traffic goes down<br>
&gt; &gt;&gt; &gt; to normal levels.<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Best regards,<br>
&gt; &gt;&gt; &gt; Hubert<br>
&gt; &gt;&gt; _______________________________________________<br>
&gt; &gt;&gt; Gluster-users mailing list<br>
&gt; &gt;&gt; <a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a><br>
&gt; &gt;&gt; <a href="https://lists.gluster.org/mailman/listinfo/gluster-users" rel="noreferrer" target="_blank">https://lists.gluster.org/mailman/listinfo/gluster-users</a><br>
</blockquote></div>