<div dir="ltr"><div>It will be fixed in 3.11<br></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Aug 4, 2017 at 7:30 PM, mabi <span dir="ltr">&lt;<a href="mailto:mabi@protonmail.ch" target="_blank">mabi@protonmail.ch</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div>Thank you very much Sanoj, I ran your script once and it worked. I now have quotas again...<br></div><div><br></div><div>Question: do you know in which release this issue will be fixed?<br></div><div><br></div><div class="m_-4200082883004912807protonmail_signature_block m_-4200082883004912807protonmail_signature_block-empty"><div class="m_-4200082883004912807protonmail_signature_block-proton m_-4200082883004912807protonmail_signature_block-empty"><br></div></div><div><br></div><blockquote class="m_-4200082883004912807protonmail_quote" type="cite"><span class=""><div>-------- Original Message --------<br></div><div>Subject: Re: [Gluster-users] Quotas not working after adding arbiter brick to replica 2<br></div></span><div><div class="h5"><div>Local Time: August 4, 2017 3:28 PM<br></div><div>UTC Time: August 4, 2017 1:28 PM<br></div><div>From: <a href="mailto:sunnikri@redhat.com" target="_blank">sunnikri@redhat.com</a><br></div><div>To: mabi &lt;<a href="mailto:mabi@protonmail.ch" target="_blank">mabi@protonmail.ch</a>&gt;<br></div><div>Gluster Users &lt;<a href="mailto:gluster-users@gluster.org" target="_blank">gluster-users@gluster.org</a>&gt;<br></div><div><br></div><div dir="ltr"><div><div><div><div>Hi mabi,<br></div></div><div>This is a likely issue where the last gfid entry in the quota.conf file is stale (because the directory was deleted with quota limit on it being removed)<br></div><div>(<a href="https://review.gluster.org/#/c/16507/" rel="noreferrer nofollow noopener" target="_blank">https://review.gluster.org/#/<wbr>c/16507/</a>)<br></div></div><div><br></div></div><div>To fix the issue, we need to remove the last entry (last 17 bytes/ 16bytes based on quota version) in the file.<br></div><div>Please use the below work around for the same until next upgrade.<br></div><div>you only need to change $vol to the name of volume.<br></div><div><br></div><div>==============================<wbr>=<br></div><div><div><div><div>vol=&lt;v5&gt;<br></div><div>qconf=/var/lib/glusterd/vols/$<wbr>vol/quota.conf<br></div><div>qconf_bk=&quot;$qconf&quot;.bk<br></div><div>cp $qconf $qconf_bk<br></div><div><br></div><div>grep &quot;GlusterFS Quota conf | version: v1.2&quot; /var/lib/glusterd/vols/v5/<wbr>quota.conf<br></div><div>if [ $? -eq 0 ];<br></div><div>then<br></div><div>        entry_size=17;<br></div><div>else<br></div><div>        entry_size=16;<br></div><div>fi<br></div><div><br></div><div>size=`ls -l $qconf | awk &#39;{print $5}&#39;`<br></div><div>(( size_new = size - entry_size ))<br></div><div>dd if=$qconf_bk of=$qconf bs=1 count=$size_new<br></div><div>gluster v quota v5 list<br></div><div>==============================<wbr>======<br></div></div><div>In the unlikely case that there are multiple stale entries in the end of file you may have to run it multiple times<br></div><div>to fix the issue (each time one stale entry at the end is removed)<br></div><div><br></div></div></div></div><div class="gmail_extra"><div><br></div><div class="gmail_quote"><div>On Thu, Aug 3, 2017 at 1:17 PM, mabi <span dir="ltr">&lt;<a href="mailto:mabi@protonmail.ch" rel="noreferrer nofollow noopener" target="_blank">mabi@protonmail.ch</a>&gt;</span> wrote:<br></div><blockquote style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex" class="gmail_quote"><div>I tried to re-create manually my quotas but not even that works now. Running the &quot;limit-usage&quot; command as showed below returns success:<br></div><div><br></div><div>$ sudo gluster volume quota myvolume limit-usage /userdirectory 50GB<br></div><div>volume quota : success<br></div><div class="m_-4200082883004912807m_-4495523000972867843protonmail_signature_block m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-empty"><div class="m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-user m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-empty"><div><br></div></div><div class="m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-proton m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-empty"><br></div></div><div><br></div><div>but when I list the quotas using &quot;list&quot; nothing appears.<br></div><div><br></div><div>What can I do to fix that issue with the quotas?<br></div><div><br></div><blockquote type="cite" class="m_-4200082883004912807m_-4495523000972867843protonmail_quote"><span><div>-------- Original Message --------<br></div><div>Subject: Re: [Gluster-users] Quotas not working after adding arbiter brick to replica 2<br></div></span><div><div class="m_-4200082883004912807h5"><div>Local Time: August 2, 2017 2:35 PM<br></div><div>UTC Time: August 2, 2017 12:35 PM<br></div><div>From: <a href="mailto:mabi@protonmail.ch" rel="noreferrer nofollow noopener" target="_blank">mabi@protonmail.ch</a><br></div><div>To: Sanoj Unnikrishnan &lt;<a href="mailto:sunnikri@redhat.com" rel="noreferrer nofollow noopener" target="_blank">sunnikri@redhat.com</a>&gt;<br></div><div>Gluster Users &lt;<a href="mailto:gluster-users@gluster.org" rel="noreferrer nofollow noopener" target="_blank">gluster-users@gluster.org</a>&gt;<br></div><div><br></div><div>Hi Sanoj,<br></div><div><br></div><div>I copied over the quota.conf file from the affected volume (node 1) and opened it up with a hex editor but can not recognize anything really except for the first few header/version bytes. I have attached it within this mail (compressed with bzip2) as requested.<br></div><div><br></div><div>Should I recreate them manually? there where around 10 of them. Or is there a hope of recovering these quotas?<br></div><div><br></div><div>Regards,<br></div><div>M.<br></div><div class="m_-4200082883004912807m_-4495523000972867843protonmail_signature_block m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-empty"><div class="m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-user m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-empty"><div><br></div></div><div class="m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-proton m_-4200082883004912807m_-4495523000972867843protonmail_signature_block-empty"><br></div></div><div><br></div><blockquote class="m_-4200082883004912807m_-4495523000972867843protonmail_quote" type="cite"><div>-------- Original Message --------<br></div><div>Subject: Re: [Gluster-users] Quotas not working after adding arbiter brick to replica 2<br></div><div>Local Time: August 2, 2017 1:06 PM<br></div><div>UTC Time: August 2, 2017 11:06 AM<br></div><div>From: <a href="mailto:sunnikri@redhat.com" rel="noreferrer nofollow noopener" target="_blank">sunnikri@redhat.com</a><br></div><div>To: mabi &lt;<a href="mailto:mabi@protonmail.ch" rel="noreferrer nofollow noopener" target="_blank">mabi@protonmail.ch</a>&gt;<br></div><div>Gluster Users &lt;<a href="mailto:gluster-users@gluster.org" rel="noreferrer nofollow noopener" target="_blank">gluster-users@gluster.org</a>&gt;<br></div><div><br></div><div dir="ltr"><div><div>Mabi, <br></div><div><br></div><div>We have fixed a couple of issues in the quota list path.<br></div><div>Could you also please attach the quota.conf file (/var/lib/glusterd/vols/patchy<wbr>/quota.conf)<br></div></div><div>(Ideally, the first few bytes would be ascii characters followed by 17 bytes per directory on which quota limit is set)<br></div><div>Regards,<br></div><div>Sanoj<br></div></div><div class="gmail_extra"><div><br></div><div class="gmail_quote"><div>On Tue, Aug 1, 2017 at 1:36 PM, mabi <span dir="ltr">&lt;<a href="mailto:mabi@protonmail.ch" rel="noreferrer nofollow noopener" target="_blank">mabi@protonmail.ch</a>&gt;</span> wrote:<br></div><blockquote style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex" class="gmail_quote"><div>I also just noticed quite a few of the following warning messages in the quotad.log log file:<br></div><div><br></div><div>[2017-08-01 07:59:27.834202] W [MSGID: 108027] [afr-common.c:2496:afr_discove<wbr>r_done] 0-myvolume-replicate-0: no read subvols for (null)<br></div><div class="m_-4200082883004912807m_-4495523000972867843HOEnZb"><div class="m_-4200082883004912807m_-4495523000972867843h5"><div><br></div><div class="m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-empty"><div class="m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-user m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-empty"><div><br></div></div><div class="m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-proton m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-empty"><br></div></div><div><br></div><blockquote type="cite" class="m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_quote"><div>-------- Original Message --------<br></div><div>Subject: [Gluster-users] Quotas not working after adding arbiter brick to replica 2<br></div><div>Local Time: August 1, 2017 8:49 AM<br></div><div>UTC Time: August 1, 2017 6:49 AM<br></div><div>From: <a href="mailto:mabi@protonmail.ch" rel="noreferrer nofollow noopener" target="_blank">mabi@protonmail.ch</a><br></div><div>To: Gluster Users &lt;<a href="mailto:gluster-users@gluster.org" rel="noreferrer nofollow noopener" target="_blank">gluster-users@gluster.org</a>&gt;<br></div><div><br></div><div>Hello,<br></div><div><br></div><div>As you might have read in my previous post on the mailing list I have added an arbiter node to my GlusterFS 3.8.11 replica 2 volume. After some healing issues and help of Ravi that could get fixed but now I just noticed that my quotas are all gone.<br></div><div><br></div><div>When I run the following command:<br></div><div><br></div><div>glusterfs volume quota myvolume list<br></div><div><br></div><div>There is no output... <br></div><div><br></div><div>In the /var/log/glusterfs/quotad.log I can see the following two lines when running the list command:<br></div><div><br></div><div>[2017-08-01 06:46:04.451765] W [dict.c:581:dict_unref] (--&gt;/usr/lib/x86_64-linux-gnu/<wbr>glusterfs/3.8.11/xlator/featur<wbr>es/quotad.so(+0x1f3d) [0x7fe868e21f3d] --&gt;/usr/lib/x86_64-linux-gnu/g<wbr>lusterfs/3.8.11/xlator/feature<wbr>s/quotad.so(+0x2d82) [0x7fe868e22d82] --&gt;/usr/lib/x86_64-linux-gnu/l<wbr>ibglusterfs.so.0(dict_unref+0x<wbr>c0) [0x7fe86f5c2b10] ) 0-dict: dict is NULL [Invalid argument]<br></div><div>[2017-08-01 06:46:04.459154] W [dict.c:581:dict_unref] (--&gt;/usr/lib/x86_64-linux-gnu/<wbr>glusterfs/3.8.11/xlator/featur<wbr>es/quotad.so(+0x1f3d) [0x7fe868e21f3d] --&gt;/usr/lib/x86_64-linux-gnu/g<wbr>lusterfs/3.8.11/xlator/feature<wbr>s/quotad.so(+0x2d82) [0x7fe868e22d82] --&gt;/usr/lib/x86_64-linux-gnu/l<wbr>ibglusterfs.so.0(dict_unref+0x<wbr>c0) [0x7fe86f5c2b10] ) 0-dict: dict is NULL [Invalid argument]<br></div><div><br></div><div>In case you need this info, I have added by arbiter node to the replica 2 by using this command:<br></div><div><br></div><div>gluster volume add-brick myvolume replica 3 arbiter 1 arbiternode.domain.tld:/srv/gl<wbr>usterfs/myvolume/brick<br></div><div class="m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-empty"><div class="m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-user m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-empty"><div><br></div></div><div class="m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-proton m_-4200082883004912807m_-4495523000972867843m_7381815565583850024protonmail_signature_block-empty"><br></div></div><div><br></div><div>How can I get my quotas back working as before? I had defined around 20 quotas on different directories of that volume.<br></div><div><br></div><div>Regards,<br></div><div>Mabi<br></div></blockquote><div><br></div></div></div><div><br></div><div>______________________________<wbr>_________________<br></div><div>Gluster-users mailing list<br></div><div><a href="mailto:Gluster-users@gluster.org" rel="noreferrer nofollow noopener" target="_blank">Gluster-users@gluster.org</a><br></div><div><a rel="noreferrer nofollow noopener" href="http://lists.gluster.org/mailman/listinfo/gluster-users" target="_blank">http://lists.gluster.org/mailm<wbr>an/listinfo/gluster-users</a><br></div></blockquote></div></div></blockquote><div><br></div></div></div></blockquote><div><br></div></blockquote></div></div></div></div></blockquote><div><br></div></blockquote></div><br></div>