<div dir="ltr"><div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, 16 May 2019 at 03:05, Paul van der Vlis &lt;<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a>&gt; wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Op 15-05-19 om 15:45 schreef Nithya Balachandran:<br>
&gt; Hi Paul,<br>
&gt; <br>
&gt; A few questions:<br>
&gt; Which version of gluster are you using?<br>
<br>
On the server and some clients: glusterfs 4.1.2<br>
On a new client: glusterfs 5.5<br>
<br></blockquote><div>Is the same behaviour seen on both client versions?</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
&gt; Did this behaviour start recently? As in were the contents of that<br>
&gt; directory visible earlier?<br>
<br>
This directory was normally used in the headoffice, and there is direct<br>
access to the files without Glusterfs. So I don&#39;t know.<br></blockquote><div><br></div><div>Do you mean that they access the files on the gluster volume without using the client or that these files were stored elsewhere</div><div>earlier (not on gluster)? Files on a gluster volume should never be accessed directly.</div><div><br></div><div>To debug this further, please send the following:</div><div><ol><li>The directory contents when the listing is performed directly on the brick.</li><li>The tcpdump of the gluster client when listing the directory using the following command:</li></ol></div></div></div><blockquote style="margin:0 0 0 40px;border:none;padding:0px"><div dir="ltr"><div class="gmail_quote"><div>tcpdump -i any -s 0 -w /var/tmp/dirls.pcap tcp and not port 22</div></div></div></blockquote><div dir="ltr"><div class="gmail_quote"><div><br></div><div>You can send these directly to me in case you want to keep the information private.</div><div><br></div><div>Regards,</div><div>Nithya</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<br>
With regards,<br>
Paul van der Vlis<br>
<br>
&gt; Regards,<br>
&gt; Nithya<br>
&gt; <br>
&gt; <br>
&gt; On Wed, 15 May 2019 at 18:55, Paul van der Vlis &lt;<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a><br>
&gt; &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a>&gt;&gt; wrote:<br>
&gt; <br>
&gt;     Hello Strahil,<br>
&gt; <br>
&gt;     Thanks for your answer. I don&#39;t find the word &quot;sharding&quot; in the<br>
&gt;     configfiles. There is not much shared data (24GB), and only 1 brick:<br>
&gt;     ---<br>
&gt;     root@xxx:/etc/glusterfs# gluster volume info DATA<br>
&gt; <br>
&gt;     Volume Name: DATA<br>
&gt;     Type: Distribute<br>
&gt;     Volume ID: db53ece1-5def-4f7c-b59d-3a230824032a<br>
&gt;     Status: Started<br>
&gt;     Snapshot Count: 0<br>
&gt;     Number of Bricks: 1<br>
&gt;     Transport-type: tcp<br>
&gt;     Bricks:<br>
&gt;     Brick1: xxx-vpn:/DATA<br>
&gt;     Options Reconfigured:<br>
&gt;     transport.address-family: inet<br>
&gt;     nfs.disable: on<br>
&gt;     ----<br>
&gt;     (I have edited this a bit for privacy of my customer).<br>
&gt; <br>
&gt;     I think they have used glusterfs because it can do ACLs.<br>
&gt; <br>
&gt;     With regards,<br>
&gt;     Paul van der Vlis<br>
&gt; <br>
&gt; <br>
&gt;     Op 15-05-19 om 14:59 schreef Strahil Nikolov:<br>
&gt;     &gt; Most probably you use sharding , which splits the files into smaller<br>
&gt;     &gt; chunks so you can fit a 1TB file into gluster nodes with bricks of<br>
&gt;     &gt; smaller size.<br>
&gt;     &gt; So if you have 2 dispersed servers each having 500Gb brick-&gt;  without<br>
&gt;     &gt; sharding you won&#39;t be able to store files larger than the brick size -<br>
&gt;     &gt; no matter you have free space on the other server.<br>
&gt;     &gt;<br>
&gt;     &gt; When sharding is enabled - you will see on the brick the first<br>
&gt;     shard as<br>
&gt;     &gt; a file and the rest is in a hidden folder called &quot;.shards&quot; (or<br>
&gt;     something<br>
&gt;     &gt; like that).<br>
&gt;     &gt;<br>
&gt;     &gt; The benefit is also viewable when you need to do some maintenance on a<br>
&gt;     &gt; gluster node, as you will need to heal only the shards containing<br>
&gt;     &gt; modified by the customers&#39; data.<br>
&gt;     &gt;<br>
&gt;     &gt; Best Regards,<br>
&gt;     &gt; Strahil Nikolov<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt; В сряда, 15 май 2019 г., 7:31:39 ч. Гринуич-4, Paul van der Vlis<br>
&gt;     &gt; &lt;<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a> &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a>&gt;&gt; написа:<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt; Hello,<br>
&gt;     &gt;<br>
&gt;     &gt; I am the new sysadmin of an organization what uses Glusterfs.<br>
&gt;     &gt; I did not set it up, and I don&#39;t know much about Glusterfs.<br>
&gt;     &gt;<br>
&gt;     &gt; What I do not understand is that I do not see all data in the mount.<br>
&gt;     &gt; Not as root, not as a normal user who has privileges.<br>
&gt;     &gt;<br>
&gt;     &gt; When I do &quot;ls&quot; in one of the subdirectories I don&#39;t see any data, but<br>
&gt;     &gt; this data exists at the server!<br>
&gt;     &gt;<br>
&gt;     &gt; In another subdirectory I see everything fine, the rights of the<br>
&gt;     &gt; directories and files inside are the same.<br>
&gt;     &gt;<br>
&gt;     &gt; I mount with something like:<br>
&gt;     &gt; /bin/mount -t glusterfs -o acl 10.8.0.1:/data /data<br>
&gt;     &gt; I see data in /data/VOORBEELD/, and I don&#39;t see any data in<br>
&gt;     /data/ALGEMEEN/.<br>
&gt;     &gt;<br>
&gt;     &gt; I don&#39;t see something special in /etc/exports or in /etc/glusterfs on<br>
&gt;     &gt; the server.<br>
&gt;     &gt;<br>
&gt;     &gt; Is there maybe a mechanism in Glusterfs what can exclude data from<br>
&gt;     &gt; export?  Or is there a way to debug this problem?<br>
&gt;     &gt;<br>
&gt;     &gt; With regards,<br>
&gt;     &gt; Paul van der Vlis<br>
&gt;     &gt;<br>
&gt;     &gt; ----<br>
&gt;     &gt; # file: VOORBEELD<br>
&gt;     &gt; # owner: root<br>
&gt;     &gt; # group: secretariaat<br>
&gt;     &gt; # flags: -s-<br>
&gt;     &gt; user::rwx<br>
&gt;     &gt; group::rwx<br>
&gt;     &gt; group:medewerkers:r-x<br>
&gt;     &gt; mask::rwx<br>
&gt;     &gt; other::---<br>
&gt;     &gt; default:user::rwx<br>
&gt;     &gt; default:group::rwx<br>
&gt;     &gt; default:group:medewerkers:r-x<br>
&gt;     &gt; default:mask::rwx<br>
&gt;     &gt; default:other::---<br>
&gt;     &gt;<br>
&gt;     &gt; # file: ALGEMEEN<br>
&gt;     &gt; # owner: root<br>
&gt;     &gt; # group: secretariaat<br>
&gt;     &gt; # flags: -s-<br>
&gt;     &gt; user::rwx<br>
&gt;     &gt; group::rwx<br>
&gt;     &gt; group:medewerkers:r-x<br>
&gt;     &gt; mask::rwx<br>
&gt;     &gt; other::---<br>
&gt;     &gt; default:user::rwx<br>
&gt;     &gt; default:group::rwx<br>
&gt;     &gt; default:group:medewerkers:r-x<br>
&gt;     &gt; default:mask::rwx<br>
&gt;     &gt; default:other::---<br>
&gt;     &gt; ------<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt; --<br>
&gt;     &gt; Paul van der Vlis Linux systeembeheer Groningen<br>
&gt;     &gt; <a href="https://www.vandervlis.nl/" rel="noreferrer" target="_blank">https://www.vandervlis.nl/</a><br>
&gt;     &gt; _______________________________________________<br>
&gt;     &gt; Gluster-users mailing list<br>
&gt;     &gt; <a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a> &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt;<br>
&gt;     &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a> &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt;&gt;<br>
&gt;     &gt; <a href="https://lists.gluster.org/mailman/listinfo/gluster-users" rel="noreferrer" target="_blank">https://lists.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt; <br>
&gt; <br>
&gt; <br>
&gt;     -- <br>
&gt;     Paul van der Vlis Linux systeembeheer Groningen<br>
&gt;     <a href="https://www.vandervlis.nl/" rel="noreferrer" target="_blank">https://www.vandervlis.nl/</a><br>
&gt;     _______________________________________________<br>
&gt;     Gluster-users mailing list<br>
&gt;     <a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a> &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt;<br>
&gt;     <a href="https://lists.gluster.org/mailman/listinfo/gluster-users" rel="noreferrer" target="_blank">https://lists.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt; <br>
<br>
<br>
<br>
-- <br>
Paul van der Vlis Linux systeembeheer Groningen<br>
<a href="https://www.vandervlis.nl/" rel="noreferrer" target="_blank">https://www.vandervlis.nl/</a><br>
</blockquote></div></div></div>