<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, 16 May 2019 at 14:17, Paul van der Vlis &lt;<a href="mailto:paul@vandervlis.nl">paul@vandervlis.nl</a>&gt; wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Op 16-05-19 om 05:43 schreef Nithya Balachandran:<br>
&gt; <br>
&gt; <br>
&gt; On Thu, 16 May 2019 at 03:05, Paul van der Vlis &lt;<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a><br>
&gt; &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a>&gt;&gt; wrote:<br>
&gt; <br>
&gt;     Op 15-05-19 om 15:45 schreef Nithya Balachandran:<br>
&gt;     &gt; Hi Paul,<br>
&gt;     &gt;<br>
&gt;     &gt; A few questions:<br>
&gt;     &gt; Which version of gluster are you using?<br>
&gt; <br>
&gt;     On the server and some clients: glusterfs 4.1.2<br>
&gt;     On a new client: glusterfs 5.5<br>
&gt; <br>
&gt; Is the same behaviour seen on both client versions?<br>
<br>
Yes.<br>
<br>
&gt;     &gt; Did this behaviour start recently? As in were the contents of that<br>
&gt;     &gt; directory visible earlier?<br>
&gt; <br>
&gt;     This directory was normally used in the headoffice, and there is direct<br>
&gt;     access to the files without Glusterfs. So I don&#39;t know.<br>
&gt; <br>
&gt; <br>
&gt; Do you mean that they access the files on the gluster volume without<br>
&gt; using the client or that these files were stored elsewhere<br>
&gt; earlier (not on gluster)? Files on a gluster volume should never be<br>
&gt; accessed directly.<br>
<br>
The central server (this is the only gluster-brick) is a thin-client<br>
server, people are working directly on the server using LTSP terminals:<br>
<a href="http://ltsp.org/" rel="noreferrer" target="_blank">http://ltsp.org/</a>).<br>
<br>
The data is exported using Gluster to some other machines in smaller<br>
offices.<br>
<br>
And to a new thin-client server what I am making (using X2go). The goal<br>
is that this server will replace all of the excisting machines in the<br>
future. X2go is something like &quot;Citrix for Linux&quot;, you can use it over<br>
the internet.<br>
<br>
I did not setup Gluster and I have never met the old sysadmin. I guess<br>
it&#39;s also very strange to use Gluster with only one brick. So when I<br>
understand you right, the whole setup is wrong, and you may not access<br>
the files without client?<br>
<br></blockquote><div><br></div><div>That is correct - any files on a gluster volume should be accessed only via a gluster client (if using fuse).</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
&gt; To debug this further, please send the following:<br>
&gt; <br>
&gt;  1. The directory contents when the listing is performed directly on the<br>
&gt;     brick.<br>
&gt;  2. The tcpdump of the gluster client when listing the directory using<br>
&gt;     the following command:<br>
&gt; <br>
&gt;     tcpdump -i any -s 0 -w /var/tmp/dirls.pcap tcp and not port 22<br>
&gt; <br>
&gt; <br>
&gt; You can send these directly to me in case you want to keep the<br>
&gt; information private.<br>
<br>
I have just heard (during writing this message) that the owner of the<br>
firm where I make this for, is in hospital in very critical condition.<br>
They&#39;ve asked me to stop with the work at the moment.<br>
<br>
I did also hear that there where more problems with the filesystem.<br>
Especially when a directory was renamed.<br>
And this directory was renamed in the past.<br>
<br></blockquote><div><br></div><div>Let me know when you plan to continue with this . We can take a look.</div><div><br></div><div>Regards,</div><div>Nithya</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
With regards,<br>
Paul van der Vlis<br>
<br>
&gt; Regards,<br>
&gt; Nithya<br>
&gt;  <br>
&gt; <br>
&gt; <br>
&gt;     With regards,<br>
&gt;     Paul van der Vlis<br>
&gt; <br>
&gt;     &gt; Regards,<br>
&gt;     &gt; Nithya<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt; On Wed, 15 May 2019 at 18:55, Paul van der Vlis<br>
&gt;     &lt;<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a> &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a>&gt;<br>
&gt;     &gt; &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a> &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a>&gt;&gt;&gt; wrote:<br>
&gt;     &gt;<br>
&gt;     &gt;     Hello Strahil,<br>
&gt;     &gt;<br>
&gt;     &gt;     Thanks for your answer. I don&#39;t find the word &quot;sharding&quot; in the<br>
&gt;     &gt;     configfiles. There is not much shared data (24GB), and only 1<br>
&gt;     brick:<br>
&gt;     &gt;     ---<br>
&gt;     &gt;     root@xxx:/etc/glusterfs# gluster volume info DATA<br>
&gt;     &gt;<br>
&gt;     &gt;     Volume Name: DATA<br>
&gt;     &gt;     Type: Distribute<br>
&gt;     &gt;     Volume ID: db53ece1-5def-4f7c-b59d-3a230824032a<br>
&gt;     &gt;     Status: Started<br>
&gt;     &gt;     Snapshot Count: 0<br>
&gt;     &gt;     Number of Bricks: 1<br>
&gt;     &gt;     Transport-type: tcp<br>
&gt;     &gt;     Bricks:<br>
&gt;     &gt;     Brick1: xxx-vpn:/DATA<br>
&gt;     &gt;     Options Reconfigured:<br>
&gt;     &gt;     transport.address-family: inet<br>
&gt;     &gt;     nfs.disable: on<br>
&gt;     &gt;     ----<br>
&gt;     &gt;     (I have edited this a bit for privacy of my customer).<br>
&gt;     &gt;<br>
&gt;     &gt;     I think they have used glusterfs because it can do ACLs.<br>
&gt;     &gt;<br>
&gt;     &gt;     With regards,<br>
&gt;     &gt;     Paul van der Vlis<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt;     Op 15-05-19 om 14:59 schreef Strahil Nikolov:<br>
&gt;     &gt;     &gt; Most probably you use sharding , which splits the files into<br>
&gt;     smaller<br>
&gt;     &gt;     &gt; chunks so you can fit a 1TB file into gluster nodes with<br>
&gt;     bricks of<br>
&gt;     &gt;     &gt; smaller size.<br>
&gt;     &gt;     &gt; So if you have 2 dispersed servers each having 500Gb<br>
&gt;     brick-&gt;  without<br>
&gt;     &gt;     &gt; sharding you won&#39;t be able to store files larger than the<br>
&gt;     brick size -<br>
&gt;     &gt;     &gt; no matter you have free space on the other server.<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; When sharding is enabled - you will see on the brick the first<br>
&gt;     &gt;     shard as<br>
&gt;     &gt;     &gt; a file and the rest is in a hidden folder called &quot;.shards&quot; (or<br>
&gt;     &gt;     something<br>
&gt;     &gt;     &gt; like that).<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; The benefit is also viewable when you need to do some<br>
&gt;     maintenance on a<br>
&gt;     &gt;     &gt; gluster node, as you will need to heal only the shards<br>
&gt;     containing<br>
&gt;     &gt;     &gt; modified by the customers&#39; data.<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; Best Regards,<br>
&gt;     &gt;     &gt; Strahil Nikolov<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; В сряда, 15 май 2019 г., 7:31:39 ч. Гринуич-4, Paul van der Vlis<br>
&gt;     &gt;     &gt; &lt;<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a> &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a>&gt;<br>
&gt;     &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a> &lt;mailto:<a href="mailto:paul@vandervlis.nl" target="_blank">paul@vandervlis.nl</a>&gt;&gt;&gt; написа:<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; Hello,<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; I am the new sysadmin of an organization what uses Glusterfs.<br>
&gt;     &gt;     &gt; I did not set it up, and I don&#39;t know much about Glusterfs.<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; What I do not understand is that I do not see all data in<br>
&gt;     the mount.<br>
&gt;     &gt;     &gt; Not as root, not as a normal user who has privileges.<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; When I do &quot;ls&quot; in one of the subdirectories I don&#39;t see any<br>
&gt;     data, but<br>
&gt;     &gt;     &gt; this data exists at the server!<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; In another subdirectory I see everything fine, the rights of the<br>
&gt;     &gt;     &gt; directories and files inside are the same.<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; I mount with something like:<br>
&gt;     &gt;     &gt; /bin/mount -t glusterfs -o acl 10.8.0.1:/data /data<br>
&gt;     &gt;     &gt; I see data in /data/VOORBEELD/, and I don&#39;t see any data in<br>
&gt;     &gt;     /data/ALGEMEEN/.<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; I don&#39;t see something special in /etc/exports or in<br>
&gt;     /etc/glusterfs on<br>
&gt;     &gt;     &gt; the server.<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; Is there maybe a mechanism in Glusterfs what can exclude<br>
&gt;     data from<br>
&gt;     &gt;     &gt; export?  Or is there a way to debug this problem?<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; With regards,<br>
&gt;     &gt;     &gt; Paul van der Vlis<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; ----<br>
&gt;     &gt;     &gt; # file: VOORBEELD<br>
&gt;     &gt;     &gt; # owner: root<br>
&gt;     &gt;     &gt; # group: secretariaat<br>
&gt;     &gt;     &gt; # flags: -s-<br>
&gt;     &gt;     &gt; user::rwx<br>
&gt;     &gt;     &gt; group::rwx<br>
&gt;     &gt;     &gt; group:medewerkers:r-x<br>
&gt;     &gt;     &gt; mask::rwx<br>
&gt;     &gt;     &gt; other::---<br>
&gt;     &gt;     &gt; default:user::rwx<br>
&gt;     &gt;     &gt; default:group::rwx<br>
&gt;     &gt;     &gt; default:group:medewerkers:r-x<br>
&gt;     &gt;     &gt; default:mask::rwx<br>
&gt;     &gt;     &gt; default:other::---<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; # file: ALGEMEEN<br>
&gt;     &gt;     &gt; # owner: root<br>
&gt;     &gt;     &gt; # group: secretariaat<br>
&gt;     &gt;     &gt; # flags: -s-<br>
&gt;     &gt;     &gt; user::rwx<br>
&gt;     &gt;     &gt; group::rwx<br>
&gt;     &gt;     &gt; group:medewerkers:r-x<br>
&gt;     &gt;     &gt; mask::rwx<br>
&gt;     &gt;     &gt; other::---<br>
&gt;     &gt;     &gt; default:user::rwx<br>
&gt;     &gt;     &gt; default:group::rwx<br>
&gt;     &gt;     &gt; default:group:medewerkers:r-x<br>
&gt;     &gt;     &gt; default:mask::rwx<br>
&gt;     &gt;     &gt; default:other::---<br>
&gt;     &gt;     &gt; ------<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt;<br>
&gt;     &gt;     &gt; --<br>
&gt;     &gt;     &gt; Paul van der Vlis Linux systeembeheer Groningen<br>
&gt;     &gt;     &gt; <a href="https://www.vandervlis.nl/" rel="noreferrer" target="_blank">https://www.vandervlis.nl/</a><br>
&gt;     &gt;     &gt; _______________________________________________<br>
&gt;     &gt;     &gt; Gluster-users mailing list<br>
&gt;     &gt;     &gt; <a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a> &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt;<br>
&gt;     &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a> &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt;&gt;<br>
&gt;     &gt;     &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a><br>
&gt;     &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt; &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a><br>
&gt;     &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt;&gt;&gt;<br>
&gt;     &gt;     &gt; <a href="https://lists.gluster.org/mailman/listinfo/gluster-users" rel="noreferrer" target="_blank">https://lists.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt;<br>
&gt;     &gt;     --<br>
&gt;     &gt;     Paul van der Vlis Linux systeembeheer Groningen<br>
&gt;     &gt;     <a href="https://www.vandervlis.nl/" rel="noreferrer" target="_blank">https://www.vandervlis.nl/</a><br>
&gt;     &gt;     _______________________________________________<br>
&gt;     &gt;     Gluster-users mailing list<br>
&gt;     &gt;     <a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a> &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt;<br>
&gt;     &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a> &lt;mailto:<a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a>&gt;&gt;<br>
&gt;     &gt;     <a href="https://lists.gluster.org/mailman/listinfo/gluster-users" rel="noreferrer" target="_blank">https://lists.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt;     &gt;<br>
&gt; <br>
&gt; <br>
&gt; <br>
&gt;     -- <br>
&gt;     Paul van der Vlis Linux systeembeheer Groningen<br>
&gt;     <a href="https://www.vandervlis.nl/" rel="noreferrer" target="_blank">https://www.vandervlis.nl/</a><br>
&gt; <br>
<br>
<br>
<br>
-- <br>
Paul van der Vlis Linux systeembeheer Groningen<br>
<a href="https://www.vandervlis.nl/" rel="noreferrer" target="_blank">https://www.vandervlis.nl/</a><br>
</blockquote></div></div>