<div dir="ltr">So this change of the Gluster Volume Plugin will make it into K8s 1.7 or 1.8. Unfortunately too late for me.<br></div><div dir="ltr"><br></div><div dir="ltr">Does anyone know how to disable performance translators by default?</div><div dir="ltr"><br></div><span>
</span><br><div class="gmail_quote"><div dir="ltr">Raghavendra Talur &lt;<a href="mailto:rtalur@redhat.com">rtalur@redhat.com</a>&gt; schrieb am Mi., 24. Mai 2017, 19:30:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">On Wed, May 24, 2017 at 4:08 PM, Christopher Schmidt &lt;<a href="mailto:fakod666@gmail.com" target="_blank">fakod666@gmail.com</a>&gt; wrote:<br>
&gt;<br>
&gt;<br>
&gt; Vijay Bellur &lt;<a href="mailto:vbellur@redhat.com" target="_blank">vbellur@redhat.com</a>&gt; schrieb am Mi., 24. Mai 2017 um 05:53 Uhr:<br>
&gt;&gt;<br>
&gt;&gt; On Tue, May 23, 2017 at 1:39 AM, Christopher Schmidt &lt;<a href="mailto:fakod666@gmail.com" target="_blank">fakod666@gmail.com</a>&gt;<br>
&gt;&gt; wrote:<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; OK, seems that this works now.<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; A couple of questions:<br>
&gt;&gt;&gt; - What do you think, are all these options necessary for Kafka?<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; I am not entirely certain what subset of options will make it work as I do<br>
&gt;&gt; not understand the nature of failure with  Kafka and the default gluster<br>
&gt;&gt; configuration. It certainly needs further analysis to identify the list of<br>
&gt;&gt; options necessary. Would it be possible for you to enable one option after<br>
&gt;&gt; the other and determine the configuration that ?<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; - You wrote that there have to be kind of application profiles. So to<br>
&gt;&gt;&gt; find out, which set of options work is currently a matter of testing (and<br>
&gt;&gt;&gt; hope)? Or are there any experiences for MongoDB / ProstgreSQL / Zookeeper<br>
&gt;&gt;&gt; etc.?<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; Application profiles are work in progress. We have a few that are focused<br>
&gt;&gt; on use cases like VM storage, block storage etc. at the moment.<br>
&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; - I am using Heketi and Dynamik Storage Provisioning together with<br>
&gt;&gt;&gt; Kubernetes. Can I set this volume options somehow by default or by volume<br>
&gt;&gt;&gt; plugin?<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; Adding Raghavendra and Michael to help address this query.<br>
&gt;<br>
&gt;<br>
&gt; For me it would be sufficient to disable some (or all) translators, for all<br>
&gt; volumes that&#39;ll be created, somewhere here:<br>
&gt; <a href="https://github.com/gluster/gluster-containers/tree/master/CentOS" rel="noreferrer" target="_blank">https://github.com/gluster/gluster-containers/tree/master/CentOS</a><br>
&gt; This is the container used by the GlusterFS DaemonSet for Kubernetes.<br>
<br>
Work is in progress to give such option at volume plugin level. We<br>
currently have a patch[1] in review for Heketi that allows users to<br>
set Gluster options using heketi-cli instead of going into a Gluster<br>
pod. Once this is in, we can add options in storage-class of<br>
Kubernetes that pass down Gluster options for every volume created in<br>
that storage-class.<br>
<br>
[1] <a href="https://github.com/heketi/heketi/pull/751" rel="noreferrer" target="_blank">https://github.com/heketi/heketi/pull/751</a><br>
<br>
Thanks,<br>
Raghavendra Talur<br>
<br>
&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; -Vijay<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Thanks for you help... really appreciated.. Christopher<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Vijay Bellur &lt;<a href="mailto:vbellur@redhat.com" target="_blank">vbellur@redhat.com</a>&gt; schrieb am Mo., 22. Mai 2017 um 16:41<br>
&gt;&gt;&gt; Uhr:<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Looks like a problem with caching. Can you please try by disabling all<br>
&gt;&gt;&gt;&gt; performance translators? The following configuration commands would disable<br>
&gt;&gt;&gt;&gt; performance translators in the gluster client stack:<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.quick-read off<br>
&gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.io-cache off<br>
&gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.write-behind off<br>
&gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.stat-prefetch off<br>
&gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.read-ahead off<br>
&gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.readdir-ahead off<br>
&gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.open-behind off<br>
&gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.client-io-threads off<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Thanks,<br>
&gt;&gt;&gt;&gt; Vijay<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; On Mon, May 22, 2017 at 9:46 AM, Christopher Schmidt<br>
&gt;&gt;&gt;&gt; &lt;<a href="mailto:fakod666@gmail.com" target="_blank">fakod666@gmail.com</a>&gt; wrote:<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Hi all,<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; has anyone ever successfully deployed a Kafka (Cluster) on GlusterFS<br>
&gt;&gt;&gt;&gt;&gt; volumes?<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; I my case it&#39;s a Kafka Kubernetes-StatefulSet and a Heketi GlusterFS.<br>
&gt;&gt;&gt;&gt;&gt; Needless to say that I am getting a lot of filesystem related<br>
&gt;&gt;&gt;&gt;&gt; exceptions like this one:<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Failed to read `log header` from file channel<br>
&gt;&gt;&gt;&gt;&gt; `sun.nio.ch.FileChannelImpl@67afa54a`. Expected to read 12 bytes, but<br>
&gt;&gt;&gt;&gt;&gt; reached end of file after reading 0 bytes. Started read from position<br>
&gt;&gt;&gt;&gt;&gt; 123065680.<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; I limited the amount of exceptions with the<br>
&gt;&gt;&gt;&gt;&gt; log.flush.interval.messages=1 option, but not all...<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; best Christopher<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; _______________________________________________<br>
&gt;&gt;&gt;&gt;&gt; Gluster-users mailing list<br>
&gt;&gt;&gt;&gt;&gt; <a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a><br>
&gt;&gt;&gt;&gt;&gt; <a href="http://lists.gluster.org/mailman/listinfo/gluster-users" rel="noreferrer" target="_blank">http://lists.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;<br>
</blockquote></div>