<div dir="ltr"><div>Hi Christopher,<br><br></div>We are experimenting  few other options to get rid of this issue. We will provide an update as soon as we have it.<br><div class="gmail_extra"><br><div class="gmail_quote">On Thu, May 25, 2017 at 7:18 PM, Christopher Schmidt <span dir="ltr">&lt;<a href="mailto:fakod666@gmail.com" target="_blank">fakod666@gmail.com</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Hi Humble, </div><div dir="ltr"><br>
thanks for that, it is really appreciated.<br>
</div><div dir="ltr"><br></div><div dir="ltr">In the meanwhile, using K8s 1.5, what can I do to disable the performance translator that doesn&#39;t work with Kafka? Maybe something while generating the Glusterfs container for Kubernetes?</div><div dir="ltr"><br></div><div dir="ltr">Best Christopher</div><div class="HOEnZb"><div class="h5"><span>
</span><br><div class="gmail_quote"><div dir="ltr">Humble Chirammal &lt;<a href="mailto:hchiramm@redhat.com" target="_blank">hchiramm@redhat.com</a>&gt; schrieb am Do., 25. Mai 2017, 09:36:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">On Thu, May 25, 2017 at 12:57 PM, Raghavendra Talur <span dir="ltr">&lt;<a href="mailto:rtalur@redhat.com" target="_blank">rtalur@redhat.com</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">On Thu, May 25, 2017 at 11:21 AM, Christopher Schmidt<br>
&lt;<a href="mailto:fakod666@gmail.com" target="_blank">fakod666@gmail.com</a>&gt; wrote:<br>
&gt; So this change of the Gluster Volume Plugin will make it into K8s 1.7 or<br>
&gt; 1.8. Unfortunately too late for me.<br>
&gt;<br>
&gt; Does anyone know how to disable performance translators by default?<br>
<br>
Humble,<br>
<br>
Do you know of any way Christopher can proceed here?<br></blockquote><div><br></div></div></div></div><div dir="ltr"><div class="gmail_extra"><div class="gmail_quote"><div>I am trying to get it in 1.7 branch, will provide an update here as soon as its available. <br></div></div></div></div><div dir="ltr"><div class="gmail_extra"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
&gt;<br>
&gt;<br>
&gt; Raghavendra Talur &lt;<a href="mailto:rtalur@redhat.com" target="_blank">rtalur@redhat.com</a>&gt; schrieb am Mi., 24. Mai 2017, 19:30:<br>
&gt;&gt;<br>
&gt;&gt; On Wed, May 24, 2017 at 4:08 PM, Christopher Schmidt &lt;<a href="mailto:fakod666@gmail.com" target="_blank">fakod666@gmail.com</a>&gt;<br>
&gt;&gt; wrote:<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; Vijay Bellur &lt;<a href="mailto:vbellur@redhat.com" target="_blank">vbellur@redhat.com</a>&gt; schrieb am Mi., 24. Mai 2017 um 05:53<br>
&gt;&gt; &gt; Uhr:<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt; On Tue, May 23, 2017 at 1:39 AM, Christopher Schmidt<br>
&gt;&gt; &gt;&gt; &lt;<a href="mailto:fakod666@gmail.com" target="_blank">fakod666@gmail.com</a>&gt;<br>
&gt;&gt; &gt;&gt; wrote:<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; OK, seems that this works now.<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; A couple of questions:<br>
&gt;&gt; &gt;&gt;&gt; - What do you think, are all these options necessary for Kafka?<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt; I am not entirely certain what subset of options will make it work as I<br>
&gt;&gt; &gt;&gt; do<br>
&gt;&gt; &gt;&gt; not understand the nature of failure with  Kafka and the default<br>
&gt;&gt; &gt;&gt; gluster<br>
&gt;&gt; &gt;&gt; configuration. It certainly needs further analysis to identify the list<br>
&gt;&gt; &gt;&gt; of<br>
&gt;&gt; &gt;&gt; options necessary. Would it be possible for you to enable one option<br>
&gt;&gt; &gt;&gt; after<br>
&gt;&gt; &gt;&gt; the other and determine the configuration that ?<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; - You wrote that there have to be kind of application profiles. So to<br>
&gt;&gt; &gt;&gt;&gt; find out, which set of options work is currently a matter of testing<br>
&gt;&gt; &gt;&gt;&gt; (and<br>
&gt;&gt; &gt;&gt;&gt; hope)? Or are there any experiences for MongoDB / ProstgreSQL /<br>
&gt;&gt; &gt;&gt;&gt; Zookeeper<br>
&gt;&gt; &gt;&gt;&gt; etc.?<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt; Application profiles are work in progress. We have a few that are<br>
&gt;&gt; &gt;&gt; focused<br>
&gt;&gt; &gt;&gt; on use cases like VM storage, block storage etc. at the moment.<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; - I am using Heketi and Dynamik Storage Provisioning together with<br>
&gt;&gt; &gt;&gt;&gt; Kubernetes. Can I set this volume options somehow by default or by<br>
&gt;&gt; &gt;&gt;&gt; volume<br>
&gt;&gt; &gt;&gt;&gt; plugin?<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt; Adding Raghavendra and Michael to help address this query.<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; For me it would be sufficient to disable some (or all) translators, for<br>
&gt;&gt; &gt; all<br>
&gt;&gt; &gt; volumes that&#39;ll be created, somewhere here:<br>
&gt;&gt; &gt; <a href="https://github.com/gluster/gluster-containers/tree/master/CentOS" rel="noreferrer" target="_blank">https://github.com/gluster/<wbr>gluster-containers/tree/<wbr>master/CentOS</a><br>
&gt;&gt; &gt; This is the container used by the GlusterFS DaemonSet for Kubernetes.<br>
&gt;&gt;<br>
&gt;&gt; Work is in progress to give such option at volume plugin level. We<br>
&gt;&gt; currently have a patch[1] in review for Heketi that allows users to<br>
&gt;&gt; set Gluster options using heketi-cli instead of going into a Gluster<br>
&gt;&gt; pod. Once this is in, we can add options in storage-class of<br>
&gt;&gt; Kubernetes that pass down Gluster options for every volume created in<br>
&gt;&gt; that storage-class.<br>
&gt;&gt;<br>
&gt;&gt; [1] <a href="https://github.com/heketi/heketi/pull/751" rel="noreferrer" target="_blank">https://github.com/heketi/<wbr>heketi/pull/751</a><br>
&gt;&gt;<br>
&gt;&gt; Thanks,<br>
&gt;&gt; Raghavendra Talur<br>
&gt;&gt;<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt; -Vijay<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; Thanks for you help... really appreciated.. Christopher<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; Vijay Bellur &lt;<a href="mailto:vbellur@redhat.com" target="_blank">vbellur@redhat.com</a>&gt; schrieb am Mo., 22. Mai 2017 um<br>
&gt;&gt; &gt;&gt;&gt; 16:41<br>
&gt;&gt; &gt;&gt;&gt; Uhr:<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt; Looks like a problem with caching. Can you please try by disabling<br>
&gt;&gt; &gt;&gt;&gt;&gt; all<br>
&gt;&gt; &gt;&gt;&gt;&gt; performance translators? The following configuration commands would<br>
&gt;&gt; &gt;&gt;&gt;&gt; disable<br>
&gt;&gt; &gt;&gt;&gt;&gt; performance translators in the gluster client stack:<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.quick-read off<br>
&gt;&gt; &gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.io-cache off<br>
&gt;&gt; &gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.write-behind off<br>
&gt;&gt; &gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.stat-prefetch off<br>
&gt;&gt; &gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.read-ahead off<br>
&gt;&gt; &gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.readdir-ahead off<br>
&gt;&gt; &gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.open-behind off<br>
&gt;&gt; &gt;&gt;&gt;&gt; gluster volume set &lt;volname&gt; performance.client-io-threads off<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt; Thanks,<br>
&gt;&gt; &gt;&gt;&gt;&gt; Vijay<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt; On Mon, May 22, 2017 at 9:46 AM, Christopher Schmidt<br>
&gt;&gt; &gt;&gt;&gt;&gt; &lt;<a href="mailto:fakod666@gmail.com" target="_blank">fakod666@gmail.com</a>&gt; wrote:<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Hi all,<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; has anyone ever successfully deployed a Kafka (Cluster) on GlusterFS<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; volumes?<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; I my case it&#39;s a Kafka Kubernetes-StatefulSet and a Heketi<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; GlusterFS.<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Needless to say that I am getting a lot of filesystem related<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; exceptions like this one:<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Failed to read `log header` from file channel<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; `sun.nio.ch.FileChannelImpl@<wbr>67afa54a`. Expected to read 12 bytes,<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; but<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; reached end of file after reading 0 bytes. Started read from<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; position<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; 123065680.<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; I limited the amount of exceptions with the<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; log.flush.interval.messages=1 option, but not all...<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; best Christopher<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; ______________________________<wbr>_________________<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Gluster-users mailing list<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; <a href="mailto:Gluster-users@gluster.org" target="_blank">Gluster-users@gluster.org</a><br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; <a href="http://lists.gluster.org/mailman/listinfo/gluster-users" rel="noreferrer" target="_blank">http://lists.gluster.org/<wbr>mailman/listinfo/gluster-users</a><br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;<br>
</blockquote></div></div></div><div dir="ltr"><div class="gmail_extra"><br><br clear="all"><br>-- <br><div class="m_-6631938511774116203m_4151924312025105237gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div>Cheers,<br>Humble<br><br></div>Sr.Software Engineer - Red Hat Storage Engineering<br></div>website: <a href="http://humblec.com" target="_blank">http://humblec.com</a><br></div></div></div></div>
</div></div></blockquote></div>
</div></div></blockquote></div><br><br clear="all"><br>-- <br><div class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div>Cheers,<br>Humble<br><br></div>Sr.Software Engineer - Red Hat Storage Engineering<br></div>website: <a href="http://humblec.com" target="_blank">http://humblec.com</a><br></div></div></div></div>
</div></div>