[Gluster-devel] ODP: [Gluster-users] ODP: ODP: ODP: ODP: ODP: Issue(?) with gluster 8.6 volume heal info

Proniakin Marcin Marcin.Proniakin at grupawp.pl
Thu Apr 7 09:59:41 UTC 2022


Yes, this is the issue I'm having - verified with logs and also tested gluster without arbiters.

Thank you for your help.

________________________________
Od: Ravishankar N <ravishankar.n at pavilion.io>
Wysłane: poniedziałek, 21 marca 2022 16:24:11
Do: Proniakin Marcin
DW: Gluster Devel; Strahil Nikolov; gluster-users at gluster.org; Milewski Daniel
Temat: Re: [Gluster-users] ODP: ODP: ODP: ODP: ODP: Issue(?) with gluster 8.6 volume heal info

Hi,

On Mon, Mar 21, 2022 at 6:59 PM Proniakin Marcin <Marcin.Proniakin at grupawp.pl<mailto:Marcin.Proniakin at grupawp.pl>> wrote:

https://bugzilla.redhat.com/show_bug.cgi?id=1721355

https://bugzilla.redhat.com/show_bug.cgi?id=1774011


Could changes, mentioned in above bugzilla reports, to heal info (making heal info lockless), would result in glusterfs behaviour that I'm observing?

It should be easy to verify if heal info is falsely reporting files as needing heal. In your 8.6 setup, when you see the file/gfid names in the heal info output and after they come down to zero, do either the mount logs or the self-heal daemon logs have messages about 'Completed xxx selfheal on yyy' gfid?

If they did, then heal info was not lying. We then need to see what type of heal xxx is (i.e. is it data, metadata or entry heal) and if the heal itself was falsely triggered (one bug was fixed recently via https://github.com/gluster/glusterfs/pull/3258 for spurious metadata heals).

If there were no heal completion messages, then it could *possibly* be a bug that was filed recently: https://github.com/gluster/glusterfs/issues/3200. The fix is still in review.

Regards,
Ravi


________________________________
Od: Strahil Nikolov <hunter86_bg at yahoo.com<mailto:hunter86_bg at yahoo.com>>
Wysłane: czwartek, 3 marca 2022 13:22:57
Do: Proniakin Marcin; Gluster Devel
DW: gluster-users at gluster.org<mailto:gluster-users at gluster.org>; Milewski Daniel
Temat: Re: ODP: ODP: ODP: ODP: [Gluster-users] Issue(?) with gluster 8.6 volume heal info

I think we should add the devel list, as the options match the virt group of settings and I'm not sure if self-healing could ease the situation or get it worse.

Short summary:
When the VM writes to it's image (oVirt Hyperconverged, sharding enabled) a lot of heals pending are observed which looks quite odd.

Best Regards,
Strahil Nikolov

On Wed, Mar 2, 2022 at 9:59, Proniakin Marcin
<Marcin.Proniakin at grupawp.pl<mailto:Marcin.Proniakin at grupawp.pl>> wrote:
gluster volume info

Volume Name: portal-1
Type: Distributed-Replicate
Volume ID: 5dc358a4-d807-4fec-8a81-52516abeeba9
Status: Started
Snapshot Count: 0
Number of Bricks: 3 x (2 + 1) = 9
Transport-type: tcp
Bricks:
Brick1: backend.host-1:/srv/gluster/portal-1/1/data/brick
Brick2: backend.host-2:/srv/gluster/portal-1/1/data/brick
Brick3: backend.host-3:/srv/gluster/portal-1/1/arbiter/brick (arbiter)
Brick4: backend.host-3:/srv/gluster/portal-1/1/data/brick
Brick5: backend.host-4:/srv/gluster/portal-1/1/data/brick
Brick6: backend.host-5:/srv/gluster/portal-1/1/arbiter/brick (arbiter)
Brick7: backend.host-5:/srv/gluster/portal-1/1/data/brick
Brick8: backend.host-6:/srv/gluster/portal-1/1/data/brick
Brick9: backend.host-1:/srv/gluster/portal-1/1/arbiter/brick (arbiter)
Options Reconfigured:
performance.client-io-threads: on
nfs.disable: on
transport.address-family: inet
storage.fips-mode-rchecksum: on
user.cifs: off
storage.owner-uid: 36
storage.owner-gid: 36
server.event-threads: 4
performance.strict-o-direct: on
performance.read-ahead: off
performance.quick-read: off
performance.low-prio-threads: 32
performance.io-cache: off
network.remote-dio: off
network.ping-timeout: 30
features.shard: on
cluster.shd-wait-qlength: 10000
cluster.shd-max-threads: 8
cluster.server-quorum-type: server
cluster.rebal-throttle: lazy
cluster.quorum-type: auto
cluster.lookup-optimize: off
cluster.locking-scheme: granular
cluster.granular-entry-heal: enable
cluster.eager-lock: enable
cluster.data-self-heal-algorithm: full
cluster.choose-local: off
client.event-threads: 4
features.bitrot: on
features.scrub: Active
cluster.self-heal-daemon: enable


________________________________
Od: Sandro Bonazzola <sbonazzo at redhat.com<mailto:sbonazzo at redhat.com>>
Wysłane: piątek, 25 lutego 2022 17:47:11
Do: Strahil Nikolov
DW: Proniakin Marcin; gluster-users at gluster.org<mailto:gluster-users at gluster.org>; Milewski Daniel
Temat: Re: ODP: ODP: ODP: [Gluster-users] Issue(?) with gluster 8.6 volume heal info



Il giorno ven 25 feb 2022 alle ore 17:05 Strahil Nikolov <hunter86_bg at yahoo.com<mailto:hunter86_bg at yahoo.com>> ha scritto:
Can you provode the gluster volume info.

Also, check if lookup-optimize is in enabled state -> must be disabled as it might lead to serious issues [1] when reducing/expanding the volume.

@Sandro,

Can we move oVirt to a newer version of gluster. Sadly , 8.6 is too 'old' and will not receive some backports like: https://github.com/gluster/glusterfs-selinux/issues/27#issuecomment-1029704403 .

We are moving to 10 in the next oVirt release.



Best Regards,
Strahil Nikolov

[1] https://lists.ovirt.org/archives/list/users@ovirt.org/message/LKZCDLGWCGWSNGS4CRZUZWK4JZJC5KMF/



On Fri, Feb 25, 2022 at 12:18, Proniakin Marcin
<Marcin.Proniakin at grupawp.pl<mailto:Marcin.Proniakin at grupawp.pl>> wrote:

Yes, everything is version 80000.


I can get heal entries as soon as vm does file operations on its drive.


________________________________
Od: Strahil Nikolov <hunter86_bg at yahoo.com<mailto:hunter86_bg at yahoo.com>>
Wysłane: czwartek, 24 lutego 2022 19:06:19
Do: Proniakin Marcin; gluster-users at gluster.org<mailto:gluster-users at gluster.org>
DW: Milewski Daniel
Temat: Re: ODP: ODP: [Gluster-users] Issue(?) with gluster 8.6 volume heal info

I assume that the cluster op version is also 80000.

How long ,after a new VM is created, you see the heals ?

Best Regards,
Strahil Nikolov

On Thu, Feb 24, 2022 at 16:50, Proniakin Marcin
<Marcin.Proniakin at grupawp.pl<mailto:Marcin.Proniakin at grupawp.pl>> wrote:
gluster volume status portal-1 client-list
Client connections for volume portal-1
Name                                                       count
-----                                                     ------
glustershd                                                     6
fuse                                                           6

total clients for volume portal-1 : 12
-----------------------------------------------------------------

gluster volume status portal-1 clients
Client connections for volume portal-1
----------------------------------------------
Brick : backend.host-1:/srv/gluster/portal-1/1/data/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.6:49120<http://10.3.90.6:49120>                                           311476       470002376           80000
10.3.90.6:49114<http://10.3.90.6:49114>                                         29147005        17456404           80000
10.3.90.7:49109<http://10.3.90.7:49109>                                            49228           48036           80000
10.3.90.7:48852<http://10.3.90.7:48852>                                          5282335         3697116           80000
10.3.90.8:49116<http://10.3.90.8:49116>                                             7132            6716           80000
10.3.90.8:49141<http://10.3.90.8:49141>                                          5035970         3523592           80000
10.3.90.9:49149<http://10.3.90.9:49149>                                             1356            1020           80000
10.3.90.9:49138<http://10.3.90.9:49138>                                      21755970018       188641540           80000
10.3.90.10:49147<http://10.3.90.10:49147>                                            1356            1020           80000
10.3.90.10:49142<http://10.3.90.10:49142>                                         4383160         3062712           80000
10.3.90.11:49099<http://10.3.90.11:49099>                                            1356            1020           80000
10.3.90.11:49146<http://10.3.90.11:49146>                                          620794          437268           80000
----------------------------------------------
Brick : backend.host-2:/srv/gluster/portal-1/1/data/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.6:49145<http://10.3.90.6:49145>                                        470035340          246724           80000
10.3.90.6:49142<http://10.3.90.6:49142>                                         29272636       296508952           80000
10.3.90.7:49019<http://10.3.90.7:49019>                                            88696          110764           80000
10.3.90.7:48849<http://10.3.90.7:48849>                                          5625219       290487744           80000
10.3.90.8:49111<http://10.3.90.8:49111>                                             7132            6716           80000
10.3.90.8:49138<http://10.3.90.8:49138>                                          5362698       277707576           80000
10.3.90.9:49141<http://10.3.90.9:49141>                                             1356            1020           80000
10.3.90.9:49135<http://10.3.90.9:49135>                                      21753368298       353837668           80000
10.3.90.10:49141<http://10.3.90.10:49141>                                            1356            1020           80000
10.3.90.10:49135<http://10.3.90.10:49135>                                         4658892       233135492           80000
10.3.90.11:49097<http://10.3.90.11:49097>                                            1356            1020           80000
10.3.90.11:49144<http://10.3.90.11:49144>                                          665374        36157560           80000
----------------------------------------------
Brick : backend.host-3:/srv/gluster/portal-1/1/arbiter/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.7:49142<http://10.3.90.7:49142>                                            54272           56788           80000
10.3.90.7:49140<http://10.3.90.7:49140>                                          4805189         3466356           80000
10.3.90.6:49093<http://10.3.90.6:49093>                                          7701550         6754912           80000
10.3.90.6:49092<http://10.3.90.6:49092>                                            13968           13472           80000
10.3.90.8:49062<http://10.3.90.8:49062>                                            37392           50120           80000
10.3.90.8:49134<http://10.3.90.8:49134>                                          4733007         3418844           80000
10.3.90.9:49139<http://10.3.90.9:49139>                                             1356            1024           80000
10.3.90.9:49128<http://10.3.90.9:49128>                                         73525478        81692324           80000
10.3.90.10:49140<http://10.3.90.10:49140>                                            1356            1024           80000
10.3.90.10:49128<http://10.3.90.10:49128>                                         4129841         2983744           80000
10.3.90.11:49091<http://10.3.90.11:49091>                                            1356            1024           80000
10.3.90.11:49141<http://10.3.90.11:49141>                                          575280          417356           80000
----------------------------------------------
Brick : backend.host-3:/srv/gluster/portal-1/1/data/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.7:49141<http://10.3.90.7:49141>                                          4590842         3324800           80000
10.3.90.7:49139<http://10.3.90.7:49139>                                             1820            2124           80000
10.3.90.6:49091<http://10.3.90.6:49091>                                             1820            2124           80000
10.3.90.6:49090<http://10.3.90.6:49090>                                         15120930         8441968           80000
10.3.90.8:49061<http://10.3.90.8:49061>                                         67439688       402923528           80000
10.3.90.8:49132<http://10.3.90.8:49132>                                          4513170         3269792           80000
10.3.90.9:49137<http://10.3.90.9:49137>                                             3980            4420           80000
10.3.90.9:49106<http://10.3.90.9:49106>                                      21826918259       129377840           80000
10.3.90.10:49138<http://10.3.90.10:49138>                                            1504            1532           80000
10.3.90.10:49106<http://10.3.90.10:49106>                                         3947196         2863564           80000
10.3.90.11:49085<http://10.3.90.11:49085>                                            1356            1020           80000
10.3.90.11:49140<http://10.3.90.11:49140>                                          532208          387968           80000
----------------------------------------------
Brick : backend.host-4:/srv/gluster/portal-1/1/data/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.8:49145<http://10.3.90.8:49145>                                          4243870         3060600           80000
10.3.90.8:49144<http://10.3.90.8:49144>                                        402904720          228312           80000
10.3.90.7:49125<http://10.3.90.7:49125>                                             1588            1572           80000
10.3.90.7:49124<http://10.3.90.7:49124>                                          4301418         3105736           80000
10.3.90.6:49144<http://10.3.90.6:49144>                                         14035234         7383036           80000
10.3.90.6:49141<http://10.3.90.6:49141>                                             1588            1572           80000
10.3.90.9:49127<http://10.3.90.9:49127>                                            32492           46816           80000
10.3.90.9:49105<http://10.3.90.9:49105>                                      21826643087        97947212           80000
10.3.90.10:49136<http://10.3.90.10:49136>                                            1504            1532           80000
10.3.90.10:49104<http://10.3.90.10:49104>                                         3937904         2843364           80000
10.3.90.11:49083<http://10.3.90.11:49083>                                            1356            1020           80000
10.3.90.11:49138<http://10.3.90.11:49138>                                          530764          381124           80000
----------------------------------------------
Brick : backend.host-5:/srv/gluster/portal-1/1/arbiter/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.8:49135<http://10.3.90.8:49135>                                          3776134         2679796           80000
10.3.90.7:49136<http://10.3.90.7:49136>                                             1356            1024           80000
10.3.90.7:49135<http://10.3.90.7:49135>                                          3767300         2674004           80000
10.3.90.8:49131<http://10.3.90.8:49131>                                            40044           40144           80000
10.3.90.10:49126<http://10.3.90.10:49126>                                           25364           34740           80000
10.3.90.9:49126<http://10.3.90.9:49126>                                             1356            1024           80000
10.3.90.9:49123<http://10.3.90.9:49123>                                         70007700        79303280           80000
10.3.90.6:49138<http://10.3.90.6:49138>                                          5826136         5018700           80000
10.3.90.6:49137<http://10.3.90.6:49137>                                             1356            1024           80000
10.3.90.10:49102<http://10.3.90.10:49102>                                         3799340         2700480           80000
10.3.90.11:49080<http://10.3.90.11:49080>                                            1356            1024           80000
10.3.90.11:49136<http://10.3.90.11:49136>                                          506764          355696           80000
----------------------------------------------
Brick : backend.host-5.portal-1.dc-1.virt.dcwp.pl:/srv/gluster/portal-1/1/data/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.8:49136<http://10.3.90.8:49136>                                             1820            2124           80000
10.3.90.8:49133<http://10.3.90.8:49133>                                          4664224         3673592           80000
10.3.90.7:49134<http://10.3.90.7:49134>                                          4672193         3682622           80000
10.3.90.7:49133<http://10.3.90.7:49133>                                             1820            2124           80000
10.3.90.10:49125<http://10.3.90.10:49125>                                          565940       939924800           80000
10.3.90.9:49125<http://10.3.90.9:49125>                                      21895440129       286893195           80000
10.3.90.9:49124<http://10.3.90.9:49124>                                             1820            2124           80000
10.3.90.6:49134<http://10.3.90.6:49134>                                         53287591         9416714           80000
10.3.90.6:49133<http://10.3.90.6:49133>                                        403120708       403013480           80000
10.3.90.10:49100<http://10.3.90.10:49100>                                         4712203         3705164           80000
10.3.90.11:49076<http://10.3.90.11:49076>                                            3832            3172           80000
10.3.90.11:49134<http://10.3.90.11:49134>                                          652173          518184           80000
----------------------------------------------
Brick : backend.host-6:/srv/gluster/portal-1/1/data/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.8:49143<http://10.3.90.8:49143>                                             1356            1020           80000
10.3.90.8:49142<http://10.3.90.8:49142>                                           775941          551612           80000
10.3.90.10:49137<http://10.3.90.10:49137>                                       604317856          302312           80000
10.3.90.10:49134<http://10.3.90.10:49134>                                          986329          700220           80000
10.3.90.6:49139<http://10.3.90.6:49139>                                        134309032           79932           80000
10.3.90.6:49136<http://10.3.90.6:49136>                                         12949195         2243332           80000
10.3.90.9:49136<http://10.3.90.9:49136>                                      21886674798       299135324           80000
10.3.90.9:49134<http://10.3.90.9:49134>                                             1356            1020           80000
10.3.90.11:49019<http://10.3.90.11:49019>                                            9344           10560           80000
10.3.90.7:49143<http://10.3.90.7:49143>                                             1356            1020           80000
10.3.90.7:49138<http://10.3.90.7:49138>                                           815278          579496           80000
10.3.90.11:49133<http://10.3.90.11:49133>                                          637393          453952           80000
----------------------------------------------
Brick : backend.host-1:/srv/gluster/portal-1/1/arbiter/brick
Clients connected : 12
Hostname                                               BytesRead    BytesWritten       OpVersion
--------                                               ---------    ------------       ---------
10.3.90.6:49119<http://10.3.90.6:49119>                                           426216          246860           80000
10.3.90.6:49099<http://10.3.90.6:49099>                                         10980059        10016248           80000
10.3.90.7:49082<http://10.3.90.7:49082>                                             2052            2692           80000
10.3.90.7:48838<http://10.3.90.7:48838>                                          5360132         3748772           80000
10.3.90.8:49095<http://10.3.90.8:49095>                                             2052            2692           80000
10.3.90.8:49125<http://10.3.90.8:49125>                                          5126404         3589536           80000
10.3.90.9:49129<http://10.3.90.9:49129>                                             2052            2692           80000
10.3.90.9:49100<http://10.3.90.9:49100>                                         72365868        80713240           80000
10.3.90.10:49133<http://10.3.90.10:49133>                                          401516          155992           80000
10.3.90.10:49099<http://10.3.90.10:49099>                                         4491474         3153044           80000
10.3.90.11:49075<http://10.3.90.11:49075>                                            3832            3180           80000
10.3.90.11:49132<http://10.3.90.11:49132>                                          614742          428860           80000
----------------------------------------------

________________________________
Od: Strahil Nikolov <hunter86_bg at yahoo.com<mailto:hunter86_bg at yahoo.com>>
Wysłane: czwartek, 24 lutego 2022 13:19:15
Do: Proniakin Marcin; gluster-users at gluster.org<mailto:gluster-users at gluster.org>
DW: Milewski Daniel
Temat: Re: ODP: [Gluster-users] Issue(?) with gluster 8.6 volume heal info

So you got the same ammount of clients connected to the bricks ? Can you check with the glustercli commands.
I'm also interested in client & server op version. There wee some issues with op-version bellow 70000.

Best Regards,
Strahil Nikolov

On Thu, Feb 24, 2022 at 10:41, Proniakin Marcin
<Marcin.Proniakin at grupawp.pl<mailto:Marcin.Proniakin at grupawp.pl>> wrote:

I'm using libgfapi on Gluster 6.9 and fuse on Gluster 8.6


If you're asking how I checked clients, I did it through .meta directory:

cat .meta/graphs/active/portal-1-client-*/private | grep connected

________________________________
Od: Strahil Nikolov <hunter86_bg at yahoo.com<mailto:hunter86_bg at yahoo.com>>
Wysłane: środa, 23 lutego 2022 20:28:55
Do: Proniakin Marcin; gluster-users at gluster.org<mailto:gluster-users at gluster.org>
DW: Milewski Daniel
Temat: Re: [Gluster-users] Issue(?) with gluster 8.6 volume heal info

Are you using libgfapi or FUSE ?

I guess you run something like this:

gluster volume status <VOLUME> clients
gluster volume status <VOLUME> client-list

Best Regards,
Strahil Nikolov

On Wed, Feb 23, 2022 at 18:58, Proniakin Marcin
<Marcin.Proniakin at grupawp.pl<mailto:Marcin.Proniakin at grupawp.pl>> wrote:

Hello,


During tests on a newly added Gluster 8.6 (on a new Ovirt cluster), I've noticed a lot of heal entries coming and going.

After verifying that all clients are connected, there are no increments in afr*client* attributes and no changes in indices/xattrop, decided to test my second gluster 8.6.


Ended up with the same behaviour. I could tell that during writting into a drive image,volume heal info was showing shards from that drive and shard numbers were increasing, which indicates that it showed pretty much file operations (writev).


I've been working for a longer time with gluster 6.9 and I did not see this amount of heal entries when doing gluster volume heal info and usually based issues with bricks when heal info was showing heal entries.

Additionally, I can tell that volume heal info works way slower on version 6.9 than on 8.6.


So, my question is:

Do I have a problem with my new gluster file systems or there has been a change in how volume heal info works?







Spółki Grupy Wirtualna Polska:

Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513

Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593

Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce prywatności<https://onas.wp.pl/poufnosc.html>, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji opisaliśmy w polityce prywatności<https://onas.wp.pl/poufnosc.html>. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.

________



Community Meeting Calendar:

Schedule -
Every 2nd and 4th Tuesday at 14:30 IST / 09:00 UTC
Bridge: https://meet.google.com/cpu-eiue-hvk
Gluster-users mailing list
Gluster-users at gluster.org<mailto:Gluster-users at gluster.org>
https://lists.gluster.org/mailman/listinfo/gluster-users


Spółki Grupy Wirtualna Polska:

Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513

Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593

Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce prywatności<https://onas.wp.pl/poufnosc.html>, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji opisaliśmy w polityce prywatności<https://onas.wp.pl/poufnosc.html>. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.



Spółki Grupy Wirtualna Polska:

Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513

Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593

Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce prywatności<https://onas.wp.pl/poufnosc.html>, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji opisaliśmy w polityce prywatności<https://onas.wp.pl/poufnosc.html>. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.



Spółki Grupy Wirtualna Polska:

Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513

Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593

Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce prywatności<https://onas.wp.pl/poufnosc.html>, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji opisaliśmy w polityce prywatności<https://onas.wp.pl/poufnosc.html>. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.


--

Sandro Bonazzola

MANAGER, SOFTWARE ENGINEERING, EMEA R&D RHV

Red Hat EMEA<https://www.redhat.com/>

sbonazzo at redhat.com<mailto:sbonazzo at redhat.com>

[https://static.redhat.com/libs/redhat/brand-assets/2/corp/logo--200.png]<https://www.redhat.com/>

Red Hat respects your work life balance. Therefore there is no need to answer this email out of your office hours.




Spółki Grupy Wirtualna Polska:

Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513

Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593

Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce prywatności<https://onas.wp.pl/poufnosc.html>, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji opisaliśmy w polityce prywatności<https://onas.wp.pl/poufnosc.html>. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.



Spółki Grupy Wirtualna Polska:

Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513

Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st<http://m.st>. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593

Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce prywatności<https://onas.wp.pl/poufnosc.html>, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji opisaliśmy w polityce prywatności<https://onas.wp.pl/poufnosc.html>. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.

________



Community Meeting Calendar:

Schedule -
Every 2nd and 4th Tuesday at 14:30 IST / 09:00 UTC
Bridge: https://meet.google.com/cpu-eiue-hvk
Gluster-users mailing list
Gluster-users at gluster.org<mailto:Gluster-users at gluster.org>
https://lists.gluster.org/mailman/listinfo/gluster-users


Spółki Grupy Wirtualna Polska:

Wirtualna Polska Holding Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st. Warszawy w Warszawie pod nr KRS: 0000407130, kapitał zakładowy: 1 461 895,65 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 521-31-11-513

Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, ul. Żwirki i Wigury 16, 02-092 Warszawa, wpisana do Krajowego Rejestru Sądowego - Rejestru Przedsiębiorców prowadzonego przez Sąd Rejonowy dla m.st. Warszawy w Warszawie pod nr KRS: 0000580004, kapitał zakładowy: 320 058 550,00 zł (w całości wpłacony), Numer Identyfikacji Podatkowej (NIP): 527-26-45-593

Administratorem udostępnionych danych osobowych jest Wirtualna Polska Media S.A. z siedzibą w Warszawie (dalej „WPM”). WPM przetwarza Twoje dane osobowe, które zostały podane przez Ciebie dobrowolnie w trakcie dotychczasowej współpracy, w związku z zawarciem umowy lub zostały zebrane ze źródeł powszechnie dostępnych, w szczególności: imię i nazwisko, adres email, numer telefonu. Przetwarzamy te dane w celach opisanych w polityce prywatności<https://onas.wp.pl/poufnosc.html>, między innymi w celu realizacji współpracy, realizacji obowiązków przewidzianych prawem, w celach marketingowych WP. Podstawą prawną przetwarzania Twoich danych osobowych w celach marketingowych jest prawnie uzasadniony interes jakim jest m.in. przesyłanie informacji marketingowych o usługach WP, w tym zaproszeń na konferencje branżowe, informacje o publikacjach. Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa. Masz prawo m.in. do żądania dostępu do danych, sprostowania, usunięcia lub ograniczenia ich przetwarzania, jak również prawo do zgłoszenia sprzeciwu w przewidzianych w prawie sytuacjach. Prawa te oraz sposób ich realizacji opisaliśmy w polityce prywatności<https://onas.wp.pl/poufnosc.html>. Tam też znajdziesz informacje jak zakomunikować nam Twoją wolę skorzystania z tych praw.
-------------- next part --------------
An HTML attachment was scrubbed...
URL: <http://lists.gluster.org/pipermail/gluster-devel/attachments/20220407/d80ba5d6/attachment-0001.html>


More information about the Gluster-devel mailing list