Beste klant/collega,

(Is dit bericht niet goed leesbaar? Bekijk dan de online versie.)

Wij vragen aandacht voor het volgende:

1. Statusupdate migraties Appcluster → CHP
2. End-of-Life PHP-7.3 op 6 december 2021
3. Database driver upgrades in java-8
4. Verwijderen java mysql5 connector
5. Naast postgresql-13 ook postgresql-10 beschikbaar in het appcluster.
6. PowerDNS upgrade
7. Uitfaseren download.omroep.nl en adaptive.npostreaming.nl
8. Reguliere software updates

De afgelopen periode heeft in het teken gestaan van informatie uitvragen en processen opstarten. Er is kennis gemaakt tussen medewerkers van NPO team Hosting&Streaming en een aantal ontwikkelpartijen in dienst van omroepen en andere NPO teams. Er zijn een heel aantal accounts aangemaakt voor ontwikkelaars, zodat deze aan de slag kunnen op CHP en bijvoorbeeld ook de workshop kunnen gaan doen. Van een aantal ontwikkelaars hebben we al gehoord dat ze projecten succesvol draaiend hebben op CHP en de eerste migraties hiervan zijn inmiddels ingeplanned.

Kortom, hoewel nog een beetje onzichtbaar, zit er wel degelijk beweging in het traject. Ga vooral mee met die beweging. Zorg dat je aansluiting houdt. Wacht niet af tot wij naar je toekomen, maar pak zelf de lead. De investering is nu best groot, maar de beloning zit aan het eind. Als sites eenmaal gemigreerd zijn dan is het makkelijker voor developers om wijzigingen door te voeren, waardoor functionele wensen uiteindelijk sneller gerealiseerd kunnen worden dan op het huidige platform.

Per 6 december 2021 is PHP-7.3 End-of-Life. Dat betekent dat vanaf die datum deze versie niet meer aangeboden wordt in het appcluster. Ook betekent het dat we geen php-7.3 images meer aanbieden in CHP. Het is dus noodzakelijk om voor die tijd te upgraden naar een nieuwere versie. In het appcluster bieden we php-7.4 aan, in CHP zowel php-7.4 als php-8.0

Helaas lijken we te moeten constateren dat dit nog niet bij iedereen op de radar staat. Daarom zullen we -net als bij eerdere php upgrades- de gebruikers persoonlijk aanschrijven met het verzoek om een migratie in gang te zetten.

In het appcluster bieden we twee java versies aan, java-8 en java-13. In de java-8 versie bundelen we ivm backward compatibility mysql en postgresql database drivers. (in java-13 gebeurt dat niet, daar worden voor de projecten die dat nodig hebben runtime drivers meegelinked, bijvoorbeeld /local/mysql-connector-java)

De drivers die in java-8 gebundeld zijn worden deze ronde ge-upgrade:

De gebundelde mysql driver wordt -denken we- niet gebruikt. De postgresql driver wordt mogelijk door POMS gebruikt; het kan geen kwaad daar even wat extra aandacht aan het testen te besteden.

Voor java-13 waren er twee versies van de mysql connector beschikbaar. Een nieuwe (versie 8, /local/mysql-connector-java) en een legacy (versie 5, /local/mysql-connector-java5). De legacy versie wordt niet meer gebruikt en wordt op maandag 11 oktober van het platform verwijderd.

In het appcluster zullen we tot nader order naast postgresql-13 ook postgresql-10 aanbieden. De aanleiding hieroor ligt bij “AWS Serverless Databases”. In geval van migratie naar CHP kan je bij AWS kiezen uit 2 database smaken; “provisioned” of “serverless”. De “provisioned” postgresql variant kan alle courante postgres versies zijn (dwz versie 10, 11, 12 of 13), maar “serverless” is alleen beschikbaar in een versie die compatibel is met postgresql-10. Om een migratie van het appcluster naar CHP te vereenvoudigen bieden we daarom in het appcluster naast postgresql-13 ook postgresql-10 aan.

Eind vorig jaar is een nieuwe major versie van PowerDNS uitgekomen (4.4) en inmiddels is de eerste minor upgrade daarvan ook beschikbaar (4.4.1). Daarmee is ook de support vervallen voor 4.1. Momenteel gebruiken we een mix van 4.1 en 4.3. Alle bestaande versies worden geüpgrade naar versie 4.4.1. De systemen worden stuk-voor-stuk geüpgrade waarmee geen onderbreking in de dienstverlening zal optreden.

In detail gaat het om de volgende publiek bereikbare systemen:

Naast de klassieke NPO webhosting omgeving (“het appcluster”) voert NPO team Hosting&Streaming ook het beheer over een streaming omgeving (“het mediacluster”). In die omgeving draaien een aantal diensten die op de nominatie staan om uitgezet te worden. Te weten:

• adaptive.npostreaming.nl, uit per 1-1-2022
• download.omroep.nl, uit per 31-1-2022

Voor beide diensten geldt dat deze eigenlijk geen bestaansrecht meer hebben sinds het NPO streamingplatform is overgegaan naar NPO Start en bij NEP in beheer ligt. Om kosten te besparen zullen deze platformen daarom in 2022 uitgezet worden. Het idee is dat relevante content gemigreerd kan worden naar het NEP platform en historische content waar mogelijk gearchiveerd kan worden bij NIBG.

Dit is het oude platform voor adaptive (HLS, HDS, MSS) streaming. Bijna alle omroepen zijn inmiddels van dit platform af gemigreerd. Uitzondering is de NOS, die nog in een migratie naar NEP zit. We wachten hier op de laatste loodjes (een deel van het archief moet nog gemigreerd worden) en dan kan dit platform uitgezet worden. Alle data die er dan nog op ligt wordt na afloop verwijderd.

Download.omroep.nl, ook wel bekend als content.omroep.nl, is een platform voor progressive download en is als zodanig gebruikt voor het uitserveren van on-demand media content (zowel audio als video), maar ook voor grotere binaire bestanden als zipfiles, CD-images, e.d.

Ook hier is het idee dat afspeelbare content in principe naar NEP gemigreerd kan worden. Let op! Het initiatief daarvoor ligt bij de omroepen, niet bij NPO team Hosting & Streaming.

De binaire bestanden (“niet afspeelbare content”) kunnen niet via NEP uitgeserveerd worden. Ons advies is om nog eens te her-evalueren of het anno 2021/2022 nog nodig is om dit via een externe webserver aan te bieden. Misschien kan het wel via een hoekje van je eigen websites uitgeserveerd worden. Mocht dat om wat voor reden dan ook geen optie zijn, dan bieden we als onderdeel van CHP een CDN aan waar dit wel mee kan. Wederom: het initiatief hiervoor ligt bij de omroepen. Neem vooral contact met ons op over de mogelijkheden van het CDN gedeelte van CHP.

Omdat download.omroep.nl een bijzonder lange (> 20 jaar) historie heeft ligt er ook vrij veel content uit de beginperiode van internet audio- en videostreaming op. Delen hiervan zouden historische waarde kunnen hebben en het is denkbaar dat download.omroep.nl op dit moment nog de enige drager ter wereld van bepaalde content is. Het plan is daarom om eerst de storage maar eens zoveel mogelijk uit te dunnen, door alle dubbelingen te verwijderen. Voor wat er daarna nog overblijft kan beleid opgesteld worden. Bijvoorbeeld: actieve content naar NEP, historische content naar NIBG. Voor wat er dan nog overblijft zou een optie bijvoorbeeld kunnen zijn om dit in deep storage te parkeren (“invriezen”) en later weer te ontdooien als de techniek ver genoeg voortgeschreden is om geautomatiseerd te classificeren. Een andere optie is dat omroepen zelf verantwoordelijk worden gemaakt voor hun eigen content en daar zelf hun eigen keuzes in kunnen maken.

Het proces ziet er de komende tijd als volgt uit:

• NPO: Opstellen van beleid voor het aanbieden en bewaren van uitspeelbare content.
• NPO team H&S: Inventarisatie van wat er nog op download.omroep.nl staat en in hoeverre dat nog aangeroepen wordt.
• NPO Audio: migratie NPO audio content naar NEP
• Omroepen: aanvang maken met migratie van uitspeelbare content naar NEP en “functie elders” voor niet uitpspeelbare content.
• NPO team H&S: aanleveren van lijst met dubbele content (NEP en download.omroep.nl aan omroepen)
• Omroepen: beoordelen lijst. Eventueel aangeven wat er nog niet weg kan.
• NPO team H&S: verwijderen dubbele content
• NPO team H&S: speuren naar “dode” content, ter beoordeling aan omroepen of dat weg kan.
• … verdere stappen volgen later …

Het software update rooster voor de komende tijd ziet er als volgt uit:

De updates worden op 1 oktober op het testcluster doorgevoerd, waarna de week van 4–8 oktober gebruikt kan worden om te testen. In de periode van 11–14 oktober worden de updates op de productie-omgevingen doorgevoerd volgens onderstaand schema:

Vetgedrukte items zijn geüpdate.

Veel software kan zonder, of met heel weinig impact ge-update worden. Voor deze zaken kiezen we ervoor om zo'n update overdag uit te voeren. Bij een aantal andere componenten is er iets meer impact merkbaar. Die voeren we uit in een nachtelijks change window. Hieronder is de impact genummerd van 0 (geen impact) via 1 (korte onderbreking van enkele seconden) tot 2 (onderbreking van enkele minuten op de dienstverlening). De tijdstippen zijn als volgt:

Team Hosting&Streaming is gedurende al het onderhoud via de normale kanalen bereikbaar. Zie de contact pagina.