Digital Services : country and language
Organisaties zijn steeds vaker op zoek naar de meest effectieve manieren om artificial intelligence (AI) in te zetten. In zijn vorige blog deelde Attila Popping, data scientist bij Orange Business, de basisprincipes van MLOps. Ook legt hij uit waarom MLOps datagedreven organisaties een voorsprong kan geven. In deze blog gaat hij dieper in op twee cruciale aspecten van MLOps: reproduceerbaarheid en schaalbaarheid. Twee principes die onmisbaar zijn om betrouwbare en toekomstbestendige AI-toepassingen te creëren. Immers, zonder schaalbaarheid en goede reproduceerbaarheid kan een AI-model gaan falen, wat kan leiden tot bijvoorbeeld gemiste fraudedetecties of financiële schade.
Reproduceerbaarheid en schaalbaarheid zijn twee belangrijke bouwstenen van een sterke MLOps-strategie. Voor verzekeraars en pensioenfondsen, waar nauwkeurigheid, verantwoording en efficiëntie cruciaal zijn, kunnen deze principes het verschil maken. Ze zorgen niet alleen voor betrouwbare modellen, maar bieden je ook een solide basis voor toekomstige groei en innovatie.
MLOps is een breed begrip. Het is geen specifieke tool of framework, maar een verzameling principes die bedoeld zijn om de levenscyclus van machine learning-modellen te stroomlijnen en te verbeteren. Een deel van deze principes bouwt voort op de standaard DevOps-technieken die gebruikt worden in softwareontwikkeling. Net als bij DevOps is reproduceerbaarheid ook bij MLOps een cruciaal aspect. Het is immers heel belangrijk dat je AI-modellen consistent kunt trainen en dat de resultaten gelijk zijn in verschillende omgevingen. Met andere woorden, als je een model ontwikkelt in een testomgeving, wil je dat hetzelfde model in een productieomgeving dezelfde resultaten geeft. Er zijn twee belangrijke aspecten die hierbij komen kijken: modelbeheer en automatisering.
Stel je voor dat je als verzekeraar AI gebruikt om claims te verwerken. Als MLOps niet wordt toegepast en het model niet reproduceerbaar is, kan het leiden tot inconsistente resultaten bij het beoordelen van claims. Dit zou kunnen resulteren in verwarring bij klanten en mogelijk financiële geschillen.
Modelbeheer
Een AI-model bestaat niet alleen uit code; het is een samenspel van code én data. Het juist beheren van deze data en de bijbehorende code is van essentieel belang. Het resultaat van een AI-modeltraining moet samen met de trainingsdata en -parameters worden opgeslagen. Alleen zo kun je op elk gewenst moment een gedegen analyse uitvoeren op de resultaten. Als je bijvoorbeeld een klacht krijgt, is het van groot belang dat je kunt achterhalen welk model er is gebruikt, wat de specifieke parameters waren, en waarom juist dat resultaat is gegenereerd. Deze traceerbaarheid is van waarde voor alle organisaties, maar zeker voor verzekeraars en pensioenfondsen, die vaak te maken hebben met gevoelige financiële beslissingen waarbij verantwoording en transparantie cruciaal zijn.
Automatisering
Naast modelbeheer speelt ook automatisering een belangrijke rol in het MLOps-proces. Als de data-pre-processing, training en deployment volautomatisch kunnen gebeuren, maakt dat de 'time-to-market' zo kort mogelijk. De meest optimale mate van automatisering hangt echter af van het specifieke probleemgebied en de branche waarin je organisatie opereert. Voor sommige problemen, zoals fraudedetectie in de financiële sector, is het van groot belang om je AI-model regelmatig en snel te kunnen trainen met de meest recente gegevens, om zo snel te kunnen reageren op nieuwe frauduleuze patronen. In dat geval is het wenselijk dat taken zoals datavoorbereiding, gegevensverwerking en modeltraining volledig geautomatiseerd worden, waardoor ze in kortcyclische iteraties kunnen plaatsvinden. Maar als je kijkt naar de medische wereld, waar röntgenfoto's of CT-scans worden geanalyseerd, is het een heel ander verhaal. Het opbouwen van datasets voor dergelijke toepassingen vereist de expertise van professionals die handmatig grote hoeveelheden beelden beoordelen, wat tijdsintensief en kostbaar is. Hier kan het trainen van een model eens per jaar of zelfs eens in de paar jaar voldoende zijn. Hier is een hoog niveau van automatisering minder noodzakelijk.
Strategische afweging
De mate van automatisering is dus een strategische afweging, gebaseerd op de aard van het probleem en de behoeften van de branche. In het algemeen kun je stellen dat automatisering bijdraagt aan het vergroten van de reproduceerbaarheid van AI-modellen. Voor verzekeraars en pensioenfondsen is het belangrijk om bij een eventuele audit de resultaten te kunnen traceren en reproduceren.
Naast reproduceerbaarheid is schaalbaarheid een ander belangrijk aspect van MLOps. Het garandeert dat de infrastructuur mee kan groeien met veranderende omstandigheden, zodat organisaties flexibel en kosteneffectief met hun modellen kunnen werken.
Stel dat je als pensioenfonds AI gebruikt om beleggingsbeslissingen te nemen. Als het systeem niet schaalbaar is, kan je problemen ondervinden wanneer het klantenbestand groeit of wanneer er plotselinge veranderingen optreden in de financiële markten. Dit kan leiden tot verlies van beleggingsopbrengsten en ontevredenheid bij klanten.
Flexibiliteit
Als je je model aan het ontwikkelen bent, werk je waarschijnlijk met kleine datasets. Op een gegeven moment wil je je model loslaten op grotere datasets. Dan verhuis je je model van een gewone laptop of standaardcomputer naar een krachtiger systeem met meer rekenkracht en aangepaste configuraties om de schaalvergroting mogelijk te maken. Ook als een model eenmaal in productie is, moet het kunnen omgaan met organische groei. Vaak begin je met een beperkt aantal gebruikers in de pilotfase, maar als het model succesvol blijkt, wordt het uitgerold naar de volledige organisatie of naar een groter aantal gebruikers. Op dat moment wil je kunnen opschalen om aan de groeiende behoefte te voldoen.
Elasticiteit
Een ander belangrijk aspect van schaalbaarheid is elasticiteit, wat betekent dat je niet alleen kunt opschalen maar ook kunt afschalen. Neem bijvoorbeeld het geval van een verzekeringsmaatschappij na een grote storm. Je kunt verwachten dat er in de dagen na de storm veel schadeclaims binnenkomen als gevolg van omgevallen bomen en andere stormgerelateerde incidenten. In zo'n situatie wil je de capaciteit van je systeem snel kunnen opschalen om deze piek in de vraag op te vangen. Maar zodra de situatie weer normaliseert, wil je even gemakkelijk kunnen terugschalen om kosten te besparen. Door je model goed in te richten, kun je optimaal gebruikmaken van je resources en capaciteiten, waardoor je kosten onder controle blijven terwijl je toch altijd aan de actuele behoeften kunt voldoen.
Benieuwd hoe jouw organisatie meer uit AI-modellen kan halen dankzij MLOps? Neem contact met ons op. We helpen je graag in kaart te brengen hoe MLOps jouw organisatie kan transformeren.
