Shadow-AI
Aan de slag gaan met ChatGPT, Midjourney, DALL-E of andere generatieve AI tools is zo makkelijk dat IT-professionals er nauwelijks nog aan te pas komen. Toch hebben gebruikers er baat bij dat hun AI niet langer onder de radar blijft.
Schaduw-AI een variant van schaduw-IT
Niks nieuws onder de zon, zo lijkt het. Schaduw-AI is niet meer dan een nieuwe variant van Schaduw-IT. Gartner becijferde eerder al dat ongeveer eenderde van de IT-huishouding uit schaduw-IT bestaat. Aangezien dat vaak gepaard gaat met relatief dure individuele softwarelicenties lopen de kosten van schaduw-IT bij grote organisaties op tot 40 procent van de totale IT-bestedingen. Met schaduw-AI is dat niet veel anders. Toch is dit nieuwe fenomeen nog complexer en gevaarlijker. Zo is het risico op het lekken van gevoelige informatie groter. Vooral omdat Jan en alleman aan de slag kan met tools die erg handig zijn of op zijn minst handig lijken. Bovendien is met de AI-toepassing doorgaans meer tekstdata gemoeid dan met een traditionele applicatie. Het wordt nog pijnlijker als vertrouwelijke IP bijvoorbeeld opgaat in een publiek beschikbaar AI-systeem. Onlangs kwam een broncode van Samsung in handen van OpenAI omdat medewerkers ChatGPT hadden gebruikt om bugs in gevoelige broncode te vinden. De kans op onbedoelde inbreuk op auteursrecht is eveneens groter omdat veel AI-modellen getraind zijn op auteursrechtelijk beschermde data. De consequenties voor de toekomst zijn nauwelijks nog te overzien.
Aangezien veel generatieve AI-tools zoals ChatGPT gratis zijn, is het voor iedereen eigenlijk appeltje-eitje om aan de slag te gaan. Wat AI in drie minuten kan, had je tot voor kort minstens een week voor nodig. Maar datzelfde gratis AI-gereedschap is niet altijd even betrouwbaar want veel tools zijn met verouderde data getraind. Waar generatieve AI vooral een redenatie-machine is, is het voor velen een kennisbron waar je allesbehalve blind op kan vertrouwen. Daarmee steken hallucinaties en onnauwkeurigheden snel de kop op. Dat leren inmiddels verschillende incidenten bij niet de minste bedrijven zoals Microsoft, Google en Air Canada.
Ethische aspecten van AI
Boycotten dan maar? Dat is geen optie. Een verbod werkt niet en belangrijker nog, dat is vooral een manier om talentontwikkeling en innovatie uit te sluiten. De kunst is kaders te scheppen waarin iedereen op een verantwoorde en veilige manier aan de gang kan. Dat is makkelijker gezegd dan gedaan want AI-architecten staan nog niet in de rij. Het komt maar al te vaak voor dat een AI-applicatie bijvoorbeeld op een Google cloudplatform is ontwikkeld waarbij later blijkt dat operationaliseren alleen kan in een Azure-omgeving omwille van het bestaande IT-landschap. Ook de ethische aspecten zorgen ervoor, dat doorgaans veel meer beleidsmakers betrokken moeten worden vooraf aan de productie van de AI-tool. Zonder AI-architecten is het zaak een groep specialisten, of noem het een stuurgroep op te tuigen die gaat zorgen voor het inbedden van de nieuwe AI-tool in de bestaande architectuur.
Nu al worden veel AI PoC’s ontwikkeld zonder dat een heldere GenAI-architectuur aanwezig is. Op deze manier worden de zogeheten technical debts opgebouwd om achteraf te bepalen hoe de AI-toepassingen op te nemen in de IT-huishouding. Koester deze initiatieven. De AI PoC’s zijn ideaal om te leren van alle (on)mogelijkheden. Dat helpt uiteindelijk ook bij het vaststellen van een AI-strategie. Maar wacht daar niet te lang mee zodat het aantal technical debts binnen de perken blijft. Zo’n strategie hoeft niet eens een meerjarenaanpak te zijn. Een goede basis leggen, is van groot belang. Daar kan dan voortdurend aan bijgespijkerd worden. Zo kun je in ieder geval zorgen voor de waarborging van privacy en veiligheid bij het gebruik van AI-tools. Ook valt beter te monitoren waar, welke en hoeveel gegevens de organisatie in- en uitstromen. Als de basis wordt gelegd, is dat voor gebruikers bovendien veel aantrekkelijker om AI uit de schaduw te halen en zo alle innovaties te koesteren.
Waarom AI & Sogeti?
AI is de toekomst ‒ ook van Sogeti. Daarom hebben we een groot team AI-specialisten die zich bezighouden met het ontwikkelen van AI en met toepassingen die we niet alleen uittekenen, maar ook in de praktijk brengen. Lees meer over Artifical Intelligence en/of vraag ons naar de workshop AI in a Day.
