Hoewel Gen AI al enige tijd de headlines domineert, is er nog zoveel om te ontdekken en uit te zoeken. Grote en kleine vragen wisselen elkaar vloeiend af: Wat gaat Gen AI bekekenen voor mijn kinderen? Wat is de impact van Gen AI op bijvoorbeeld een risico analyse? Moet iedereen een tester worden om de AI hallucinaties de baas te blijven? Vragen in overvloed…
Marco van Winsen, test eindbaas en filosoof Thijs Pepping gaan in gesprek. Wat zijn thema’s waar we het echt over moeten hebben op 24 september? De twee Sogetisten staken van wal en kwamen tot de volgende conclusies:
De kwaliteitslat wordt hoger gelegd
Veel mensen hebben inmiddels wel een taak in hun werk gevonden die sneller gaat dankzij Gen AI. Of het nou gaat om het proeflezen van een stukje Engelse tekst is, het schrijven van code, of het genereren van ideeën. We komen gemiddeld sneller van idee naar uitvoering is de gedachte. Maar wat betekent dit voor de gewenste kwaliteit en snelheid van IT Delivery? De kans is groot dat deze eisen hoger komen te liggen. We zullen immers meer verbanden gaan zien en ontdekken. Precies waar het vakgebied Quality Engineering & Testing vaak over gaat.
Die nieuwe verbanden worden gezien in de praktijk bij organisaties, maar ook in de wetenschap. In een onderzoek van Nature onder 1600 wetenschappers, worden zowel de mogelijkheden als de zorgen omtrent AI in de wetenschap duidelijk. Veel wetenschappers zien AI als een essentiële tool die de komende jaren alleen maar belangrijker zal worden in hun vakgebied. Deze tools bieden snellere manieren om data te verwerken, versnellen berekeningen die voorheen onhaalbaar waren en besparen tijd en geld.
De basis blijft succesfactor voor QE
Tegelijkertijd brengt AI in onze organisaties en de wetenschap nieuwe risico’s met zich mee. LLM’s fabuleren erop los, wat is nou waar? Er zijn zorgen over een grotere afhankelijkheid van patroonherkenning zonder echt begrip. Straks snapt alleen de AI het nog. En vooroordelen of discriminatie in data kunnen versterkt worden door geautomatiseerde processen. Deze gemengde gevoelens benadrukken de noodzaak voor een zorgvuldige afweging van hoe we AI inzetten. Dit stimuleert een dialoog over hoe we ervoor kunnen zorgen dat AI een positieve kracht blijft.
Hoe gaan we hier als mens mee om als de veelheid van informatie niet meer te behappen is én constant uitgebreid kan blijven worden? Waar leg je als mens de lat van genoeg informatie? En hoeveel is dit allemaal waard als de basis van ons vakgebied niet goed is ingericht en wordt toegepast? Risico’s niet inzichtelijk zijn, testcases niet juist zijn, of de Gen AI producten overtuigend lijken, maar in werkelijkheid niet kloppen? De beheersing en toepassing van basis vakmanschap blijft de succesfactor voor Quality Engineering & Testing.
Iedereen wordt een realiteits-tester
In zekere zin zouden we allemaal een beetje de tester, of beter gezegd ‘quality engineer’, in ons moeten omarmen. Het kost tijd en ervaring om met zo’n ingrijpende technologie om te leren gaan. Waar het spotten van zes vingers bij een door AI gemaakt plaatje nog goed te doen is, is het bij andere details zoals twee verschillende oorbellen al veel moeilijker. Dezelfde soort hallucinaties kunnen ook optreden in de vorm van tekst of codes, maar hoe test je daarop? Het vergt een nieuw soort instinct en een scala aan vaardigheden om waarde te blijven leveren in deze nieuwe context. Argumentaties in teksten, opbouw in code, en coherentie in plaatjes moeten bekeken worden. We kunnen deze nieuwe soort tester de realiteitstester noemen.
Duurzaamheid
Gen AI heeft een duidelijke impact op onze digitale en fysieke werkelijkheid. Dit omvat energieverbruik, materiaalwinning voor computerchips en versnelling van overconsumptie. In juni 2024 stonden de kranten vol over Google en Microsoft, die hun klimaatdoelen zagen wegdrijven door de enorme vraag naar AI en de benodigde chips en datacenters. Google streeft naar netto-nul emissies tegen 2030, maar zag in 2023 een stijging van 13% in uitstoot. Volgens het Internationaal Energieagentschap kan het elektriciteitsverbruik van datacenters verdubbelen tot 1.000 TWh in 2026, gelijk aan de energievraag van Japan. SemiAnalysis voorspelt dat datacenters tegen 2030 4,5% van de wereldwijde energieproductie zullen verbruiken. Bill Gates bagatelliseert deze zorgen en zegt dat datacenters slechts 2% tot 2,5% meer energie vragen, met mogelijk een vermindering van meer dan 6% dankzij AI. Wat betekent dit voor Quality Engineers? Gebruik Gen AI verstandig: alleen prompten als het nodig is? Of ligt het toch wat genuanceerder en zoja, kunnen we deze discussie herzien en een nieuw antwoord vinden? We gaan in ieder geval een poging doen:
24 September, zorg dat je erbij bent
Tot dusver kleine en grote vragen en belangrijke thema’s. Je zal begrijpen; het is slechts het topje van de ijsberg die zich 24 september zal onthullen. Zorg dat je erbij bent.
Tot dan,
Thijs en Marco
