'Generatieve AI' is kunstmatige intelligentie die in staat is om tekst, beeld of geluid te maken. Een foto, video of stem die authentiek lijkt maar eigenlijk een AI-creatie is, wordt ook wel een ‘deepfake’ genoemd. Deepfakes staan vooral bekend om de schadelijke toepassingen ervan, zoals identiteitsfraude en de verspreiding van nepnieuws. De ondernemer uit deze aflevering sprong op de innovatiegolf van generatieve AI en specialiseerde zich in de detectie van deepfakes.
Klik op de afspeelknop om de podcastaflevering 'Generatieve AI: Het verschil tussen echt en nep' te beluisteren.
De Innovatiegolf bespreekt in deze podcast met Joris Mollinga van DuckDuckGoose wat de invloed is van generatieve AI en deepfakes in het bijzonder. Generatieve AI neemt snel in kracht toe en de resultaten worden steeds indrukwekkender. DuckDuckGoose is gespecialiseerd in het herkennen van deepfakes. Vaak worden deepfakes gebruikt om mensen of systemen op het verkeerde been te zetten. Bijvoorbeeld de gekloonde stem van een familielid die via een telefoontje om geld vraagt.
Podcastduo Julia Krauwer en Harry Dijkema bespreken met Mollinga onder andere hoe phishingmails steeds overtuigender én schaalbaarder worden doordat ook cybercriminelen generatieve AI weten te vinden. Het percentage bedrijven dat te maken heeft gehad met een cyberaanval neemt fors toe; van 45 procent in 2022 naar 76 procent in 2023. Onder de kleinste bedrijven bleef de risicoperceptie echter gelijk. Die beperkte risicoperceptie herkent Mollinga uit de dagelijkse praktijk van DuckDuckGoose. Om voet tussen de deur te krijgen bij potentiële klanten, voert het bedrijf met regelmaat 'pen tests' uit. Met een gefakete selfievideo laten ze een bedrijf zien dat ze klant kunnen worden middels een nepidentiteit.
Maar deepfakes kunnen ook iets moois en positiefs opleveren. Bijvoorbeeld in de vorm van special effects in de mediawereld en als hulpmiddel bij rouwverwerking.
Joris Mollinga is CTO van DuckDuckGoose, dat met software ‘deepfakes’ kan herkennen. Wat startte als een studieproject aan de TU Delft is nu een ambitieuze startup. Samen met zijn medeoprichters Parya Lotfi en Mark Evenblij wil Mollinga mensen, organisaties en maatschappij beschermen tegen de negatieve gevolgen van deepfakes.
We leven in een wereld waar niet alles op een scherm echt hoeft te zijn. Die knop moet nog om bij het grote publiek.
Nederland is een tech- en ondernemersland. In de podcast ‘De Innovatiegolf’ komen ondernemers aan het woord die op een specifieke innovatiegolf zijn gesprongen. Waar leidt deze golf naartoe en wat betekenen de onderliggende technologische ontwikkelingen voor mens, maatschappij en planeet? En wat kunnen andere ondernemers doen om op diezelfde innovatiegolf mee te surfen? Ontdek het in de podcast ‘De Innovatiegolf’.
Blijf op de hoogte van onze inzichten, tips en trends
