Paul Molin

Avec l'avènement de ChatGPT et des LLM, un nouveau monde de possibilités s'est ouvert dans la tech. Les premiers cas d'utilisation ne se sont pas fait attendre : de nouvelles applications basées sur l'IA générative sont déployées en production tous les jours. Dans ce domaine tout nouveau, la course a commencé entre développeurs et experts en sécurité d'un côté, et attaquants de l'autre.

Quels sont les risques des applications utilisant des LLM ? Quels moyens concrets ont les développeurs pour se protéger ?

C'est ce que je vais aborder dans ce talk en expliquant :

• le fonctionnement des LLM et des applications qui les utilisent

• les vulnérabilités typiques des applications avec IA générative (avec des histoires croustillantes à l'appui)

• les contre-mesures que les développeurs peuvent prendre pour s'en prémunir