L’entreprise américaine OpenAI, à l’origine du célèbre chatbot ChatGPT et du générateur d’images DALL·E, a annoncé le lancement d’un programme de bug bounty destiné à renforcer la sécurité de ses technologies d’intelligence artificielle générative. Avec cette initiative, les chercheurs en sécurité, les hackers éthiques et les passionnés de technologie sont invités à identifier et signaler les vulnérabilités potentielles liées au fonctionnement de ChatGPT.
Chasse aux bugs pour renforcer la sécurité de ChatGPT
Partenariat avec Bugcrowd
Pour gérer ce nouveau programme de chasse aux bugs, OpenAI s’est associée à la plateforme Bugcrowd, spécialisée dans la gestion des processus de bug bounties. Grâce à cette collaboration, les chercheurs peuvent soumettre leurs découvertes de vulnérabilités directement via la plateforme Bugcrowd, qui se charge ensuite d’évaluer et de récompenser les contributions selon leur impact et leur gravité.
Récompenses allant jusqu’à 20 000 $ par vulnérabilité signalée
Le programme de bug bounty propose des récompenses financières pouvant atteindre 20 000 $ par vulnérabilité signalée. Les montants varient en fonction de la gravité des problèmes identifiés :
- 200 $ pour des découvertes peu graves
- Jusqu’à 20 000 $ pour des découvertes exceptionnelles
Il est important de noter que le programme ne couvre pas les problèmes de sécurité liés au modèle ou à l’infrastructure sous-jacente.
Objectif : rassurer et montrer patte blanche
Cette initiative intervient après plusieurs controverses concernant le chatbot ChatGPT, qui ont soulevé des inquiétudes quant à la maîtrise de cette technologie par OpenAI. En lançant ce programme de bug bounty, la société souhaite redorer son image et montrer qu’elle prend les questions de sécurité au sérieux. De plus, en sollicitant l’aide de chercheurs externes, OpenAI démontre son engagement à améliorer et renforcer ses technologies d’intelligence artificielle.
Répondre aux avertissements politiques
Le lancement du programme de bug bounty fait également écho aux différents avertissements émis par des personnalités politiques, dont le président des États-Unis Joe Biden. En invitant les informaticiens du monde entier à traquer les failles de ChatGPT, OpenAI espère ainsi répondre aux préoccupations des autorités et gagner la confiance du public.
Participer à la chasse aux bugs de ChatGPT
Pour rejoindre cette chasse aux bugs et potentiellement remporter des récompenses financières, voici les étapes à suivre :
- Inscrivez-vous sur la plateforme Bugcrowd
- Recherchez et identifiez les vulnérabilités potentielles liées au fonctionnement de ChatGPT
- Soumettez vos découvertes via la plateforme Bugcrowd, en fournissant suffisamment d’informations pour permettre à l’équipe d’évaluer l’impact et la gravité de la vulnérabilité
- Attendez le retour de l’équipe Bugcrowd qui évaluera votre contribution et, si elle est jugée pertinente, attribuera une récompense financière selon le barème établi
Ainsi, en lançant ce programme de bug bounty pour ChatGPT, OpenAI espère non seulement renforcer la sécurité de son chatbot, mais également rassurer les utilisateurs et les autorités quant à sa volonté d’améliorer continuellement ses technologies.
Cette annonce intervient quelques jours après l’interdiction de ChatGPT en Italie pour une suspicion de violation des règles de confidentialité, incitant les régulateurs d’autres pays européens à étudier de plus près les services d’IA générative. ChatGPT d’OpenAI, soutenu par Microsoft Corp, a conquis le monde depuis son lancement en novembre, épatant certains utilisateurs avec des réponses rapides aux questions et causant du tort à d’autres en raison d’inexactitudes.