Quand les maîtres des intelligences artificielles éprouvent les garde-fous de leurs machines, les résultats sont sidérants. Deux rapports communiqués sur des réponses que les IA sont susceptibles de communiquer ont fait trembler les murs…

Cet été, OpenAI et Anthropic (réunissant Alphabet-Google et Amazon) ont donc évalué mutuellement, à cœur ouvert, leurs modèles de langage génératifs — un peu comme des cahiers de vacances pour IA, version sécurité. L’objectif ? Mettre à l’épreuve les sécurités de leurs outils — en l’occurrence ChatGPT (lire le rapport) et Claude (lire le rapport), en suggérant des scénarios de contournement conçus par des équipes spécialisées (red teams). En somme, s’assurer que des requêtes comportant des risques manifestent n’aboutissent pas à une réponse dangereuse et mesurer conséquemment la robustesse.

Lire plus : https://actualitte.com/article/125850/technologie/de-la-propagande-raciste-dans-des-livres-jeunesse-la-solution-ia-qui-derange

Retour à l'accueil