{"id":166597,"date":"2025-11-25T03:00:51","date_gmt":"2025-11-25T11:00:51","guid":{"rendered":"https:\/\/unit42.paloaltonetworks.com\/?p=166597"},"modified":"2025-11-25T11:27:15","modified_gmt":"2025-11-25T19:27:15","slug":"dilemma-of-ai-malicious-llms","status":"publish","type":"post","link":"https:\/\/origin-unit42.paloaltonetworks.com\/fr\/dilemma-of-ai-malicious-llms\/","title":{"rendered":"Une arme \u00e0 double tranchant : Les LLM malveillants"},"content":{"rendered":"

<\/a>R\u00e9sum\u00e9 ex\u00e9cutif<\/h2>\n

L'un des d\u00e9fis fondamentaux pos\u00e9s par les grands mod\u00e8les de langage (LLM) dans un contexte de s\u00e9curit\u00e9 r\u00e9side dans le fait que leurs principaux atouts en tant qu'outils d\u00e9fensifs sont pr\u00e9cis\u00e9ment ce qui conf\u00e8re leur puissance offensive. Ce probl\u00e8me est connu sous le nom de \u00ab dilemme du double usage \u00bb, un concept g\u00e9n\u00e9ralement appliqu\u00e9 \u00e0 des technologies telles que la physique nucl\u00e9aire ou la biotechnologie, mais qui est d\u00e9sormais au c\u0153ur de l'IA. Tout outil suffisamment puissant pour construire un syst\u00e8me complexe peut \u00e9galement \u00eatre d\u00e9tourn\u00e9 pour le d\u00e9truire.<\/p>\n

Ce dilemme se manifeste de plusieurs mani\u00e8res critiques li\u00e9es \u00e0 la cybers\u00e9curit\u00e9. Alors que les d\u00e9fenseurs peuvent employer les LLM pour acc\u00e9l\u00e9rer et am\u00e9liorer leurs r\u00e9ponses, les attaquants peuvent \u00e9galement les exploiter pour leurs propres flux de travail. Par exemple :<\/p>\n

    \n
  1. Pr\u00e9cision linguistique :<\/strong> Les LLM peuvent g\u00e9n\u00e9rer des textes grammaticalement plausibles, contextuellement pertinents et psychologiquement manipulateurs, perfectionnant ainsi l'art de l'ing\u00e9nierie sociale pour les campagnes de phishing (hame\u00e7onnage), de vishing (hame\u00e7onnage vocal) et de compromission de la messagerie d'entreprise (BEC).<\/li>\n
  2. Aisance en codage :<\/strong> Ils peuvent g\u00e9n\u00e9rer, d\u00e9boguer et modifier rapidement du code fonctionnel, y compris des scripts malveillants et des logiciels malveillants (malwares) personnalis\u00e9s, acc\u00e9l\u00e9rant consid\u00e9rablement le cycle de d\u00e9veloppement des malwares et des outils d'attaque.<\/li>\n<\/ol>\n

    La fronti\u00e8re entre un outil de recherche inoffensif et un puissant moteur de cr\u00e9ation de menaces est dangereusement mince. Les deux ne sont souvent s\u00e9par\u00e9s que par l'intention du d\u00e9veloppeur et l'absence de garde-fous \u00e9thiques.<\/p>\n

    Dans cet article, nous examinons deux exemples de LLM que Unit 42 consid\u00e8re comme malveillants : des mod\u00e8les sp\u00e9cialement con\u00e7us \u00e0 des fins offensives. Ces mod\u00e8les, WormGPT et KawaiiGPT, illustrent parfaitement ces d\u00e9fis de double usage.<\/p>\n

    L'\u00c9valuation de la s\u00e9curit\u00e9 de l'IA de Unit 42<\/a> peut aider \u00e0 favoriser une utilisation et un d\u00e9veloppement s\u00fbrs de l'IA au sein de votre organisation.<\/p>\n

    Si vous pensez avoir \u00e9t\u00e9 compromis ou si vous avez une urgence, contactez l'\u00e9quipe de r\u00e9ponse aux incidents de Unit 42<\/a>.<\/p>\n\n\n\n
    Sujets Unit 42 associ\u00e9s<\/b><\/td>\nLLMs<\/b><\/a>, Phishing<\/a><\/strong>, Cybercrime<\/b><\/a>, Ransomware<\/b><\/a><\/td>\n<\/tr>\n<\/thead>\n<\/table>\n

    <\/a>D\u00e9finir les LLM malveillants<\/h2>\n

    Ces LLM malveillants \u2014 des mod\u00e8les construits ou adapt\u00e9s sp\u00e9cifiquement \u00e0 des fins offensives \u2014 se distinguent de leurs homologues grand public par la suppression intentionnelle des contraintes \u00e9thiques et des filtres de s\u00e9curit\u00e9 lors de leur formation fondamentale ou de leur processus de \"fine-tuning\" (ajustement fin).<\/p>\n

    De plus, ces LLM malveillants contiennent des fonctionnalit\u00e9s cibl\u00e9es. Ils sont commercialis\u00e9s sur des forums souterrains et des canaux Telegram avec une vari\u00e9t\u00e9 de fonctionnalit\u00e9s, y compris celles explicitement con\u00e7ues pour :<\/p>\n