Les intelligences artificielles, toujours plus nombreuses, restent fortement mécomprises. Avec leur multiplication, le risque cybercriminel augmente de manière exponentielle. Les gouvernements du monde entier s’emparent du sujet, comme lors du premier mondial sur la sécurité de l’IA, avec la déclaration commune dite « de Bletchley ». Alors, quels sont les risques, les enjeux ? Les solutions ? Si l’IA est le problème, elle pourrait également participer le solutionner.
IA et attaques cyber
Les enjeux
Les intelligences artificielles sont capables du meilleur comme du pire. Les chercheurs, la Presse et les États les qualifient comme l’une des pires menaces pour nos sociétés. Pourquoi cette défiance ? Qu’est-ce qui rend ces programmes si menaçants ?
Tout d’abord, personne n’est à l’abri. Les acteurs publics comme privés, les individus comme les organisations.
Prenons l’exemple du deepfake. Cette technologie permet de falsifier une vidéo en modifiant les visages et les voix.
Le deepfake est donc la porte ouverte à toutes sortes d’escroqueries à grande échelle. Imaginez un hackeur pouvant prendre le visage d’une célébrité pour envoyer des vidéos personnalisées à ses fans et leur demander de l’argent, des faveurs ou encore des photos osées…
Le X, justement, est un autre danger très sérieux. Un ex jaloux peut tout-à-fait recourir au deepfake pour diffuser de fausses vidéos à caractère pornographique en « collant » un visage sur celui d’un acteur pour adultes. L’horreur !
Et bien évidemment, les politiques ne sont pas épargnés. Manipulation de l’information, chantage, contrefaçon… Il devient facile de faire prononcer un faux discours à un Barack Obama plus vrai que nature, de faire chanter (littéralement) un ministre et tellement, tellement plus. De quoi faire les choux gras de la Presse, causer des émeutes, voire renverser des gouvernements. Et malheureusement non, je ne verse pas dans la dramatisation.
Tout cela est bien plus, à cause d’une seule application de l’IA.
Si vous voulez en savoir plus sur le deepfake, je vous recommande la vidéo ci-dessus par Bloomberg Originals (en anglais sous-titré).
Car en plus du deepfake, il faut compter sur « l’empoisonnement » – une technique d’envoi massif de données servant à fausser des résultats, par exemple électoraux -, les attaques par déni de service qui peuvent rendre inaccessibles des services essentiels… et beaucoup d’autres joyeusetés.
Les intelligences artificielles amplifient le pouvoir malveillant des malwares, ransomwares, virus et autres armes bien connues des cybercriminels. Tant et si bien qu’on ne compte déjà plus les hôpitaux, les aéroports ou encore les mairies qui en ont fait les frais avec les risques que cela engendre pour les personnels et pour les usagers.
Pistes de solutions
Pour le bien de tous, l’IA doit être conçue, développée, déployée et utilisée de manière sûre, de manière à être centrée sur l’humain, digne de confiance et responsable. […] [L]’IA présente également des risques importants, y compris dans les domaines de la vie quotidienne […] Nous sommes particulièrement préoccupés par ces risques dans des domaines tels que la cybersécurité […] Il existe un potentiel de dommages graves, voire catastrophiques, délibérés ou non, découlant des capacités les plus importantes de ces modèles d’IA.
Extrait de la déclaration de Bletchley (novembre 2023), cosignée par l’Union Européenne et les représentants de 28 gouvernements.
Le 1er sommet sur l’IA et la cybersécurité, parmi d’autres rencontres internationales, a permis de définir une ligne de défense dont voici les principaux éléments :
- l’identifications des risques et impacts potentiels ;
- le développement d’outils d’évaluation de la sécurité adaptés (y compris des IA pouvant protéger de leurs pairs) ;
- la rédaction de guidelines pour les développeurs et fournisseurs d’intelligences artificielles avant toute mise sur le marché d’un produit ;
- l’émission de recommandations générales telles que la surveillance des systèmes d’IA contre les abus, la protection des données contre la falsification et le contrôle des fournisseurs de logiciels ;
- une transparence accrue des fournisseurs d’IA sur leurs programmes ;
- la tenue d’une liste noire d’IA à bannir (a minima proscrire leur utilisation de certains cadres sensibles) ;
- la définition d’un cadre légal international commun, tenant compte des spécificités de chaque pays ;
- la promulgation de lois définissant les peines associées à ces menaces nouvelles ;
- la mise en commun de ressources internationales.
Évidemment, chacun des points ci-avant est beaucoup plus complexe que cette courte description. Les États et organisations continuent de travailler sur ces sujets et organisent désormais des rencontres régulières pour tenir leur agenda. Un agenda qui s’annonce très serré.
Dans l’intervalle, la vigilance individuelle et les suites de sécurité restent nos meilleures armes contre la cybercriminalité.
Nordnet se réserve le droit de publier le commentaire, accompagné du Nom renseigné. Le champ du commentaire n’est pas destiné à recevoir une question liée à de l’aide, de l’assistance, ou une éventuelle réclamation concernant une offre de Nordnet. Si vous avez besoin d’aide, vous pouvez consulter en bas de la page, la rubrique assistance ou nous contacter via le formulaire de contact accessible ci-dessous ou sur www.nordnet.com, ou encore en appelant le 3420 (service gratuit + prix appel).
Les informations assorties d’un astérisque sont nécessaires au traitement de votre commentaire. A défaut, elles sont facultatives. Ces informations font l'objet d'un traitement informatisé, sous la responsabilité du Président Directeur Général de la société Nordnet, agissant en qualité de Responsable de traitement, et sont destinées aux services et partenaires de Nordnet chargés de son exécution et de toutes suites qui pourraient en résulter.
L’utilisateur garantit l'exactitude des éléments personnels communiqués et s’engage à les maintenir à jour en cas d’enregistrement sur le navigateur. Les traitements sont réalisés sur les bases légales : intérêt légitime (modération). La politique de traitement des données à caractère personnel (DCP) de Nordnet est accessible via le lien ci-dessous ou sur www.nordnet.com.
Conformément aux dispositions légales et règlementaires applicables, le Client dispose notamment d'un droit d'accès, de rectification et d'opposition au traitement de ses données personnelles, à la réception d’informations commerciales le cas échéant. Pour exercer ces droits, la personne concernée peut adresser un courrier au Département Gestion Clients de Nordnet à l’adresse suivante : 245 Boulevard de Tournai (5ème étage) CS 20458, 59664 VILLENEUVE D’ASCQ CEDEX, ou un courrier électronique à l'adresse : coordonnees@nordnet.com (seules les demandes portant sur les données à caractère personnel seront traitées).
Les données à caractère personnel (DCP) sont conservées en base active le temps nécessaire à l’accomplissement des finalités visées ci-dessus (cf. politique de traitement des DCP), sans préjudice des obligations de conservation légale ou des délais de prescription.