Aujourd'hui commence le AI Safety Summit de Bletchley, le sommet Mondial sur la sécurité de l'Intelligence Artificielle. J'ai donc eu l'immense plaisir de rejoindre Marie Vancutsem dans Matin 1 sur La Première pour en parler. 🌟
En effet, l'avenir de l'#IntelligenceArtificielle est captivant mais soulève aussi des questions essentielles sur la sécurité et l'éthique.
A l'agenda du Sommet de Bletchley disponible ici, évaluation des risques dûs:
1. à l'utilisation mal intentionnée de l'IA
2. aux avancées imprévisibles dans les capacités de l'IA de pointe
3. à la perte de contrôle sur l'IA de pointe (IA Générale)
4. à l'intégration de l'IA dans la société (deep-fakes, élections..)
J'ai partagé mes réflexions sur pourquoi il est crucial pour nous, en tant que citoyens, leaders, innovateurs et penseurs, de rester à l'avant-garde des pratiques sûres en IA. La responsabilité est grande, et l'excitation l'est tout autant !
🔗 Si vous avez manqué notre conversation, vous pouvez l'écouter ou la regarder ici sur Auvio
A propos du AI Safety Summit de Bletchley
Poser les bases d'une discussion sur la sécurité de l'intelligence artificielle et identifier ses risques sans freiner ses possibilités. Tels sont les enjeux du sommet international sur l'IA qui se tiendra les 1 et 2 novembre à Bletchley Park . A 80 kilomètres au nord-ouest de Londres, ce lieu n'a pas été choisi au hasard. C'est dans ce domaine verdoyant du Buckinghamshire que, durant la Seconde Guerre mondiale, des centaines de mathématiciens britanniques ont travaillé dans le plus grand secret à déchiffrer les communications étrangères, notamment celles de la fameuse machine allemande Enigma.
Plus concrètement,
1. Risques pour la sécurité mondiale dus à la mauvaise utilisation de l'IA de pointe
- notamment en matière de biosécurité et de cybersécurité.
- Il pourrait y avoir une utilisation malveillante de l'IA pour perturber les systèmes biologiques ou informatiques, compromettant ainsi la sécurité mondiale.
- => l'élaboration de stratégies et de normes pour prévenir la mauvaise utilisation de ces technologies.
- Exemples: En matière de cybersécurité :
- Attaques sophistiquées : Les cybercriminels pourraient utiliser l'IA de pointe pour lancer des attaques plus sophistiquées et efficaces contre des systèmes informatiques, des infrastructures critiques, des réseaux ou des bases de données.
- Désinformation et deepfakes : L'IA de pointe peut être utilisée pour créer des contenus faux mais très réalistes (deepfakes) pour propager de la désinformation, compromettant ainsi la sécurité nationale et mondiale.
- Automatisation du cybercrime : L'IA de pointe pourrait automatiser et amplifier les activités cybercriminelles, telles que les attaques par ransomware, les vols de données et d'autres formes de cyber-espionnage.
- Exemples: En matière de biosécurité :
- Implantation de puces IA (Neuralink, trans humanisme)
- Création et propagation de maladies : Une IA de pointe pourrait être utilisée pour manipuler des organismes biologiques, créer de nouveaux types de virus ou de bactéries qui pourraient être utilisés de manière malveillante, entraînant des épidémies ou des pandémies.
- Manipulation génétique : Les technologies d'IA pourraient être détournées pour effectuer des modifications génétiques non éthiques ou dangereuses sur des animaux, des plantes ou même des humains.
2. Risques dus aux avancées imprévisibles dans les capacités de l'IA de pointe
- pourraient poser des défis en termes de prévision, de réglementation et de contrôle des modèles IA
- => naviguer et de gérer ces avancées pour minimiser les risques potentiels.undefined
3. Risques dus à la perte de contrôle sur l'IA de pointe
- =systèmes d'IA très avancés puissent, à l'avenir, échapper au contrôle et à la supervision humains.
- => risques associés à la perte de contrôle, comme les scénarios catastrophiques potentiels, et les outils et stratégies undefined
4. Risques dus à l'intégration de l'IA de pointe dans la société
- perturbation des élections, les biais, les impacts sur la criminalité et la sécurité en ligne, et l'exacerbation des inégalités mondiales.
=> exploration des mesures que les pays prennent déjà, stratégies pour atténuer les impacts négatifs potentiels de l'intégration de l'IA de pointe dans divers aspects de la société.
Pourquoi ce sommet est-il stratégique ?
1.L'Europe au milieu d'une "AI cold War" :
Tout d'abord, parce que le paysage des acteurs de l'IA est divisé entre les Etats-Unis principalement et la Chine (loin derrière). L'Europe, bien que consommatrice d'IA, est un petit poucet tant du côté du cloud que du développement de LLM et de solutions IA performantes (malgré les belles avancées et promesses du français Mistral). A noter que ces IA ont largement été entrainée sur les données européennes (hébergées chez les géants américains); certains experts parlent de "colonisation des données européennes". On se trouve face à une "AI cold war".
2. Convaincre les états (et l'UE) de fixer un cadre à l'IA
Parmi les acteurs incontournables de l'IA (Open AI, Microsoft, Google, Amazon, X.. et prochainement sans doute Apple), 2 courants existent; ceux qui estiment qu'il faut réglementer le cadre d'opération acceptable de l'IA (Responsible AI); ce qui leur confèreraient un fort avantage sur le marché et ceux qui se présentent comme ultra-libéraux et estiment qu'il faut laisser l'IA se développer et supplanter l'homme (comme les neuro-transhumanistes; Neuralink et Elon Musk mais également les fondateurs de Google).
3. De la prise de conscience au péril sérieux
mais surtout, il s'agit d'un premier pas dans la prise de conscience des limites et dérives possibles de la "Super IA", appelée également IA de pointe ou Intelligence Artificielle Générale qui pourrait, plus rapidement que prévu, dépasser l'homme...
J'ai également donné n interview à Canalz qui est disponible ici
