L’Organisme de Normalisation IA Qui Ne Devrait Pas Exister

Par Jeff Brown, responsable de la recherche technologique
chez L’investisseur Tech

• Résoudre le Grand Défi de la Biologie
• Aux Contreforts de la Singularité
• Un Étranglement Déguisé en Sécurité
• L’Acquisition que Musk Redoutait le Plus
• Le Cadeau de New York à Pékin

Cher lecteur,

Demis Hassabis est à l’avant-garde du développement des réseaux de neurones depuis près de 15 ans.

Il a fondé DeepMind en 2010, qui a ensuite été rachetée par Google en 2014.

Sa formation est en informatique, avec une spécialisation en IA.

Peu de gens le savent, mais à la fin des années 90, Hassabis a débuté sa carrière en tant que développeur de jeux vidéo.

En 2005, il a quitté le secteur pour préparer un doctorat en neurosciences à l’University College London… Et après l’avoir obtenu, il a fondé DeepMind.

Sans grande surprise, les premières recherches de Hassabis chez DeepMind ont été appliquées aux jeux vidéo.

Il a mené son équipe à développer des formes d’IA capables de jouer à 7 jeux Atari 2600.

Cela a finalement abouti à AlphaGo, une IA capable d’écraser les plus grands maîtres mondiaux au jeu de Go, cet ancien jeu chinois.

Le Go est un jeu avec un nombre quasi infini de résultats possibles – tellement nombreux qu’un système d’IA ne peut pas tous les mémoriser.

Après cela, Hassabis a tourné son regard vers les sciences du vivant.

Résoudre le Grand Défi de la Biologie

L’un des grands défis scientifiques consiste à prédire avec précision comment les protéines se replient.

DeepMind a relevé ce défi avec AlphaFold, et Hassabis ainsi que son collègue John Jumper ont remporté le Prix Nobel de Chimie en 2024, alors même qu’Hassabis n’avait aucune formation en chimie.

Les sciences du vivant constituent un domaine de prédilection pour Hassabis, qui est convaincu que l’impact le plus important de l’IA sur la société sera dans la découverte et le développement de médicaments.

Si vous me demandez quelle est la contribution numéro un que l’IA peut apporter à l’humanité, ce serait de résoudre des centaines de maladies terribles. Je ne peux pas imaginer de meilleur cas d’usage pour l’IA.

Si vous pouviez révolutionner le processus de découverte de médicaments, le rendre 10 fois plus rapide et plus efficace, et augmenter les chances de réussite lors des essais cliniques grâce à une meilleure prédiction des propriétés, cela aurait également une valeur commerciale considérable.

– Demis Hassabis

Le succès qu’il a connu chez DeepMind l’a conduit à une promotion – diriger l’ensemble de la recherche en IA chez Google – tout en continuant à la tête de Google DeepMind et d’Isomorphic Labs, une filiale issue de Google DeepMind conçue pour accélérer la découverte et le développement de médicaments.

Hassabis et DeepMind sont à l’origine de certaines des avancées les plus incroyables rendues possibles par l’IA à ce jour… C’est pourquoi suivre les développements qui y sont liés est toujours un investissement de temps utile pour ceux qui s’intéressent à l’IA de pointe.

Hier, Hassabis a suscité de nombreuses discussions dans le secteur avec une rare publication sur X, intitulée : A Framework for Frontier AI and the Dawning of a New Age. Elle était à la fois enthousiasmante et décevante.

Aux Contreforts de la Singularité

Au fil des années dans mes recherches, j’ai fait de mon mieux pour informer mes abonnés sur ce qui se passe dans l’IA et les aider à se positionner pour ce qui vient, afin qu’ils soient prêts pour la suite.

Je souhaite mettre en lumière les points clés qu’Hassabis a soulevés dans cette publication, car certains de ses commentaires offrent une orientation utile pour comprendre ce qui se prépare.

Il affirme…

Lorsque nous regarderons en arrière sur cette période dans les décennies à venir, je pense que nous réaliserons que nous nous trouvions aux contreforts de la singularité – rien de moins que l’aube d’une nouvelle ère pour l’humanité.

Je prédis depuis longtemps l’avènement de l’IAG fin 2025/début 2026.

Je suis fermement convaincu qu’elle est déjà là, un point sur lequel le PDG de NVIDIA Jensen Huang, le capital-risqueur Marc Andreessen, et bien d’autres s’accordent désormais.

L’opinion d’Hassabis est que l’IAG est encore en cours de développement, mais il la présente comme quelque chose de plus proche de l’intelligence artificielle générale au sens fort (IAS), dont j’ai longtemps prédit l’arrivée au plus tard en 2030.

Il affirme également…

L’IAG ne peut pas être comparée aux avancées technologiques classiques, pas même à celles aussi déterminantes qu’Internet ou le mobile – elle s’apparente bien davantage à la découverte de l’électricité ou du feu.

L’ampleur de l’impact de cette technologie sera sans précédent, peut-être 10 fois supérieure à celle de la Révolution industrielle, et à 10 fois sa vitesse.

Les commentaires ci-dessus constituent un cadre de réflexion utile pour appréhender ce qui a déjà commencé.

L’ampleur de cette technologie sera 10 fois celle de la Révolution industrielle, à 10 fois sa vitesse.

L’intelligence artificielle a déjà développé des solutions inédites à des problèmes de physique et de mathématiques – sans l’aide d’experts humains.

Sans grande surprise, la technologie IA de Google DeepMind a été à l’origine de bon nombre de ces découvertes :

• AlphaTensor de Google DeepMind a développé de nouveaux algorithmes permettant une multiplication matricielle plus rapide en 2022.
• Le modèle Gemini Deep Think de Google a été utilisé plus tôt cette année pour développer de nouvelles solutions analytiques en cosmologie, notamment liées au rayonnement gravitationnel des cordes cosmiques.
• Au cours des six derniers mois, OpenAI et Google DeepMind ont tous deux concentré leur technologie sur les problèmes et conjectures d’Erdős, dont plusieurs ont été résolus et encore davantage prouvés. Ces problèmes étaient restés sans solution et sans preuve pour les experts mathématiciens humains depuis 80 ans.

Qu’on le veuille ou non, l’IAG est déjà là, et le rythme du développement continue de s’accélérer chaque mois.

Les modèles d’IA sont déjà capables d’auto-amélioration récursive, ce qui signifie que leurs seules contraintes sont les ressources de calcul et l’électricité.

Et pour l’instant, les capitaux disponibles suffisent à garantir l’abondance des deux.

Hassabis comprend parfaitement à quelle vitesse les choses évoluent.

Il est dans une position très unique pour le faire, compte tenu de ses fonctions actuelles.

C’est la raison principale de sa publication d’hier.

Un Étranglement Déguisé en Sécurité

Hassabis a recommandé la création d’un nouvel organisme de normalisation en IA pour superviser et réguler le développement de l’IA…

Il pourrait créer un nouvel organisme de normalisation inspiré d’un partenariat public-privé sous supervision fédérale, ou d’une organisation d’autorégulation, à l’instar de la Financial Industry Regulatory Authority (FINRA), avec un conseil d’administration comprenant des experts techniques indépendants de premier plan et des représentants de l’open source.

Pour replacer les choses dans leur contexte, la FINRA n’est techniquement pas un organisme gouvernemental.

Elle est financée par le secteur, mais le gouvernement lui apporte son soutien pour faire respecter les normes qu’elle élabore.

L’idée d’Hassabis est que « les Laboratoires Frontier partageraient volontairement leurs modèles avec l’organisme de normalisation pour examen jusqu’à 30 jours avant leur mise sur le marché ». Et que cet organisme de normalisation « pourrait coordonner un ralentissement du développement entre les Laboratoires Frontier si cela s’avérait nécessaire ». Cette idée peut sembler relativement anodine, magnanime, voire absolument nécessaire à ceux qui souhaitent « protéger tout le monde du développement de l’IA »… Mais c’est une idée déplorable qui ne devrait pas être poursuivie, car elle conduirait presque certainement à des résultats encore plus néfastes.

Imaginez qu’un petit nombre d’élites – en étroite coordination avec le gouvernement américain – ait la mainmise sur le développement de l’intelligence artificielle aux États-Unis.

Cela ne ferait que conduire à une capture réglementaire par les grandes entreprises technologiques qui travaillent sur les modèles d’IA frontier de pointe, en programmant leurs modèles d’IA de manière à s’aligner sur les discours radicaux et politiquement motivés du moment.

Google (GOOGL), Anthropic, Meta (META) et Microsoft (MSFT) – qui ont tous massivement censuré des scientifiques et des experts pendant la pandémie sur instruction du gouvernement, et ont également influencé les résultats d’élections par le passé en raison de leurs propres biais – seraient presque certainement impliqués dans un tel organisme de normalisation.

Sont-ce vraiment ces personnes à qui nous ferions confiance pour jouer un rôle neutre et décider quels modèles d’IA sont « approuvés » ou non ?

Certainement pas.

L’Acquisition que Musk Redoutait le Plus

La plupart des gens l’ignorent, mais Elon Musk lui-même était un investisseur précoce dans DeepMind dès 2011.

Son objectif était d’aider DeepMind à rester indépendante et de s’assurer qu’elle était alignée sur les intérêts de l’humanité.

Autrement dit, qu’elle serait neutre et à la recherche de la vérité.

Musk était mécontent que Google veuille acquérir DeepMind.

C’était l’acquisition qu’il redoutait le plus.

Musk a même mené un groupe d’investisseurs pour acquérir DeepMind afin d’empêcher Google de le faire.

Mais malheureusement, Google a remporté l’enchère.

Google avait promis à DeepMind – comme condition de l’acquisition – qu’il n’y aurait aucune utilisation militaire de sa technologie d’IA, et qu’un conseil d’éthique indépendant superviserait l’usage de l’IA.

Ce sont des engagements que Google a par la suite reniés, car Google vend désormais cette technologie au Pentagone à « toute fin gouvernementale légale », telle que définie par le gouvernement américain.

La perte de l’acquisition de DeepMind par Musk est précisément ce qui l’a conduit à fonder OpenAI en 2015.

Puisque Google disposait de DeepMind, il estimait qu’il fallait un contrepoids à Google ayant la même mission qu’il avait envisagée pour DeepMind.

Malheureusement, comme nous l’avons suivi de près dans L’Investisseur Tech, des dirigeants clés d’OpenAI ont rapidement abandonné son statut d’organisation à but non lucratif, violé les règles de la fiducie caritative, et se sont enrichis personnellement, tout comme les employés et investisseurs d’OpenAI dans le cadre d’une entité à but lucratif.

Tout comme la perte de DeepMind au profit de Google a conduit à la fondation d’OpenAI, ce qui s’est passé avec OpenAI a été le catalyseur qui a poussé Musk à fonder xAI et à construire Grok, la première et unique IA au monde entièrement dédiée à la recherche de la vérité.

Et la vérité est ce qu’ils craignent le plus… Peut-on imaginer un conseil de normalisation… contrôlé/compromis par le gouvernement… dirigé par les entreprises mentionnées précédemment… examinant le modèle d’IA frontier Grok de SpaceXAI ?

Musk et son équipe chez SpaceXAI (SPCX) sont les plus grands défenseurs de la liberté d’expression que le monde ait jamais connus… Et cela signifie qu’ils représentent la plus grande menace pour ceux qui s’opposent à la liberté d’expression et estiment que seuls les modèles d’IA frontier qui régurgitent le « discours approuvé » seront autorisés à l’usage humain.

Ils veulent « nous protéger tous » en s’assurant que nous n’avons pas accès à la vérité. Non merci.

Nous sommes plus intelligents que ça.

Non seulement ce « conseil de gouvernance » constitue une menace pour les fondements de la démocratie et de cette république… mais c’est également un mécanisme anticoncurrentiel qui ralentirait le développement et l’accès à cette puissante technologie.

Pensons-nous que la Chine, l’Iran, la Russie, la Corée du Nord ou tout autre adversaire accepterait d’être soumis aux mêmes normes ?

Aucune chance.

Et eux non plus ne ralentissent pas.

La meilleure défense, c’est l’attaque.

C’est pourquoi la dernière annonce de New York, dévoilée hier, relève de la pure folie.

Le Cadeau de New York à Pékin

New York interdit le développement de tous les centres de données utilisant 50 mégawatts ou plus.
Source : CNBC

La sécurité ne réside pas dans les structures de gouvernance. Je veux dire, même si vous avez un conseil de gouvernance, il ne ferait probablement pas ce qu’il faut au moment décisif.

Il a raison là-dessus.

Et lorsque l’argent, le pouvoir, le contrôle et la politique entrent en jeu, non seulement la bonne chose ne sera pas faite, mais c’est généralement l’inverse qui se produira.

Besoin d’exemples ?

Qu’en est-il de la pandémie ?

Ou des nouvelles « règles » que la grande finance a mises en place après avoir provoqué la crise financière de 2008 ?

Les grandes banques exercent aujourd’hui encore plus de contrôle sur le secteur.

Ou que dire de la capture réglementaire de la FDA et du système médical par Big Pharma, d’ailleurs ?

Ou des efforts acharnés des grandes banques pour torpiller l’adoption du CLARITY Act sur les actifs numériques afin de « nous protéger tous » ? Le fait est que les modèles d’IA open source n’ont pas besoin d’un organisme de normalisation pour les approuver.

Par définition, c’est de l’open source et cela peut être inspecté.

Les poids sont des informations publiques.

Et même les systèmes fermés peuvent être évalués pour déterminer s’ils sont dignes de confiance ou non.

Le simple fait que nous vivions un développement technologique à un rythme que nous ne comprenons pas encore pleinement… ne signifie pas que nous avons besoin de quelque chose s’apparentant au « Parti » d’Orwell dans 1984 pour réguler ou contrôler le développement technologique.

Ce serait le début de la fin.

Nous en avons déjà frôlé dangereusement le bord aux États-Unis, et le Royaume-Uni y est malheureusement déjà.

Nous devons rester méfiants envers quiconque fait de la vertu en voulant simplement « nous protéger ». Ce n’est jamais la finalité réelle.

Jamais.