Trente jours d'examen obligatoire avant de déployer un modèle de frontière
— ÉTHIQUE
Demis Hassabis préconise un délai d'inspection systématique de trente jours avant la mise en production de tout modèle de frontière. Cette période d'examen critique viserait à renforcer les garde-fous de sécurité face à des systèmes d'IA toujours plus puissants et imprévisibles.
Wall Street a ses contrôleurs, ses seuils, ses passages obligés avant qu'un produit n'atteigne le public. L'intelligence artificielle, elle, sort sans visa. Demis Hassabis, patron de Google DeepMind, veut corriger ce déséquilibre en important dans le logiciel une logique empruntée aux marchés financiers.
Son idée tient dans un organisme de normalisation américain, chargé d'évaluer les modèles les plus puissants avant leur commercialisation. Un partenariat public-privé, calqué sur la FINRA, l'autorité qui surveille les marchés outre-Atlantique. Au centre, un conseil mêlant experts techniques indépendants et voix de l'open source. Le financement, lui, reposerait pour l'essentiel sur l'industrie elle-même.
Le dispositif s'appuie sur un seuil de capacités. Au-delà, un modèle devient « de frontière » et son éditeur, un « laboratoire de frontière ». Statut assorti d'obligations: publier des fiches techniques, sécuriser ses systèmes internes, vérifier ses personnels, investir dans la recherche en sûreté. Et une durée qui donne son nom à la proposition — trente jours d'examen avant la mise en ligne. Volontaire au départ. Obligatoire ensuite, pour accéder au marché américain.
L'examen viserait le pire des scénarios: cybersécurité, menaces biologiques, usages à haut risque. Les systèmes agentiques feraient l'objet de tests dédiés, pour repérer une capacité à contourner les garde-fous ou des signaux de tromperie. Le filet serait large: modèles ouverts ou fermés, quelle que soit leur origine. Seuls les modèles ordinaires des start-ups et du monde académique y échapperaient.
La justification tient en une ligne: les capacités progressent plus vite que la compréhension qu'on en a. Reste une inconnue de taille. Un examinateur financé par ceux qu'il doit examiner pèse-t-il encore quelque chose le jour où il faut refuser une sortie?