Les législateurs américains envisagent des audits indépendants de l’IA

Les législateurs américains envisagent de recourir à des audits indépendants de l’IA afin de tester les modèles puissants sans dépendre uniquement des entreprises qui les développent. La question centrale n’est plus simplement de savoir si l’IA de pointe nécessite un examen plus approfondi, mais qui doit mener cet examen, qui doit définir les normes et si un audit externe peut se substituer à un contrôle direct de l’État.

Le débat a pris une importance concrète depuis qu’OpenAI soutient une proposition fédérale bipartisane sur les audits, que la Californie élabore le premier cadre étatique pour des évaluations indépendantes de l’IA et que les défenseurs de la sécurité réclament des règles fédérales contraignantes. D’importants désaccords subsistent toutefois : certains responsables politiques considèrent l’examen par des tiers comme un niveau de contrôle viable, tandis que d’autres estiment que les systèmes les plus avancés doivent obligatoirement être examinés par l’État avant leur mise à disposition.

Pourquoi les audits indépendants de l’IA gagnent du soutien à Washington

Réponse directe : les audits indépendants de l’IA permettraient à des évaluateurs externes qualifiés d’examiner les grands modèles de langage au regard d’exigences de sécurité définies et de communiquer leurs conclusions à d’autres acteurs que l’entreprise ayant développé le système. Le Congrès envisage cette approche parallèlement à un contrôle direct de l’État, à des évaluateurs intégrés au sein des laboratoires d’IA et à des évaluations préalables à la mise à disposition.

Le contrôle indépendant séduit les législateurs parce qu’il répond à une faiblesse évidente de l’autoévaluation volontaire. Un développeur peut posséder une connaissance technique approfondie de son propre modèle, mais il a également un intérêt commercial à le déployer. Un évaluateur externe pourrait apporter un point de vue distinct sur la rigueur suffisante ou non des tests et sur la communication complète ou non des risques connus.

Cette idée fondamentale s’est imposée au cœur des discussions fédérales sur la politique en matière d’IA. Des articles d’Axios, de Roll Call et de WIRED citent les audits indépendants, les évaluateurs intégrés et les évaluations préalables à la mise à disposition parmi les principaux dispositifs de contrôle envisagés par le Congrès et la Maison-Blanche.

Le débat politique est également influencé par des signalements d’incidents de piratage survenus lors de tests d’IA et par des craintes plus générales liées à la sécurité nationale face aux modèles puissants. Ces préoccupations ont renforcé les arguments en faveur d’un examen mené par des personnes ou des institutions qui ne sont pas sous le contrôle du développeur d’un modèle.

La sénatrice Elizabeth Warren a appelé à « des tests indépendants et de véritables mesures de protection », affirmant que les législateurs devaient cesser de supposer que le secteur pouvait s’autoréguler et établir plutôt des normes fédérales pour le peuple américain.

Son argument résume l’un des aspects du débat : l’indépendance est précieuse parce qu’elle permet de remettre en question les hypothèses et les intérêts d’un développeur. Toutefois, l’indépendance ne suffit pas à répondre aux questions de mise en œuvre les plus difficiles. Le Congrès devrait encore décider quels systèmes sont concernés, ce que les auditeurs doivent tester, comment les conclusions sont transmises aux autorités de réglementation et ce qui se passe lorsqu’une évaluation révèle un problème grave.

L’expression « audit de l’IA » peut également masquer d’importantes différences. Un examen limité pourrait simplement confirmer qu’une entreprise a suivi sa propre procédure documentée. Un cadre plus robuste mesurerait un modèle au regard d’exigences définies de manière externe. Les responsables politiques doivent donc déterminer si un audit constitue seulement une vérification des procédures internes ou un examen contraignant lié à des normes de sécurité publique.

Ce que change le soutien d’OpenAI à la loi FRONTIER

OpenAI a publiquement apporté son soutien à la loi bipartisane FRONTIER, qui obligerait les plus grandes entreprises d’IA à soumettre leurs grands modèles de langage à des audits indépendants. Selon les informations disponibles, il s’agit du premier soutien public de l’entreprise à une obligation fédérale imposant des évaluations de l’IA par des tiers.

Ce soutien est politiquement notable, car un développeur majeur accepte le principe selon lequel un examen externe doit être obligatoire plutôt qu’entièrement volontaire. Il fournit aux partisans des audits indépendants de l’IA l’exemple d’une grande entreprise soutenant une évaluation fédérale par des tiers, alors même que les législateurs continuent de débattre du degré de rigueur et de la structure appropriés de ce contrôle.

Dans l’article de CBS News consacré à la position d’OpenAI, un représentant de l’entreprise a déclaré que l’effort de contrôle « commence par nous et par les entreprises ». Cette formulation reflète une approche favorable au secteur, dans laquelle l’État et les développeurs participent ensemble à la création de mesures de protection.

« Cela commence par nous et par les entreprises. »

Le soutien à une obligation d’audit ne règle toutefois pas la question de savoir qui contrôle le système. Un développeur pourrait accepter des tests externes tout en cherchant à influencer le choix des évaluateurs, les méthodes d’évaluation, les conditions d’accès ou le traitement des résultats. Les conséquences politiques dépendent des détails de l’obligation, et pas seulement de la présence du mot « indépendant » dans la législation.

Pourquoi le soutien des entreprises compte sans être décisif

Les entreprises d’IA possèdent les modèles, l’infrastructure technique et l’expertise interne nécessaires à la réalisation de tests sophistiqués. Leur coopération peut permettre aux évaluateurs d’accéder aux systèmes concernés et les aider à comprendre la conception et le comportement attendu d’un modèle.

Dans le même temps, le contrôle vise précisément à vérifier les affirmations de ces entreprises. Si les développeurs peuvent définir les normes, choisir les questions ou limiter la communication des résultats défavorables, un examen prétendument indépendant pourrait reproduire les faiblesses de l’autorégulation.

Le soutien d’OpenAI fait donc progresser le débat sans y mettre fin. Les législateurs doivent encore trancher plusieurs questions :

• Quelles entreprises et quels modèles seraient suffisamment importants ou performants pour relever de l’obligation fédérale ?
• Qui agréerait, enregistrerait ou superviserait les auditeurs indépendants ?
• L’État établirait-il des normes contraignantes ou les auditeurs évalueraient-ils le respect de pratiques définies par les entreprises ?
• Les tests auraient-ils lieu avant la mise à disposition, après le déploiement ou à plusieurs étapes ?
• Qui recevrait les conclusions et dans quels délais les préoccupations importantes seraient-elles portées à la connaissance des autorités publiques ?
• Quelle réponse juridique ou réglementaire suivrait une évaluation défavorable ?

Les faits présentés ne permettent pas d’établir comment la loi FRONTIER répond à chacune de ces questions. Il serait donc prématuré de considérer le soutien de l’entreprise à ce texte comme la preuve qu’un système fédéral complet d’audit a déjà été conçu. Ce soutien témoigne plutôt d’un consensus croissant autour d’une proposition fondamentale : les plus grands développeurs d’IA ne devraient pas être les seuls à juger si leurs modèles ont été testés de manière adéquate.

Audits indépendants, contrôle de l’État et évaluateurs intégrés

Le Congrès n’envisage pas un modèle unique de contrôle. Des informations récentes décrivent au moins trois options majeures : les audits indépendants menés par des tiers, le contrôle direct de l’État et les évaluateurs intégrés au sein des laboratoires d’IA. L’évaluation préalable à la mise à disposition peut faire partie de plusieurs de ces approches.

Ces modèles ne sont pas nécessairement incompatibles. Chacun offre une combinaison différente d’accès, d’autorité, de spécialisation technique et de distance par rapport au développeur.

Audits indépendants menés par des tiers

Selon le concept général actuellement à l’étude, une organisation extérieure à l’entreprise d’IA évaluerait un modèle concerné. Ce dispositif pourrait accroître les capacités d’évaluation au-delà de celles de l’État et créer un marché spécialisé dans les tests et la vérification des modèles.

Le principal avantage réside dans la séparation organisationnelle. Un évaluateur externe peut être mieux placé pour remettre en question les conclusions d’un laboratoire, comparer les éléments de preuve à une norme commune et documenter les lacunes que les équipes internes pourraient négliger ou interpréter différemment.

La limite tient au fait qu’un auditeur privé ne dispose pas automatiquement de l’autorité publique. Son indépendance peut également dépendre de l’entité qui l’engage, de celle qui le rémunère, de la gestion des contrats récurrents et de sa capacité à communiquer directement avec les autorités de réglementation. Ces modalités de gouvernance peuvent déterminer si un audit constitue une véritable mesure de protection ou un simple exercice limité de conformité.

Contrôle direct de l’État

Le contrôle direct placerait l’État lui-même au cœur du processus d’évaluation. Le représentant Josh Gottheimer a affirmé que « les audits menés par des tiers ne suffisent pas à répondre aux enjeux actuels » et que les systèmes d’IA les plus avancés devraient obligatoirement faire l’objet d’un contrôle de l’État.

Cette approche donnerait aux autorités publiques un contrôle plus direct sur les exigences en matière de tests et sur les décisions réglementaires. Elle réduirait également la dépendance à l’égard d’un évaluateur privé pour déterminer quelles conclusions doivent être transmises à un niveau supérieur.

Le contrôle de l’État comporte ses propres exigences pratiques. Un programme crédible nécessiterait une expertise pertinente, un accès fiable aux systèmes avancés et la capacité de suivre l’évolution des performances des modèles. Les faits fournis ne permettent pas d’établir comment le Congrès doterait un tel programme en personnel ni comment il le ferait fonctionner ; toute affirmation sur sa rapidité, son coût ou son efficacité probables relèverait donc de la spéculation.

Évaluateurs intégrés au sein des laboratoires d’IA

Les évaluateurs intégrés travailleraient au sein des laboratoires ou à leurs côtés, ce qui leur donnerait un accès plus étroit aux systèmes pendant leur développement. Cette proximité pourrait les aider à observer plus tôt les pratiques de test et les préoccupations émergentes qu’un examen externe réalisé à un moment précis.

Mais la proximité physique ou opérationnelle n’est pas synonyme d’indépendance institutionnelle. Le Congrès devrait déterminer à qui les évaluateurs intégrés rendent compte, si un laboratoire peut restreindre leur travail et comment ils peuvent faire remonter leurs préoccupations sans l’accord de l’entreprise.

Évaluations préalables à la mise à disposition

Les tests préalables à la mise à disposition concentrent l’examen sur la période qui précède l’accès généralisé à un modèle. Leur intérêt politique est évident : examiner les risques graves avant le déploiement peut permettre d’y remédier avant que l’exposition ne s’étende.

Une évaluation préalable à la mise à disposition constitue néanmoins un choix de calendrier plutôt qu’une structure de contrôle complète. Elle pourrait être menée par un auditeur indépendant, une équipe gouvernementale, un évaluateur intégré ou une combinaison de ces intervenants. Elle ne peut pas non plus nécessairement anticiper toutes les utilisations d’un système après sa mise à disposition, ce qui fait du signalement continu et des réévaluations ultérieures des éléments pertinents à prendre en compte dans la conception du dispositif.

Un dispositif à plusieurs niveaux pourrait, en définitive, être plus crédible que le fait de considérer ces concepts comme des solutions strictement concurrentes. Des spécialistes indépendants pourraient mener des évaluations techniques, du personnel intégré pourrait observer le développement et des responsables publics pourraient définir des règles contraignantes et prendre les décisions d’application. La question de savoir si le Congrès adoptera une telle combinaison reste en suspens.

Ce dont aurait besoin un cadre fédéral crédible d’audit de l’IA

Le principal désaccord ne porte pas sur l’utilité des tests, mais sur la conception institutionnelle qui les encadre. Des groupes spécialisés dans la sécurité et les politiques publiques ont exhorté les législateurs à rendre les audits obligatoires, à habiliter l’État plutôt que les entreprises d’IA à fixer des normes contraignantes et à exiger que les auditeurs communiquent leurs conclusions en temps réel à l’État ou à une entité indépendante.

Ces recommandations distinguent trois fonctions politiques : la définition des normes, l’évaluation technique et l’application des règles. Les regrouper sous l’étiquette générale d’audit peut masquer l’identité de l’acteur responsable de chaque décision.

1. Définir les systèmes nécessitant un examen renforcé. Un cadre fédéral aurait besoin d’une méthode claire pour identifier les modèles soumis à un contrôle obligatoire. La loi FRONTIER est présentée comme s’appliquant aux plus grandes entreprises d’IA et à leurs grands modèles de langage, mais les faits fournis ne donnent pas de seuil détaillé pour en déterminer le champ d’application.
2. Définir des exigences indépendamment du développeur. Un auditeur a besoin d’un référentiel externe pour évaluer les éléments de preuve. Les groupes de défense de la sécurité estiment que l’État devrait fixer des normes contraignantes au lieu de permettre aux entreprises de définir leurs propres obligations.
3. Protéger l’indépendance des évaluateurs. Les règles devraient encadrer leur sélection, leurs qualifications, leurs relations financières et les conflits d’intérêts. L’indépendance devrait constituer une véritable condition d’exercice, et non une simple étiquette apposée à un prestataire d’évaluation.
4. Fournir un accès suffisant. Les évaluateurs ne peuvent pas examiner sérieusement un modèle puissant si leur accès est limité à des démonstrations ou à des éléments de preuve sélectionnés par le développeur. Les règles précises d’accès ne sont pas établies dans les faits fournis, mais l’efficacité de tout audit dépend logiquement des preuves et des possibilités de test mises à disposition.
5. Créer un canal de signalement direct. La coalition de groupes spécialisés dans la sécurité et les politiques publiques préconise un signalement en temps réel à l’État ou à une entité indépendante. Cela réduirait le risque que des conclusions importantes restent confinées à la relation privée entre une entreprise et son auditeur.
6. Relier les conclusions aux décisions. Le Congrès devrait déterminer les suites à donner à une préoccupation grave. Une évaluation dépourvue de procédure de réponse peut produire des informations sans pour autant créer une mesure de protection.
7. Tenir compte des changements postérieurs à l’évaluation. Les modèles, leurs conditions de déploiement et leurs modes d’utilisation peuvent évoluer. Les responsables politiques doivent décider si le contrôle doit constituer une étape ponctuelle, un processus continu ou les deux.

L’indépendance exige plus qu’une simple externalisation

Le recours à un tiers ne suffit pas, à lui seul, à rendre une évaluation indépendante. Si l’entreprise contrôlée maîtrise le périmètre de l’audit, l’accès de l’auditeur ainsi que sa capacité à publier ou à signaler ses préoccupations, l’évaluateur peut rester limité malgré son indépendance organisationnelle.

Un critère plus pertinent consiste à déterminer si l’auditeur peut tirer ses propres conclusions en s’appuyant sur des normes qu’il n’a pas négociées avec l’entreprise, obtenir les informations nécessaires à son travail et communiquer ses conclusions importantes à une autorité publique. Ces caractéristiques distingueraient un contrôle dans l’intérêt public d’un examen ordinaire réalisé par un prestataire.

Les normes et les tests sont deux choses différentes

L’État n’a pas nécessairement besoin d’effectuer lui-même chaque test technique pour conserver son autorité. Il pourrait définir des normes obligatoires et autoriser des organisations externes qualifiées à mener les évaluations. À l’inverse, une équipe gouvernementale pourrait tester directement les systèmes tout en s’appuyant sur une expertise spécialisée.

Cette distinction est importante, car une grande partie du désaccord politique porte sur le contrôle. Les auditeurs indépendants peuvent apporter des capacités techniques, mais les législateurs élus et les organismes responsables devraient toujours déterminer le niveau de risque acceptable et les conséquences d’un non-respect des exigences.

La transparence doit être conciliée avec des impératifs légitimes de confidentialité

La responsabilité publique n’exige pas que chaque détail technique soit divulgué sans restriction. Les évaluations des modèles de pointe peuvent porter sur des conclusions sensibles en matière de sécurité, des informations exclusives ou des méthodes susceptibles d’être détournées si elles ne sont pas traitées avec précaution.

Le Congrès peut donc établir une distinction entre la communication aux autorités compétentes et la divulgation au grand public. L’appel des groupes de défense de la sécurité en faveur d’un signalement en temps réel à l’État ou à une entité indépendante vise à garantir que les conclusions parviennent à un destinataire responsable, même lorsqu’une diffusion publique sans restriction serait inappropriée.

Les faits disponibles ne précisent aucun régime de divulgation. Toute affirmation selon laquelle les propositions actuelles garantissent soit une transparence totale, soit une confidentialité absolue irait au-delà des éléments fournis.

Comment les règles californiennes relatives aux audits indépendants de l’IA pourraient influencer le Congrès

La Californie est devenue le premier État américain à imposer des audits indépendants de l’IA. Le gouverneur Gavin Newsom a promulgué, le 10 septembre 2026, des lois établissant un cadre pour des audits et des évaluations indépendants des systèmes d’IA menés par des tiers.

Le cadre de l’État prévoit également la création d’un registre des auditeurs de l’IA d’ici au 1er janvier 2029. Des analystes et des groupes de défense estiment que les règles californiennes pourraient servir de modèle aux propositions fédérales, notamment à celles qui font intervenir des organismes de vérification indépendants.

Un registre répond à l’une des premières questions institutionnelles d’un système d’audit : qui est reconnu comme auditeur de l’IA ? Il peut créer une voie d’accès officielle pour les organismes de vérification, au lieu de laisser les entreprises qualifier n’importe quel consultant d’évaluateur indépendant.

L’enregistrement ne constitue toutefois pas une preuve d’efficacité. La valeur d’un registre dépend des conditions d’admissibilité, du contrôle, des règles relatives aux conflits d’intérêts et des conséquences qui lui sont associées. Les faits fournis confirment le cadre du registre et son échéance, mais ne donnent aucun détail sur son fonctionnement.

Pourquoi un modèle étatique compte à l’échelle nationale

Le cadre californien fournit aux législateurs fédéraux une structure politique concrète à examiner. Le Congrès peut déterminer si l’enregistrement favorise la compétence et l’indépendance des auditeurs, si un système similaire pourrait fonctionner à l’échelle nationale et comment les règles fédérales s’articuleraient avec les obligations des États.

L’approche de l’État pourrait également faire évoluer le débat au-delà d’une simple opposition entre partisans et adversaires des audits. Dès lors qu’un registre des auditeurs est envisagé, les responsables politiques doivent se pencher sur les qualifications professionnelles, la supervision et la responsabilité. Ce sont ces questions qui détermineront si la vérification par des tiers devient une institution durable.

Il existe des raisons évidentes pour lesquelles les législateurs fédéraux pourraient néanmoins choisir une autre architecture. Le développement de l’IA de pointe et les préoccupations liées à la sécurité nationale dépassent le cadre d’un seul État, et les responsables politiques fédéraux envisagent le contrôle direct de l’État et l’évaluation intégrée en plus des audits privés. La Californie peut servir de point de référence sans trancher le débat national.

• Enseignement potentiel pour le gouvernement fédéral : la vérification indépendante peut nécessiter un groupe reconnu d’auditeurs plutôt qu’une sélection ponctuelle par les entreprises.
• Question en suspens : l’enregistrement ne suffit pas à déterminer ce que les auditeurs doivent tester ni comment leurs conclusions doivent être communiquées.
• Question de compétence : le Congrès doit décider si la législation fédérale complète les cadres étatiques ou crée une structure nationale distincte.
• Question de responsabilité : un système fédéral devrait toujours désigner l’autorité chargée des normes et de leur application.

Le statut de pionnière de la Californie signifie également que son cadre attirera l’attention de ses partisans comme de ses détracteurs. Ses défenseurs peuvent y voir la preuve que les exigences relatives aux audits indépendants peuvent être inscrites dans la loi. Ses détracteurs peuvent se demander si un modèle fondé sur les auditeurs est suffisamment robuste pour les systèmes les plus avancés ou si les autorités publiques doivent jouer un rôle plus direct.

Pourquoi les incidents impliquant des modèles de pointe ont accru les enjeux

Le débat sur les audits intervient dans un contexte de préoccupations concernant les puissants modèles de pointe, notamment de récents incidents de piratage survenus pendant des tests d’IA et des craintes plus générales liées à la sécurité nationale. La couverture de ces préoccupations a intensifié les appels en faveur d’un contrôle indépendant plutôt que d’une dépendance exclusive à l’égard des affirmations internes en matière de sécurité.

Les incidents survenus pendant les tests sont particulièrement pertinents pour la conception du contrôle, car ils mettent en évidence l’intérêt d’examiner non seulement le comportement attendu du modèle, mais aussi la résistance des environnements de test, des contrôles d’accès et des processus d’évaluation lorsqu’ils sont soumis à des pressions. Les informations fournies ne sont pas suffisamment détaillées pour caractériser les différents incidents, attribuer les responsabilités ou quantifier leurs répercussions.

Les préoccupations liées à la sécurité nationale compliquent également l’hypothèse selon laquelle un audit commercial ordinaire serait suffisant. Lorsque les conséquences potentielles dépassent l’entreprise et ses clients, les législateurs peuvent estimer que l’État doit avoir directement accès aux conclusions et disposer d’une autorité sur la réponse à y apporter.

Ce que les audits peuvent apporter

Une évaluation correctement conçue peut créer un processus documenté et reproductible permettant d’examiner les éléments de preuve et d’identifier les faiblesses. Elle peut également fournir aux décideurs une analyse qui n’est pas produite exclusivement par le laboratoire souhaitant mettre le modèle à disposition.

Un examen indépendant peut être particulièrement utile pour remettre en question les hypothèses internes. Les développeurs connaissent bien leurs systèmes, mais un évaluateur externe peut poser d’autres questions, tester les affirmations sous un angle différent et déterminer si les éléments de preuve étayent les conclusions déclarées de l’entreprise.

Les audits peuvent également renforcer la responsabilité grâce à la tenue de dossiers. Si les normes, les méthodes et les conclusions sont documentées, les autorités de réglementation disposent d’une base plus claire pour déterminer si une procédure obligatoire a bien été suivie et si les préoccupations ont été transmises au niveau approprié.

Ce que les audits ne peuvent pas garantir

Aucune évaluation ne peut établir qu’un système complexe sera inoffensif dans toutes les situations futures. Les modèles peuvent être utilisés dans des contextes imprévus, associés à d’autres outils ou exposés à des comportements qui n’étaient pas représentés lors des tests.

Un audit constitue donc un élément de preuve à un moment donné d’un processus de contrôle, et non un certificat universel de sécurité. Considérer une évaluation réussie comme une approbation permanente reviendrait à exagérer ce que tout exercice de test peut démontrer.

La qualité des auditeurs peut également varier. Un cadre fédéral aurait besoin de mécanismes permettant de distinguer les évaluateurs rigoureux des organisations qui proposent un examen superficiel. Le registre prévu par la Californie illustre une réponse institutionnelle possible, tandis que les défenseurs d’une action fédérale insistent sur des normes définies par l’État et sur des obligations de signalement.

Enfin, les auditeurs identifient et communiquent généralement leurs conclusions ; les autorités publiques décident des comportements exigés. Si le Congrès souhaite que les résultats des audits influencent les décisions de déploiement, il doit relier les évaluations à des règles contraignantes au lieu de supposer que la seule divulgation entraînera une action.

Les choix fondamentaux qu’il reste au Congrès à effectuer

Le débat en cours peut être compris comme une succession de décisions plutôt que comme un choix binaire entre réglementation et absence de réglementation. Les audits indépendants de l’IA bénéficient désormais d’un soutien visible, mais leurs conséquences dépendront de la manière dont les législateurs répondront à plusieurs questions liées entre elles.

Qui rédige les règles de sécurité ?

Les groupes de défense de la sécurité sont favorables à des normes contraignantes fixées par l’État. Cette position distingue l’expertise technique de l’autorité démocratique et juridique : les entreprises et les évaluateurs peuvent apporter leur savoir-faire, mais ils ne détermineraient pas eux-mêmes leurs obligations minimales.

Un modèle centré sur le secteur pourrait être plus flexible, mais il soulèverait également le problème de l’autorégulation évoqué par Warren. Si chaque développeur définit différemment les performances acceptables, un audit pourrait valider le respect de référentiels incohérents ou choisis par les entreprises elles-mêmes.

Qui réalise l’évaluation ?

Les options comprennent les organismes de vérification indépendants, les évaluateurs gouvernementaux et le personnel intégré aux laboratoires. Le Congrès pourrait choisir un modèle principal ou en combiner plusieurs en fonction des performances et du profil de risque du système examiné.

La critique de Gottheimer fixe une limite claire à l’approche reposant sur des tiers : pour les systèmes les plus avancés, il estime qu’un contrôle de l’État devrait être obligatoire. Cette position ne rend pas nécessairement l’expertise externe inutile, mais elle rejette l’idée selon laquelle une évaluation privée suffirait à elle seule.

À quel moment l’examen a-t-il lieu ?

L’évaluation préalable à la mise à disposition fait partie des idées qui retiennent l’attention à Washington. Les tests réalisés avant le déploiement peuvent éclairer une décision de mise à disposition, tandis que le contrôle postérieur peut prendre en compte les comportements et les utilisations qui n’apparaissent qu’ultérieurement.

Les faits fournis ne permettent pas d’établir un calendrier ou un critère de déclenchement définitif au niveau du Congrès. Les législateurs doivent encore décider si les évaluations doivent avoir lieu une seule fois, lors des principales étapes du développement, avant la mise à disposition ou dans le cadre d’un suivi continu.

À qui les conclusions graves sont-elles transmises ?

La coalition de groupes spécialisés dans la sécurité et les politiques de l’IA souhaite que les auditeurs rendent compte en temps réel à l’État ou à une entité indépendante. Cette proposition considère la transmission des alertes comme une composante essentielle du système, au lieu de laisser les conclusions au sein d’une relation confidentielle entre l’entreprise et l’auditeur.

Le Congrès devrait encore définir ce qui doit faire l’objet d’un signalement immédiat et quelle institution doit en être destinataire. Ces détails influent à la fois sur la réactivité et sur la responsabilité, notamment lorsque les conclusions ont des implications pour la sécurité nationale.

Que se passe-t-il après une évaluation défavorable ?

Une obligation de test a une portée limitée si elle n’est pas reliée à une décision. Les législateurs doivent déterminer si les conclusions entraînent des tests supplémentaires, des mesures correctives obligatoires, un examen gouvernemental ou une autre réponse réglementaire.

Les faits présentés ici ne définissent aucune échelle précise de sanctions. La distinction importante se situe entre un audit purement informatif et un audit intégré dans un cadre de contrôle contraignant.

Alors que les législateurs comparent les différentes options, cinq principes peuvent aider à clarifier les enjeux politiques :

• L’indépendance doit être mesurée à l’aune de l’autorité, de l’accès et de la liberté de signalement, et pas seulement selon que l’évaluateur travaille ou non pour une organisation distincte.
• L’évaluation technique et la responsabilité de l’État peuvent se compléter plutôt que s’opposer.
• Les tests préalables à la mise à disposition peuvent réduire l’incertitude, mais ils ne peuvent pas anticiper chaque utilisation ou défaillance postérieure au déploiement.
• Les registres d’auditeurs peuvent favoriser la qualification et le contrôle, mais ils ne remplacent pas des normes de test substantielles.
• Le signalement obligatoire et les réponses contraignantes déterminent si les conclusions entraînent des mesures significatives.

Les audits indépendants de l’IA sont passés du statut de concept politique à celui d’élément central du débat fédéral sur le contrôle. Le soutien d’OpenAI à la loi FRONTIER apporte au projet l’appui du secteur, l’appel de Warren en faveur de tests indépendants renforce les arguments en faveur de normes fédérales et le cadre d’audit californien offre aux législateurs un modèle étatique émergent.

La question non résolue est de savoir si le Congrès considérera les audits externes comme la principale mesure de protection ou comme un niveau parmi d’autres dans un système plus large comprenant le contrôle de l’État, les évaluateurs intégrés et les évaluations préalables à la mise à disposition. Le principal enseignement est qu’une obligation d’audit ne sera crédible qu’à la mesure de ses normes, de l’indépendance de ses évaluateurs, de ses règles d’accès, de ses canaux de signalement et de ses conséquences contraignantes.