Nadella : traitez chaque modèle d'IA comme un initié compromis
Le patron du plus grand fournisseur d'IA pour les entreprises a déplacé la sûreté du fabricant du modèle vers celui qui le déploie, en sept principes.
Par La rédaction, Actualités · · 1 min de lecture
Tags: microsoft · sûreté · agents · nadella
- L'essentiel
- Le patron du plus grand fournisseur d'IA pour les entreprises a déplacé la sûreté du fabricant du modèle vers celui qui le déploie, en sept principes.
- Pourquoi cela compte
- Le directeur général de Microsoft, Satya Nadella, a publié un essai selon lequel les entreprises devraient partir du principe que les modèles d'IA sont compromis, et garder un frein d'urgence entre des mains humaines.
- Ce qui est établi
- La photographie a été générée pour cet article.
Lié à une source nommée. Non marqué comme vérifié. TechCrunch
L'actualité
Le directeur général de Microsoft, Satya Nadella, a publié un essai intitulé Models as Insider Risks in the Super Intelligence Era. Il y soutient que les entreprises qui déploient des modèles de frontière devraient les traiter comme les équipes de sécurité traitent un employé puissant qui pourrait être compromis. « Nous devons partir du principe qu'un modèle est compromis et le contenir dès le départ », a-t-il écrit, ont rapporté TechCrunch et CNBC. « Voyez cela comme un frein d'urgence. »
Pourquoi c'est important
Ce cadre place les contrôles hors du modèle, dans les journaux, les harnais et les interrupteurs d'arrêt, et il apparaîtra probablement dans les listes de contrôle des achats des entreprises.
Les détails
Nadella énumère sept principes, notamment séparer le modèle du harnais qui l'orchestre, des journaux infalsifiables de chaque action significative, une auditabilité indépendante, la divulgation des incidents, et le confinement, un humain autorisé devant toujours pouvoir suspendre ou arrêter un modèle en cours de tâche.
Quelques jours plus tard, le président de Microsoft, Brad Smith, a déclaré à la BBC que les engagements volontaires ne suffisent pas. Il a appelé à des règles mondiales contraignantes de sûreté de l'IA, à une approbation extérieure avant la publication et à des interrupteurs d'arrêt, a rapporté TechCrunch.
Ce que nous n'avons pas pu vérifier
- L'essai ne nomme aucun produit Microsoft, donc on ne voit pas clairement comment les principes s'appliquent à Copilot aujourd'hui.
- Nous nous sommes appuyés sur des comptes rendus du texte de l'essai.
Sources
La photographie a été générée pour cet article. Elle ne montre pas les personnes qui y sont nommées.