Risque Cyber et données

Dans un monde de plus en plus incertain, la question de la sécurité numérique devient pressante. Trois grands enjeux se dégagent pour l'université : le risque cyber, la gestion des données et la dépendance logicielle.

Concernant le risque cyber, nous donnerons à l'UPEC les capacités de limiter les risques d'une attaque telle que celle subie par Paris-Saclay. Il s'agit d'un investissement dont la rentabilité reste idéalement invisible, mais qu'on regrette de n'avoir pas fait le jour où une attaque réussit. Une acculturation aux bonnes pratiques devra être menée de façon continue et permanente, car la vulnérabilité vient souvent d'une erreur humaine. La question de l'assurance contre le risque cyber sera également étudiée en détail.

Concernant la gestion des données, notre but est à la fois éthique et pratique. Nous souhaitons mieux faire connaître le rôle de Délégué·e à la Protection des Données (DPO) et fournir une information claire et utilisable pour une bonne gestion des données, qui assure à la fois la protection des informations personnelles et leur utilisabilité, dans le respect du RGPD. Les systèmes d'informations seront progressivement améliorés, avec une interopérabilité renforcée là où elle est la plus utile. Enfin, nous développerons l'accompagnement à l'ouverture des données et publications afin que la recherche de l'UPEC soit la plus accessible possible et donc la plus utile : développement et amélioration de l'usage de HAL, des archives ouvertes thématiques internationales (telles arXiv ou SSOARR) et des entrepôts de données de la recherche en s'appuyant notamment sur la loi numérique de 2016. L'échange de bonnes pratiques permettra de faciliter le travail collectif en s'assurant que les données HAL sont fiables et à jour pour les évaluations par exemple. L'Atelier de la donnée est une initiative louable, mais nécessite d'y consacrer des moyens adaptés à sa tâche.

La dépendance à des logiciels contrôlés par des entités privées n'est pas non plus à négliger, comme l'illustre l'exemple récent de la Cour Pénale Internationale. Nous prônons donc une orientation vers les logiciels libres, qui garantissent la meilleure indépendance possible, notamment en cas de tensions géopolitiques renforcées. Ce point mérite d'être approfondi dans son propre paragraphe.

Logiciels libres

Dans un premier temps, il s'agira de faciliter leur utilisation et d'appronfondir les compétences en ce sens : affichage des coût de logiciel, proposition d'alternatives, ordinateurs avec double système (dual boot) permettant de tester Linux sans quitter d'un seul coup Windows ou MacOS, abonnement à des plateformes fonctionnant sous logiciel libre (Overleaf pour l'utilisation collaborative de LaTeX par exemple).

Progressivement, le passage à des solutions libres sera privilégié (par exemple le stockage en ligne et partage de fichiers par Nextcloud en abandonnant progressivement Onedrive, recherche d'une solution libre pour les messageries, etc.). L'idée reste que les utilisateurs et utilisatrices soient au centre, en gardant les solutions propriétaires là où elles sont indispensables, tout en accompagnement au changement là où il est possible. Ces changements permettront progressivement de renforcer les services grâce à la réduction des coûts logiciels.

Dans le même esprit la visioconférence, en plus de s'appuyer sur des solutions libres, devra faire l'objet d'un cadrage notamment pour l'enseignement, la modalité distancielle n'étant pas une solution durable aux problèmes structurels de locaux ou de personnel.

Intelligence artificielle générative

Commençons par dresser un bref aperçu des IA génératives, terme sous lequel on regroupe les grands modèles de langage (ChatGPT, Copilot, etc.) ainsi que les modèles générant des images ou des musiques par exemple, et plus récemment les modèles agentiques, qui génèrent des décisions et des actions numériques (effacer des messages électroniques, inscrire un évènement sur un agenda ou réorganiser des données par exemple). Si l'on en croit les vendeurs de ces technologies, on serait face à une nouvelle révolution industrielle permettant d'énormes gains de productivité ; mais si on regarde l'ensemble des effets tangibles de ces technologies, le tableau est moins optimiste.

En terme de coûts tout d'abord : collectifs, avec l'accaparement d'eau, d'énergie, de matériel ; mais aussi à l'échelle des usagères et usagers avec une bascule en cours de l'abonnement vers un prix à l'usage, et des factures qui promettent de s'envoler pour non seulement rentabiliser les investissements énormes déjà effectués, mais aussi les investissements futurs qui sont planifiés.

En terme de pouvoir et de souveraineté ensuite : ces outils sont contrôlés par un très petit groupe d'entreprises et d'individus à leur têtes, principalement situés hors d'Europe. En être dépendant hypothèque donc notre autonomie, pour toutes les tâches que nous leur déléguons.

En terme d'efficacité et de compétence ensuite : malgré des succès, les gains de productivité se font attendre et s'accompagnent d'une perte de compétence. Dans beaucoup de cas, au lieu de nous libérer des tâches rébarbatives, l'IA générative nous assigne à un rôle ingrat de vérification et correction d'une production de basse qualité.

Notre politique vise à l'autonomie des personnes qui font l'université, c'est-à-dire les étudiantes et étudiants et les personnels : ni interdiction de l'IA, ni imposition, mais un cadre pour ses usages éventuels :

  • Nous ne comptons pas sur l'IA générative pour résoudre la surcharge administrative, mais sur des procédures adaptées, un personnel suffisant et le choix des outils numériques les plus utiles pour chaque cas d'usage.
  • Pour limiter autant que possible les pertes d'apprentissages consécutives à l'usage de l'IA générative parmi les étudiantes et étudiants, nous avons tous commencé à adapter nos pratiques d'évaluation ; ce mouvement est à approfondir et organiser collectivement. Le principe de production personnelle exclut notamment la rédaction de devoirs, rapports, mémoires par IA générative. L'usage d'outils de détection sera considéré, en mettant en balance leurs avantages et leurs inconvénients, et les détecteurs d'onde permettrons de limiter la fraude aux examens sur table. En parallèle, des changements de modalités d'évaluation seront encouragés et accompagnés dans les cas où c'est matériellement possible : oraux  pour vérifier la bonne maîtrise des écrits produits, rendus des travaux finaux et des étapes intermédiaires, etc.
  • Nous souhaitons enfin développer l'IA générative comme objet de recherche interdisciplinaire, impliquant au moins l'informatique, le droit et les sciences sociales. Les impacts de l'IA générative commencent à être documentés (perte de sens et d'autonomie par exemple) mais beaucoup de travail reste à faire. Plus généralement, la recherche sur les nouvelles technologies ne doit pas être que technique, mais aussi critique : c'est précisément là que la large couverture disciplinaire de l'UPEC peut jouer un rôle majeur.
  • L'attribution de moyens au développement d'une IA générative à l'UPEC doit se voir proportionnée à une analyse précise des bénéfices qu'on peut en attendre, sans considération pour les effets de mode.