Bonjour à tous
Avez-vous formaliser l'utilisation de l'IA dans votre collectivité?
Des applications à me conseiller?
Merci pour votre retour
Logiciel IA
Règles du forum
Avant de poster, merci de vérifier :
Avant de poster, merci de vérifier :
- que vous êtes bien dans le forum en rapport avec le sujet que vous allez exposer (voir description sous chaque forum) ;
- si votre question n'a pas déjà été postée en utilisant la fonction recherche.
Logiciel IA
Modifié en dernier par webmestre le lun. 14 avr. 2025 20:01, modifié 1 fois.
Raison : Déplacé
Raison : Déplacé
Re: Logiciel IA
Bonjour,
Logiciel IA = Intelligence Artificielle
On en entend beaucoup parler... Elle est mise à toutes les sauces, mais il y a beaucoup plus d'annonces et de déclarations d'intention que de réalisations concrètes et éprouvées, avec.
Un élu, votre administration ou un chargé d'études du territoire enclenche un projet local, sous des conditions réglementaires précises, et dont chaque point d'analyse et chaque action prise en conséquence aura des répercussions sur les résidents, typiquement.
1. La première étape est qu'ils décrivent ce qu'il faudrait accomplir, à différents niveaux, pour réussir ce qu'ils désirent.
2. La deuxième est qu'ils traduisent à destination d'informaticiens ceux-là en "cas d'utilisation", qui sont les actions les plus courtes possibles tout en ayant un sens métier. On peut réaliser chacun et le vérifier.
3. Alors, un logiciel peut être réalisé, testé, validé, vérifié pour faire ce qu'on lui a demandé.
Comme il n'est jamais parfait, il a sa série d'anomalies attenante. Ses bugs, quoi. On les connaît, on les déplore, mais on en sait la liste.
Le problème de l'intelligence artificielle, c'est que c'est de la statistique.
Quoi qu'on fasse, quel que soit le nom joli qu'on y mette dessus, c'est de la statistique. Et chaque opération est sujette, par construction, à une erreur. Pas une erreur de calcul ou une faute de raisonnement, mais qu'on accepte par principe une imprécision. Parce qu'on a fait des moyennes typiquement, mis des valeurs dans des intervalles (dont de confiance qui disent bien ce qu'ils disent : c'est qu'on a qu'une confiance, qui n'est pas absolue, en elles), etc. Alors on perd en acuité.
Au bout d'un moment, l'on se trouve dans une situation où l'on sait qu'à mille sollicitations faites, l'intelligence artificielle elle va se tromper. Statistiquement. Le problème, c'est quand ? 30 fois, 5 ou 80 ? Ça on ne le sait pas... On ne peut pas le dire. Ça peut-être tout de suite, ça peut-être demain. Et avec quoi, sur quoi ? Il est assez souvent impossible de le dire à l'avance.
Autant pour un logiciel normal vous pouvez le cadrer, et à force de tests dire : "Bien. Sa liste de dysfonctionnements s'arrête à peu près là, et pour le reste je garantis son bon fonctionnement.", autant pour une intelligence artificielle, peut-être pouvez-vous dire : "Elle peut se tromper dans 3% des cas", et encore n'est-ce pas sûr, mais comme vous ne pouvez pas forcément dire lesquels, il vous faut dans l'absolu quelqu'un pour contrôler de visu (ou presque) chaque résultat émis, pour vérifier s'il est plausible. Et peut-être croire qu'il l'est, alors qu'il ne l'est pas...
Alors ça va sur des sites Internet et sur quelques procédés très maîtrisés.
Mais pour une collectivité locale où chaque chose que l'on fera pourra affecter le citoyen, sous le joug de quels risques va t-on le mettre ?
Qui va vérifier, qui va prendre la responsabilité d'une erreur, et surtout : la réparer ?
Ça peut mener très loin. C'est pour ça que dans la pratique, il n'y a pas tant de choses faites avec elle.
Logiciel IA = Intelligence Artificielle
On en entend beaucoup parler... Elle est mise à toutes les sauces, mais il y a beaucoup plus d'annonces et de déclarations d'intention que de réalisations concrètes et éprouvées, avec.
Un élu, votre administration ou un chargé d'études du territoire enclenche un projet local, sous des conditions réglementaires précises, et dont chaque point d'analyse et chaque action prise en conséquence aura des répercussions sur les résidents, typiquement.
1. La première étape est qu'ils décrivent ce qu'il faudrait accomplir, à différents niveaux, pour réussir ce qu'ils désirent.
2. La deuxième est qu'ils traduisent à destination d'informaticiens ceux-là en "cas d'utilisation", qui sont les actions les plus courtes possibles tout en ayant un sens métier. On peut réaliser chacun et le vérifier.
3. Alors, un logiciel peut être réalisé, testé, validé, vérifié pour faire ce qu'on lui a demandé.
Comme il n'est jamais parfait, il a sa série d'anomalies attenante. Ses bugs, quoi. On les connaît, on les déplore, mais on en sait la liste.
Le problème de l'intelligence artificielle, c'est que c'est de la statistique.
Quoi qu'on fasse, quel que soit le nom joli qu'on y mette dessus, c'est de la statistique. Et chaque opération est sujette, par construction, à une erreur. Pas une erreur de calcul ou une faute de raisonnement, mais qu'on accepte par principe une imprécision. Parce qu'on a fait des moyennes typiquement, mis des valeurs dans des intervalles (dont de confiance qui disent bien ce qu'ils disent : c'est qu'on a qu'une confiance, qui n'est pas absolue, en elles), etc. Alors on perd en acuité.
Au bout d'un moment, l'on se trouve dans une situation où l'on sait qu'à mille sollicitations faites, l'intelligence artificielle elle va se tromper. Statistiquement. Le problème, c'est quand ? 30 fois, 5 ou 80 ? Ça on ne le sait pas... On ne peut pas le dire. Ça peut-être tout de suite, ça peut-être demain. Et avec quoi, sur quoi ? Il est assez souvent impossible de le dire à l'avance.
Autant pour un logiciel normal vous pouvez le cadrer, et à force de tests dire : "Bien. Sa liste de dysfonctionnements s'arrête à peu près là, et pour le reste je garantis son bon fonctionnement.", autant pour une intelligence artificielle, peut-être pouvez-vous dire : "Elle peut se tromper dans 3% des cas", et encore n'est-ce pas sûr, mais comme vous ne pouvez pas forcément dire lesquels, il vous faut dans l'absolu quelqu'un pour contrôler de visu (ou presque) chaque résultat émis, pour vérifier s'il est plausible. Et peut-être croire qu'il l'est, alors qu'il ne l'est pas...
Alors ça va sur des sites Internet et sur quelques procédés très maîtrisés.
Mais pour une collectivité locale où chaque chose que l'on fera pourra affecter le citoyen, sous le joug de quels risques va t-on le mettre ?
Qui va vérifier, qui va prendre la responsabilité d'une erreur, et surtout : la réparer ?
Ça peut mener très loin. C'est pour ça que dans la pratique, il n'y a pas tant de choses faites avec elle.