Intelligence artificielle (IA), le pour et le contre

[aldebaran]

Si vous voulez avoir une bonne idée de comment marche le fameux ChatGPT dont on nous rabat les oreilles, voir cette vidéo (je recommande d'ailleurs le site, toujours des explications assez détaillées mais sans avoir besoin d'être spécialiste):
https://www.youtube.com/watch?v=7ell8KEbhJo
On voit bien la limite : pas d'être juste mais de présenter des choses qui ne sont pas déraisonnables selon son apprentissage.
Le seul intérêt est de mettre des gens au chômage, peu importe que le boulot soit moins bien fait, si c'est gratuit ou presque les actionnaires sont amplement gagnants.
Et vive ce merveilleux capitalisme!

Rien à voir avec du deep learning sur des tâches bien spécifiques, où là l'IA montre un intérêt en tant qu'outil performant (mais sans remplacer l'humain, ou peu).

[Kerygme]

Merci pour votre réflexion qui attire l’attention sur plusieurs aspects pertinents.
J’ai posté votre réponse sans rien y changer sur ChatGPT avec pour seule instruction « répond » et voici sa réponse sans aucune modification :
...

Bonjour Xavi,

Démonstration impressionnante. Elle semble même faire preuve d'une certaine analyse pour donner une réponse qui me soit agréable à lire.
En toute franchise, si vous ne m'aviez pas dit que c'était du chatGPT et que vous aviez mis la réponse sous un "barbarus" quelconque, j'aurais cru à une intervention humaine et pertinente. Alors que connaissant la source, je lui trouve, par mauvaise foi, un côté froid.

Entre cela, les synthèses d'images et de voix, il va falloir devenir très performant pour reconnaître un fake numérique.

J'avoue que les chat bots des sites commerciaux étaient loin de m'impressionner.

[prodigal]

Excellente idée que vous avez eu là, mon cher Xavi.
Je ne suis ni impressionné ni blasé, à vrai dire, mais je trouve l'expérience très intéressante.
Il me semble que ChatGPT est armé pour construire une argumentation, en respectant quelques principes formels : énoncer les objections que l'on veut éliminer, en tirer la conclusion qui s'impose, etc.
Mais, pour autant, ChatGPT me semble surtout un excellent outil pour repérer les platitudes. Entendons par là les paroles vaines et autres généralités qui n'instruisent en rien celui qui est conduit, le plus souvent malgré lui, à les écouter. Vous voulez savoir si ce que vous dites (ou même ce qu'un autre dit) est une platitude, demander ChatGPT. S'il dit la même chose que vous, la preuve est faite.
Je ne crois donc pas que ChatGPT soit un moyen d'élever le niveau intellectuel de ses utilisateurs, à moins qu'ils ne l'utilisent que de façon critique.
Mais surtout, je ne crois pas qu'il faille se référer à ChatGPT pour apprendre une quelconque vérité.
Le danger a déjà été signalé par Platon (mais oui, le philosophe grec de l'Antiquité), il est vrai que c'était à propos de l'écriture. L'écriture, écrit-il (sans que l'on puisse délimiter clairement la part du second degré) produira des esprits plus crétins qu'il n'y en eût jamais, car ceux qui apprendront par elle (a fortiori par ChatGPT) se croiront savants sans l'être, et il n'y a rien de pire, ni de plus contraire à toute vie spirituelle.

[Kerygme]

Finalement, plus je lis la réponse donnée par l'IA et plus j'ai la sensation qu'elle utilise un argumentaire de protection juridique.

[Le Père]

Bref, l'IA est loin d'être un danger, elle sera toujours sous notre contrôle car elle dépend de nous.

Il ne suffit pas qu'une chose/ une personne dépende de vous pour qu'elle vous soit inoffensive. Pour cela , il faut être parfait comme le Père est parfait.

[Kerygme]

Une vidéo ludique et intéressante à la fois pour montrer comment une IA peut apprendre par elle-même selon la technique de l'apprentissage par renforcement (Deep reinforcement learning) :

C'est une méthode d’apprentissage qui s'intéresse à la prise de décision. Depuis l’état de l’environnement, l’agent utilise une politique pour choisir une action. L’apprentissage par renforcement vise à optimiser la politique d’action de l’agent grâce à un jeu de récompenses positives et négatives. L'apprentissage demande un grand nombre d’expérimentations, il est très utile de disposer d’un environnement simulé (c'est le cas pour les jeux vidéo).