Il y a une autre limite que je vois à l'IA mais pour le coup, je ne sais pas si c'est argument valable et j'aimerais bien l'avis de plus experts.
À ce stade, l'IA ne crée rien : elle croise et compile l'ensemble des connaissances humaines et les associe à une vitesse prodigieuse, certes, mais sans rien produire de nouveau. Ses "progrès" sont fuglurants car ils sont rendus possibles par 3000 ans de connaissances humaines immédiatement disponibles, mais ses compétences sont seulement d'ordre technique.
Mais une fois que l'IA aura rattrapé son retard et assimilé l'ensemble des connaissances humaines existantes, ne risque-t-elle pas de tourner à vide et finalement de ne plus faire autre chose qu'intégrer les nouvelles connaissances à mesure qu'elles sortiront et d'autant plus lentement si l'homme, privé de ses moyens par l'IA, n'est plus en mesure de produire du neuf ? J'imagine bien que l'IA a un peu de temps devant elle avant d'atteindre ce stade, mais en précipitant l'obsolescence de l'homme, ne precipite-t-elle pas sa propre obsolescence un peu à la manière d'un parasite qui meurt avec son hôte ?
À ce stade, l'IA ne crée rien : elle croise et compile l'ensemble des connaissances humaines et les associe à une vitesse prodigieuse, certes, mais sans rien produire de nouveau. Ses "progrès" sont fuglurants car ils sont rendus possibles par 3000 ans de connaissances humaines immédiatement disponibles, mais ses compétences sont seulement d'ordre technique.
Mais une fois que l'IA aura rattrapé son retard et assimilé l'ensemble des connaissances humaines existantes, ne risque-t-elle pas de tourner à vide et finalement de ne plus faire autre chose qu'intégrer les nouvelles connaissances à mesure qu'elles sortiront et d'autant plus lentement si l'homme, privé de ses moyens par l'IA, n'est plus en mesure de produire du neuf ? J'imagine bien que l'IA a un peu de temps devant elle avant d'atteindre ce stade, mais en précipitant l'obsolescence de l'homme, ne precipite-t-elle pas sa propre obsolescence un peu à la manière d'un parasite qui meurt avec son hôte ?
Il y a une autre limite que je vois à l'IA mais pour le coup, je ne sais pas si c'est argument valable et j'aimerais bien l'avis de plus experts.
À ce stade, l'IA ne crée rien : elle croise et compile l'ensemble des connaissances humaines et les associe à une vitesse prodigieuse, certes, mais sans rien produire de nouveau. Ses "progrès" sont fulgurants car ils sont rendus possibles par 3000 ans de connaissances humaines immédiatement disponibles, mais ses compétences sont seulement d'ordre technique.
(...)
@Stavro : il est faux de dire que l'IA ne crée rien, ou alors il faut définir ce qu'est créer. Si créer, c'être capable d'innovations radicales, la plupart des gens ne créent rien de leur vie. Si créer, c'est proposer des choses nouvelles dans le cadre de règles établies, alors l'IA est créatrice. Dans les métiers de création (mode, design, parfumerie, etc.), on utilise déjà l'IA pour "inventer" de nouveaux produits. Par exemple, si on apprend à l'IA ce qu'est une chaise, elle est capable de produire des milliers de propositions, dont certaines sembleront très novatrices. Et comme ces produits générés par IA viennent alimenter les bases de données disponibles, même si l'homme arrêtait de créer, l'IA sera toujours capable de s'auto-alimenter. Ce sera peut-être une machine folle mais la machine sera fonctionnelle, a minima comme aussi fonctionnelle que l'intelligence collective d'une colonie d'insectes.
La vraie question est : est-ce qu'on peut imaginer que l'IA accède à des capacités de création disruptives ? Certains pensent que non mais d'autres pensent que c'est possible. Le père fondateur - Alan Turing - pensait que c'était théoriquement possible puisque le cerveau humain en est capable et que, pour lui, le cerveau humain, en raison de sa finitude (il ne peut prendre qu'un nombre fini de configurations, même si ce nombre est extraordinairement puisque le cerveau humain contient env. 100 milliards de neurones, la plupart très connectés), était assimilable à une machine.
Il y a des travaux actuels sur ce qu'on appelle les réseaux neuromorphes qui tentent de répondre à la question avec des puces reproduisant le plus possible le fonctionnement d'un neurone biologique. Jusqu'à présent, on a travaillé sur le nombre de couches de neurones constituant le réseau neuronal d'une IA mais - pour l'instant, ce n'est encore que de la recherche - certains commencent à essayer de faire évoluer la nature des "neurones artificiels" constituant le réseau. On ne sait pas ce qu'il en émergera mais certains l'imaginent comme étant la piste la plus sérieuse vers la "super-intelligence" si souvent évoquée.
Comme par hasard, on accuse un auteur d'origine haïtienne Thélyson Orélien d'avoir utilisé l'IA et de plagiat pour son livre "C'était ça ou mourir".
Comme on avait accusé Yambo Ouologuem de plagiat en 1968 pour son roman "Le devoir de violence" qui avait pourtant reçu le prix Renaudot. J"avais lu à l'époque (j'avais 23 ans) le livre que j'avais trouvé magnifique et que j'ai relu une fois en retraite et encore trouvé excellent !
Comme par hasard, ce sont deux écrivains noirs ; nous sommes plusieurs ici à Bordeaux à voir là-dedans du racisme sournois. Il va sans dire que je lirai ce nouveau roman.
Comme on avait accusé Yambo Ouologuem de plagiat en 1968 pour son roman "Le devoir de violence" qui avait pourtant reçu le prix Renaudot. J"avais lu à l'époque (j'avais 23 ans) le livre que j'avais trouvé magnifique et que j'ai relu une fois en retraite et encore trouvé excellent !
Comme par hasard, ce sont deux écrivains noirs ; nous sommes plusieurs ici à Bordeaux à voir là-dedans du racisme sournois. Il va sans dire que je lirai ce nouveau roman.
La vraie question est : est-ce qu'on peut imaginer que l'IA accède à des capacités de création disruptives ? Certains pensent que non mais d'autres pensent que c'est possible.
Il y a la question de savoir si c'est possible et celle de savoir à quelle échéance. Amodei et Altman semblent penser que c'est possible à courte échéance en augmentant suffisamment la puissance de calcul et en laissant chaque génération de LLM coder la suivante. Yann Le Cun semble penser que c'est possible mais que ça doit passer par un retour à la recherche, que les modèles de langage ne suffiront pas.
La vitesse à laquelle le domaine a progressé depuis le début des années 2010 et la percée dans la reconnaissance d'images est sidérante, mais je ne pense pas qu'on puisse savoir si ça va continuer de la même façon ou si on va se heurter a un plafond.
Je n'ai pas encore regardé la vidéo de Le Cun postée par Saule a la première page, mais j'imagine qu'il pense que la prochaine étape passera par des robots qui "apprendront" en interagissant avec leur environnement, se construisant ainsi une représentation du monde à la manière des petits humains. Ce qui leur permettrait de poser un "regard" plus "incarné" sur l'ensemble des textes humains à leur disposition.
Comme par hasard, on accuse un auteur d'origine haïtienne Thélyson Orélien d'avoir utilisé l'IA et de plagiat pour son livre "C'était ça ou mourir".
Comme on avait accusé Yambo Ouologuem de plagiat en 1968 pour son roman "Le devoir de violence" qui avait pourtant reçu le prix Renaudot. J"avais lu à l'époque (j'avais 23 ans) le livre que j'avais trouvé magnifique et que j'ai relu une fois en retraite et encore trouvé excellent !
Comme par hasard, ce sont deux écrivains noirs ; nous sommes plusieurs ici à Bordeaux à voir là-dedans du racisme sournois. Il va sans dire que je lirai ce nouveau roman.
@Cyclo : il y a un autre fil spécifique consacré à Thélyson Orelien, où plein de choses ont été discutées sur la qualité littéraire du livre (qui a ses fans et ses détracteurs sur le site), sur les manigances de son éditeur Grasset et sur la polémique de la part d'IA dans le texte.
https://critiqueslibres.com/i.php/forum/…
Consacré l'accusation de racisme, il y en a sans doute dans tout ce battage mais, sans la minimiser, ce serait trop simple de réduire la polémique à cette question. Il y a eu des livres écrits par des écrivains noirs récompensés du Goncourt (le dernier étant de mémoire "La plus secrète mémoire des hommes") sans que ça ne suscite aucun débat. Il y a aussi eu des polémiques sur des Goncourt attribués à des écrivains blancs. En fait, quoi que tu fasses, quand tu es médiatisé, comme il est impossible de plaire à toute le monde, tu vas forcément déplaire à des c*** anonymisés qui vont se croire autorisés à te cracher dessus.
à Stavro : Les gens se déchirent autour de cette question. Mon frère (qui travaille dans le développement de l'IA, je précise) est persuadé que l'IA est incapable d'un véritable raisonnement "disruptif" : par exemple, provoquer une révolution scientifique de la même ampleur que la relativité selon Einstein. Mais j'ai croisé des gens qui soutiennent mordicus le contraire, souvent les personnes alarmistes d'ailleurs, à tel point qu'ils veulent s'étriper entre eux (car il y a des enjeux de développement/intervention de l'Etat, etc) !
Pour l'instant, je pense que le disruptif n'est pas arrivé encore.
Ce qui est génial avec ta question c'est qu'on n'est même pas sûr de bien savoir faire la différence entre une généralisation des outils disponibles avec les données disponibles, et un saut disruptif dans la connaissance (création de nouveaux outils). Sont ce vraiment deux choses différentes ? Les nouveaux outils ne sont ils pas des associations de données disponibles ?
Tu vois l'énormité des questions épistémologiques derrière
Plus haut tu disais que j'aurais pu comprendre les concepts en philo si j'avais disposé d'assez de temps. Je comprends pourquoi tu dis ça, mais je voudrais détailler un peu la chose. C'est que je pose "des questions" très personnelles à l'outil et il me répond.
Exemple : En l'occurrence je lisais Deleuze. Déjà, le texte est quasi-impossible à comprendre en l'état. Donc je recopiais les passages et je demandais à l'IA de déchiffrer. Moi la métaphysique je ne connais que Saint Thomas, car j'ai pas mal étudié ce philosophe. Evidemment, c'est très éloigné des idées de Deleuze, certains pourraient croire hors sujet. Cependant je sentais confusément certains liens/oppositions. Mais je formulais très approximativement ces liens. Mes questions, formulées en vocabulaire thomiste ou même en langage courant, peuvent paraître bêtes ou décalées à un prof de philo ordinaire. Néanmoins c'est un peu mon formatage ancien qui me poussait à les formuler ainsi. L'IA le sent bien et essaie de m'expliquer à la fois mon cadre existant, et ce en quoi Deleuze s'est permis de l'attaquer sur ses points faibles. Or, cela ne figure pas tel quel dans le livre. C'est déjà une digestion très approfondie de son contenu.
C'est un peu comme un professeur spécialisé qui connaît très bien d'où tu pars, l'environnement duquel tu viens, ta façon de fonctionner, et reformule dans un langage qui t'est propre, quelque chose qui est pourtant très nouveau. Je tentais moi-même des synthèses de ce que j'avais compris, et je demandais si c'était bien ça où si j'étais en train de trahir l'auteur. Donc je me soumettais à plein d'auto-tests.
Ce dialogue a duré plusieurs jours d'affilée : ce qui est irréaliste pour un vrai prof de philo, même très bon. Des réponses immédiates, très précises, très nuancées, autant que tu veux, une patience illimitée, etc.
Donc, oui, gain de temps, sans doute, mais ramené au niveau de ma vie, et du temps que je peux consacrer, c'est un bond de géant.
Pour l'instant, je pense que le disruptif n'est pas arrivé encore.
Ce qui est génial avec ta question c'est qu'on n'est même pas sûr de bien savoir faire la différence entre une généralisation des outils disponibles avec les données disponibles, et un saut disruptif dans la connaissance (création de nouveaux outils). Sont ce vraiment deux choses différentes ? Les nouveaux outils ne sont ils pas des associations de données disponibles ?
Tu vois l'énormité des questions épistémologiques derrière
Plus haut tu disais que j'aurais pu comprendre les concepts en philo si j'avais disposé d'assez de temps. Je comprends pourquoi tu dis ça, mais je voudrais détailler un peu la chose. C'est que je pose "des questions" très personnelles à l'outil et il me répond.
Exemple : En l'occurrence je lisais Deleuze. Déjà, le texte est quasi-impossible à comprendre en l'état. Donc je recopiais les passages et je demandais à l'IA de déchiffrer. Moi la métaphysique je ne connais que Saint Thomas, car j'ai pas mal étudié ce philosophe. Evidemment, c'est très éloigné des idées de Deleuze, certains pourraient croire hors sujet. Cependant je sentais confusément certains liens/oppositions. Mais je formulais très approximativement ces liens. Mes questions, formulées en vocabulaire thomiste ou même en langage courant, peuvent paraître bêtes ou décalées à un prof de philo ordinaire. Néanmoins c'est un peu mon formatage ancien qui me poussait à les formuler ainsi. L'IA le sent bien et essaie de m'expliquer à la fois mon cadre existant, et ce en quoi Deleuze s'est permis de l'attaquer sur ses points faibles. Or, cela ne figure pas tel quel dans le livre. C'est déjà une digestion très approfondie de son contenu.
C'est un peu comme un professeur spécialisé qui connaît très bien d'où tu pars, l'environnement duquel tu viens, ta façon de fonctionner, et reformule dans un langage qui t'est propre, quelque chose qui est pourtant très nouveau. Je tentais moi-même des synthèses de ce que j'avais compris, et je demandais si c'était bien ça où si j'étais en train de trahir l'auteur. Donc je me soumettais à plein d'auto-tests.
Ce dialogue a duré plusieurs jours d'affilée : ce qui est irréaliste pour un vrai prof de philo, même très bon. Des réponses immédiates, très précises, très nuancées, autant que tu veux, une patience illimitée, etc.
Donc, oui, gain de temps, sans doute, mais ramené au niveau de ma vie, et du temps que je peux consacrer, c'est un bond de géant.
J'avoue être las Je suis tenté de dire que s'il y a danger, il ne faut plus tergiverser et prendre des décisions radicales et ce ne peut être ( je suis sceptique sur la volonté des personnes ou des groupes quels qu'ils soient) que du ressort de l'Etat.
Certains vont protester : c'est de la censure, une atteinte à la liberté, etc. etc.
Il faut savoir ce qu'on veut...!
Je me désole du peu de réflexes de la plupart de nos semblables, vaquant benoîtement à leurs occupations.
Miserere nobis....
Certains vont protester : c'est de la censure, une atteinte à la liberté, etc. etc.
Il faut savoir ce qu'on veut...!
Je me désole du peu de réflexes de la plupart de nos semblables, vaquant benoîtement à leurs occupations.
Miserere nobis....
J'avoue être las Je suis tenté de dire que s'il y a danger, il ne faut plus tergiverser et prendre des décisions radicales et ce ne peut être ( je suis sceptique sur la volonté des personnes ou des groupes quels qu'ils soient) que du ressort de l'Etat.
Certains vont protester : c'est de la censure, une atteinte à la liberté, etc. etc.
Il faut savoir ce qu'on veut...!
Je me désole du peu de réflexes de la plupart de nos semblables, vaquant benoîtement à leurs occupations.
Miserere nobis....
Les décisions les plus radicales ont été prises en Europe, avec l'AI Act proposé par Thierry Breton. C'est très loin des mesures que tu attends mais ça a suffi pour que Thierry Breton soit interdit de séjour aux USA, sur décision de Trump, en représailles pour crime de lèse GAFAM... Tant que les USA et la Chine verront dans l'IA un levier de puissance et chercheront à accélérer dans leur course à la place de 1ère puissance mondiale, on ne pourra pas grand chose. Ce serait sans doute le souci individuel de ne pas se rendre dépendant de l'IA qui serait le meilleur rempart mais je crois que cette bataille est perdue.
Stavro, Yokyok, je trouve que cette conférence de Yan Lecun démystifie très bien ce qu'est un LLM : https://www.youtube.com/watch?v=Z208NMP7_-0. Je pense que les concepts mathématique sont à la portée de Yokyok, moi-meme j'ai du mal mais j'ai lu pas mal d'autres articles et livres.
Pour un utilisateur, ca parait complètement magique alors qu'en réalité c'est relativement "simple".
Ce qu'il y a, c'est que les performances de ces modèles ont dépassé de loin ce que les chercheurs s'attendaient à avoir. Donc quand on dit que c'est limité et que ca va plafonner, on devient de plus en plus prudent. Je relisais le post de Frunny de 2018 (que Eric à mentionné plus haut, c'est amusant de voir ce qu'on disait il a huit ans : https://critiqueslibres.com/i.php/forum/… )
La grande idée de Lecun c'est que ca va plafonner, comme tu le dis, et il en est persuadé depuis longtemps. Il démarre un nouveau champ de recherche. En meme temps les modèles deviennent malgré tout de plus en plus performant, au cout de resources de plus en plus démentielles, mais ca laisse pantois de voir ce qu'ils atteignent (en mathématique, en informatique, en recherche pure,...).
Pour un utilisateur, ca parait complètement magique alors qu'en réalité c'est relativement "simple".
Ce qu'il y a, c'est que les performances de ces modèles ont dépassé de loin ce que les chercheurs s'attendaient à avoir. Donc quand on dit que c'est limité et que ca va plafonner, on devient de plus en plus prudent. Je relisais le post de Frunny de 2018 (que Eric à mentionné plus haut, c'est amusant de voir ce qu'on disait il a huit ans : https://critiqueslibres.com/i.php/forum/… )
La grande idée de Lecun c'est que ca va plafonner, comme tu le dis, et il en est persuadé depuis longtemps. Il démarre un nouveau champ de recherche. En meme temps les modèles deviennent malgré tout de plus en plus performant, au cout de resources de plus en plus démentielles, mais ca laisse pantois de voir ce qu'ils atteignent (en mathématique, en informatique, en recherche pure,...).
on n'est même pas sûr de bien savoir faire la différence entre une généralisation des outils disponibles avec les données disponibles, et un saut disruptif dans la connaissance (création de nouveaux outils). Sont ce vraiment deux choses différentes ? Les nouveaux outils ne sont ils pas des associations de données disponibles ?
"C'est dans cet acte de "passer outre", d'être soi-même en somme et non pas simplement l'expression des consensus qui font loi, de ne pas rester enfermé à l'intérieur du cercle impératif qu'ils nous fixent, c'est avant tout dans cet acte solitaire que se trouve " la création". Tout le reste vient par surcroît."
Alexander Grothendieck (probablement le plus grand mathématicien du XXe siècle)
Je ne pense pas que l'IA sous la forme d'un modèle de langage soient capable de ça. (Sous une autre forme, peut-être)
Grothendieck d'ailleurs doit se retourner dans sa tombe, lui qui avait posé la question de la pertinence de faire de la recherche scientifique dès lors que celle-ci est susceptible de mener à des applications nuisibles à l'humanité (cf. sa conférence de 1972 au CERN)
Lui qui a laissé tomber sa carrière en raison d'un financement militaire (de l'ordre de quelques pour cents) de l'institut au sein duquel il travaillait.
Lui dont la théorie des topos est explorée comme nouvelle base pour rendre l'IA plus proche du raisonnement humain...
on n'est même pas sûr de bien savoir faire la différence entre une généralisation des outils disponibles avec les données disponibles, et un saut disruptif dans la connaissance (création de nouveaux outils). Sont ce vraiment deux choses différentes ? Les nouveaux outils ne sont ils pas des associations de données disponibles ?
"C'est dans cet acte de "passer outre", d'être soi-même en somme et non pas simplement l'expression des consensus qui font loi, de ne pas rester enfermé à l'intérieur du cercle impératif qu'ils nous fixent, c'est avant tout dans cet acte solitaire que se trouve " la création". Tout le reste vient par surcroît."
Alexander Grothendieck (probablement le plus grand mathématicien du XXe siècle)
Je ne pense pas que l'IA sous la forme d'un modèle de langage soient capable de ça. (Sous une autre forme, peut-être)
@yokyok : la création dont tu parles en citant Grothendieck, l'IA n'en est sans doute pas capable mais la plupart des gens n'en sont pas non plus capables. C'est que je disais dans ma réponse à Stavro, quand on parle de comparer les capacités de création de l'IA et de l'homme, il faut préalablement se mettre d'accord sur ce qu'on appelle "création". S'il s'agit d'innover à l'intérieur d'un cadre, l'IA sait faire. S'il s'agit de sortir du cadre et d'innover en rupture avec les règles établies (d'aller vers "l'impensé" voire vers "l'impensable"), l'IA ne sait pas faire, comme d'ailleurs la plupart des gens. La question est de savoir si elle en sera un jour capable ou pas (peut-être grâce aux travaux sur les processeurs neuromorphes à base de puces cherchant à imiter le fonctionnement d'un neurone biologique).
PS : tu me donnes envie de présenter sur le site une petite biographie de Grothendieck, que j'ai lue cet été. L'arrêt de sa carrière est un peu plus compliquée qu'un "simple" financement militaire. Même sans ça, il aurait arrêté sa carrière car il était en rupture totale avec la société.
peut-être grâce aux travaux sur les processeurs neuromorphes à base de puces cherchant à imiter le fonctionnement d'un neurone biologique
Peut-être, mais en cherchant à s'approcher le plus possible de la biologie, ne risquent-ils pas de se retrouver avec un truc encore plus coûteux en ressources et pas plus efficace ? Après tout, les ornithoptères ont fait long feu.
Il me semblait que la force des réseaux de neurones actuels reposait sur la simplicité de leur éléments de base (qui permet une dérivabilité à moindre coût du réseau, donc l'application efficace des méthodes d'optimisation permettant de l'entraîner).
@Eric
Piste intéressante, je pense à Majorana, qui a disparu (Sciascia a écrit un bouquin à ce propos) sans laisser de trace.
Ils ont sans doute été pris par le "syndrome de Rotblatt".
PS : tu me donnes envie de présenter sur le site une petite biographie de Grothendieck, que j'ai lue cet été. L'arrêt de sa carrière est un peu plus compliquée qu'un "simple" financement militaire. Même sans ça, il aurait arrêté sa carrière car il était en rupture totale avec la société.
Piste intéressante, je pense à Majorana, qui a disparu (Sciascia a écrit un bouquin à ce propos) sans laisser de trace.
Ils ont sans doute été pris par le "syndrome de Rotblatt".
Vous devez être connecté pour poster des messages : S'identifier ou Devenir membre