Algorithmes : la bombe à retardement de Cathy O'Neil

Algorithmes : la bombe à retardement de Cathy O'Neil
(Weapons of math destruction : how big data increases inequality and threatens democracy)

Catégorie(s) : Sciences humaines et exactes => Economie, politique, sociologie et actualités

Critiqué par Colen8, le 26 janvier 2020 (Inscrite le 9 décembre 2014, 79 ans)
La note : 7 étoiles
Visites : 956 

Du mésusage des mathématiques

Prenez garde dit l’experte américaine formée successivement à la théorie des nombres, au trading financier et au Big Data, les mathématiques statistiques sur lesquelles reposent les algorithmes de l’IA (Intelligence Artificielle) sont dangereuses. Des algorithmes mal conçus à partir de données insuffisantes, d’hypothèses réductrices ou non vérifiées, de biais dans l’esprit des concepteurs, fournissant des résultats mal compris par les utilisateurs destinataires, mal réévalués et rectifiés car trop souvent vendus sous l’étiquette d’infaillibilité, en fin de compte faussés pour de multiples raisons ont eu des conséquences préjudiciables à de larges communautés.
Les exemples encourageant les fraudes au détriment des plus vulnérables ne manquent pas, à commencer par le ciblage publicitaire agressif sur internet. Il y a les systèmes de classement des universités américaines faisant la part belle à celles de second ordre qui après avoir ciblé les candidats pauvres les laissent sortir plombés de dettes insurmontables, mais aussi ceux relatifs à l’évaluation des personnes sur la base de leurs supposées compétences. Et surtout les dérives des prêts hypothécaires qui sont à l’origine de la crise mondiale de 2007-2008, ont mis des millions d’américains modestes à la porte de chez eux, enrichi démesurément les responsables des banques et organismes financiers spéculatifs, sans qu’aucune des mesures correctrices préconisées lors des G20 ait été réellement mise en application.
C’est donc un appel à la régulation des abus par les autorités, à la vigilance du public contre toute forme de discrimination et de préjudice, à l’éthique des concepteurs et à la transparence de leurs modèles mathématiques trop souvent opaques sous le couvert du secret industriel que lance Cathy 0’Neil reconnaissant à cet égard une meilleure protection de la législation européenne(2).
(1) Le sigle ADM (Armes de Destruction Massive) détourné donne aussi (Armes de destruction mathématique), ou avec la prononciation phonétique anglaise de « mass » pour maths (Arms of Destructive Maths)
(2) Sur la protection des données personnelles en France :
https://service-public.fr/professionnels-entrepris…

Connectez vous pour ajouter ce livre dans une liste ou dans votre biblio.

Les éditions

  • Algorithmes, la bombe à retardement [Texte imprimé] Cathy O'Neil préface de Cédric Villani traduit de l'anglais (États-Unis) par Sébastien Marty
    de O'Neil, Cathy Marty, Sébastien (Traducteur)
    les Arènes
    ISBN : 9782352049807 ; 20,90 € ; 07/11/2018 ; 340 p. ; Broché
»Enregistrez-vous pour ajouter une édition

Les livres liés

Pas de série ou de livres liés.   Enregistrez-vous pour créer ou modifier une série

Forums: Algorithmes : la bombe à retardement

Il n'y a pas encore de discussion autour de "Algorithmes : la bombe à retardement".