Pages : 1
#1 Le 06/04/2023, à 23:23
- abecidofugy
L’algorithme, vers un monde manipulé
Salut,
Un article intéressant https://www.lemonde.fr/culture/article/ … _3246.html
La vidéo va suivre sur Arte.
++
Hors ligne
#2 Le 12/04/2023, à 15:43
- krodelabestiole
Re : L’algorithme, vers un monde manipulé
le docu est là et je viens de le regarder : https://www.arte.tv/fr/videos/101914-00 … -manipule/
je suis mitigé. d'un côté il soulève des problèmes sociaux biens réels, des dérives dangereuses, et des faits scandaleux. de l'autre il accuse presque dogmatiquement ce qu'il appelle "l'algorithme".
le tout malheureusement sans entrer suffisamment dans les détails techniques (quelles sont les méthodes d'apprentissage des ia, sur quelles données s'effectuent-ils ?)
je trouve le terme particulièrement mal choisi. et je trouve même qu'il a tendance à écarter / dédouaner les responsables de ces dérives.
c'est un peu comme dire "c'est l'argent qui dirige le monde". ben non : l'algorithme ne décide pas, il ne pense pas, ne juge pas, et ne dispose en lui d'aucun pouvoir. (en plus d'être un élément réducteur quand on parle d'ia).
c'est évidemment l'utilisation qui en est fait ou son interprétation qui sont condamnables.
nouveau forum ubuntu-fr on en parle là : refonte du site / nouveau design
profil - sujets récurrents
En ligne
#3 Le 12/04/2023, à 17:42
- abecidofugy
Re : L’algorithme, vers un monde manipulé
Merci d’avoir rappelé le lien, la diffusion m’était sortie de tête.
Alors, j'ai regardé le reportage. Assurément, l'analyse est faite exclusivement du côté sociologique. Ils parlent de l’entrainement des IA seulement sur une minute ou deux, mais ça n’aurait pas été le plus intéressant pour ce type de reportage.
Au final, j’ai tout de même bien apprécié les quelques questions que soulèvent ce format.
Hors ligne
#4 Le 14/04/2023, à 00:45
- krodelabestiole
Re : L’algorithme, vers un monde manipulé
Ils parlent de l’entrainement des IA seulement sur une minute ou deux, mais ça n’aurait pas été le plus intéressant pour ce type de reportage.
pas trop d'accord...
c'est vrai que c'est un peu technique mais déjà ça aurait été intéressant de savoir si on parle de machine learning ou de deep learning, et surtout dans le premier cas d'avoir une idée des curseurs choisis pour cet entraînement et dans les deux cas de savoir sur quelles données les ia ont été entraînées. au contraire je trouve même ça primordial comme info !
par ex. j'ai vu un docu sur une ia qui devait prédire où les crimes avaient le plus de chance de se produire pour "aider" la police (de chicago je crois, pas sûr). mais le truc c'est que l'ia avait été entraînée sur les infos de la police. et ces policiers avec leurs biais sociaux voire éventuellement racistes concentraient leur activité sur les quartiers noirs et pauvres. c'est donc évidemment là qu'ils observaient le plus de crimes et par conséquent là que l'ia leur conseillait de concentrer leurs efforts.
c'est d'une évidence assez affligeante... le serpent qui se mord la queue.
perso c'est le plus gros problème qui me saute généralement aux yeux quant à l'utilisation des ia. on s'en sert très maladroitement pour renforcer des biais sociaux, justement parce que les ia sont alimentées par des données pétries de ces biais (chose que les utilisateurs ignorent ou feignent d'ignorer). et on s'en sert pour les corroborer, renforcer les clichés qui sont souvent les plus puants de nos sociétés (xénophobie, sexisme, binarité de genre, mépris de classe, etc.). c'est de ces effets dont parle le docu, et tant mieux.
par contre c'est justement une franche erreur de dire que la faute incombe à l'algorithme ! pour moi le problème vient en premier lieu du choix des données (et des curseurs dans le cas général du machine learning), tout ça est loin d'être neutre (!), et en second lieu de l'interprétation puis de l'usage qui est fait des réponses des ia, problème qui est plus évident et sur lequel se concentre le docu (voir il accuse les devs, ce qui me parait être complètement à côté de la plaque, on sort clairement de la simple erreur de terminologie !).
pour en savoir plus sur les machine et deep learnings : https://youtu.be/trWrEWfhTVg
nouveau forum ubuntu-fr on en parle là : refonte du site / nouveau design
profil - sujets récurrents
En ligne
Pages : 1