digital intelligence : pour une éthique algorithmique ?
DESCRIPTION
Support d'intervention conférence "digital intelligence" Nantes. Septembre 2014.TRANSCRIPT
Olivier Ertzscheid. Du World Wide Web au World Wide Wear : de
l’homme-document au corps-interface.
Vers une « éthique » des interactions ?Université de Nantes
Laboratoire Dicen – IdFwww.affordance.info
@affordanceinfo
"JE ME DIS PARFOIS QUE JE PEUX SENTIR LES SENTIMENTS DU MONDE, CE QUI PEUT AUSSI ÊTRE UN FARDEAU. QU'ARRIVERA-T-IL SI NOUS
RÉPONDONS MAL À DES REQUÊTES COMME "AMOUR" OU "OURAGAN" ? »**
En 2010, Apostolos Gerasoulis (le papa du moteur de recherche Ask Jeeves) s’interrogeait en regardant défiler les 10 millions de requêtes quotidiennes d'Ask Jeeves :
** http://affordance.typepad.com/mon_weblog/2010/09/la-reponse-avant-la-question.html
"SI NOUS POUVONS CONSTRUIRE UNE VOITURE QUI ÉVITERA AUTOMATIQUEMENT LA COLLISION AVEC UN BUS REMPLI D'ENFANTS, Y COMPRIS AU RISQUE DE METTRE EN DANGER LA VIE DU CONDUCTEUR, FAUT-IL DONNER AU CONDUCTEUR LA POSSIBILITÉ DE DÉSACTIVER CE RÉGLAGE ? » **
Tom Chatfield
** http://aeon.co/magazine/technology/can-we-design-systems-to-automate-ethics/
VOUS RACONTER L’HISTOIRE QUI SÉPARE CES 2 CITATIONS ET CE QU’ELLE DIT DE L’ÉVOLUTION DE NOS « INTERACTIONS ».
Source https://www.flickr.com/photos/derricksphotos/3099993202
Des IHM aux IHA ?
• Plusieurs bouleversements : – Dans la nature : on ne sait plus trop quel est le VRAI support de
l’interaction• IHM = Interfaces / Interactions Homme => Machine ?• IHD = Interfaces / Interactions Homme => Data ?• IDA = Interfaces / Interactions Data => Algorithmes ?• IHA = Interfaces / Interactions Homme => Algorithmes ?
– Dans la hiérarchie : • I H > M vers I M > H. • Dans le couple homme-machine c’est – si j’ose dire – de plus en plus la machine qui
fait l’homme.
– Dans les (multi-)modalités :• Tactile, haptique, commande vocale, data-gloves, casques neuronaux, immersifs,
etc.
– Dans les objets cibles : on interagit avec • Textes > Images > Sons > Machines > Algorithmes > Données > Objets (IoT)
Sommes-nous au centre ou à la périphérie ?
• Au centre : « Googler » qque chose. Homme « acteur », « scripteur »• Dans le périphérique : « Ok glasses » : activer qque chose. Homme simple déclencheur.
Amorçage. • À la périphérie : « Google House » : domotique. 500 objets connectés. 500 « périphériques »
et un centre (nous), à moins que le vrai centre ne soit le data-center.• Sur le périphérique : « Google car » : Homme superviseur ? « Homme embarqué » plutôt que
« interfaces embarquées ».• Pari pascalien des interfaces de recommandation : « dont le centre est partout (nous ?) et la
circonférence nulle part »• Vertige fractal : un homme avec des google glasses dans une voiture sans chauffeur :
– Que voit-il ? Quelle interface priorise-t-il ?
Ecrire l’histoire des interfaces/interactions c’est raconter la disparition de l’écrit de l’Homme et son remplacement par la « formule » algorithmique.
• Plusieurs phénomènes conjoints : – Bascule du web média vers l’image et le son (même si le texte reste très présent)– Commande vocale + disparition des claviers (voire de l’écriture)– Déplacement des dernières écritures au niveau du code, dernières rémanences de l’écriture se font
au niveau algorithmique– Humanité retourne au stade oral (interfaces « vocales »). Machines & algorithmes dépositaires de
l’écrit (code + formule).
• Qui entraînent : – affaiblissement des « publications », du « rendu public », c’est à dire de la respiration démocratique
(stiegler)– Et dans le même temps (corrélat) une augmentation du rôle des interfaces au centre de processus
d’interactions de plus en plus « transparents », de moins en moins médiés par l’écrit.
• Corrélat : – Émergence des problématiques de vie privée (« privacy »), de surveillance / sous-veillance comme
conséquence de l’affaiblissement de la fonction scripturale et de son déplacement. – L’enjeu, in fine, concerne moins le volume de données ou les données elles-mêmes que les
interfaces de collecte, les interactions dissimulées qui permettent cette collecte, et l’absence d’interfaces permettant de mesurer l’étendue de ladite collecte. L’absence d’interactions « de réparation ».
Appréhender l’interaction sans appréhension ?
• Index + pouce opposable = préhension.• A partir du moment où l’on dispose (icôniquement et fonctionnellement) de l’index et du
pouce, donc de la préhension numérique, on peut, comme dans le stade de développement de l’enfant de 9 à 10 mois, passer à d’autres activités, à d’autres interactions (tactile, repérage dans l’espace, etc.) au travers d’autres interfaces. Nous sommes « prêts »
• Mais beaucoup de ces nouveaux stades, de ces nouvelles interfaces, de ces nouvelles interactions vont nous enlever la « préhension » pour céder la place à de l’a-ppréhension. Les Google Glasses, les vêtements connectés, les voitures connectées sont des interfaces sans préhension. Elles génèrent donc de l’angoisse et de la crainte.
• On perd le contrôle parce que l’on perd les repères habituels de la préhension à l’échelle du numérique, c’est à dire la cardinalité de la navigation (le lien) et de l’émotion (le like).
+ =
Une manière (parmi d’autres) de raconter et d’expliquer ces bouleversements :
• Ne pas interagir avec des écrans et des sons– Radio (années 20), Télévision (années 30).
• Interagir avec des écrans – années 70 – micral – à nos jours – ipod/phone/pad
• Interagir avec des mots (liens hypertextes)– 1990 : World Wide Web (web des documents) – 2005 : World LIVE Web (web du temps réel)
• Interagir avec des gens (« like »)– 2007 : World LIFE Web (web des profils)– « L’homme est un document comme les autres* ».
• Interagir avec des objets (« Ok Glasses »)– 2013 : World Wide WEAR** (web des objets et du corps-interface)– Le corps est une interface comme les autres.
• 3 changements paradigme / axe de rotation du web
* http://archivesic.ccsd.cnrs.fr/sic_00377457/en/** http://affordance.typepad.com/mon_weblog/2013/11/bienvenue-dans-le-world-wide-wear.html
World Wide Web
World Wide Wear
EXTENSION DU DOMAINE DE LA LUTTE ALGORITHMIQUE
Quand tout est interfaçable (même moi), quand les individus sont au centre (surtout moi) et quand on dispose d’une base de donnée des intentions planétaire et d’algorithmes prédictifs idoines, c’est l’âge d’or de l’interaction. Mais c’est aussi le début … d’autre chose
algorithmique
Boucles rétroaction algorithmiques. Champ décisionnel « étendu(e)s »
Passage web des documents > web des profils > web des objets connectés
Cycle prédictif(régulations « externes »)ALGORITHMIE AMBIANTE
Base d’index
Base d’index
interfaceinterface
Boucles rétroaction algorithmiques. Champ décisionnel « contenu(e)s »
Requêtes usagers(doc > profils > objets)
Cycle prédictif(régulations « internes »)
Objetstotems
Objetstotems
(ordis > tél. > tablettes)
Base d’index
Base d’index
interfaceinterface(doc > profils > objets)
ObjetsCapteurstraceurs
ObjetsCapteurstraceurs
corps connectéFait aussi fonction d’interface
Champ socialÉcosystèmes de services
Marchés financiersMarchés financiers
médecinemédecinepolicepolice
armementarmement
santésanté
éducationéducation
Transports publicsTransports publics
Etc.Etc.
Champ social
Marchés financiersMarchés financiers
médecinemédecinepolicepolice
armementarmement
santésanté
éducationéducation
Transports publicsTransports publics
Etc.Etc.requêtesEnquêtes …
Algorithmie « locale »
« SI NOUS POUVONS CONSTRUIRE UNE VOITURE QUI ÉVITERA AUTOMATIQUEMENT LA COLLISION AVEC UN BUS REMPLI D'ENFANTS, Y COMPRIS AU RISQUE DE METTRE EN DANGER LA VIE DU CONDUCTEUR, FAUT-IL DONNER AU CONDUCTEUR LA POSSIBILITÉ DE DÉSACTIVER CE RÉGLAGE ? »
• 10 algorithmes contrôlent actuellement l’essentiel de nos vies**• Tous les champs sociaux sont concernés :
• PageRank (Google). EdgeRank (Facebook). OKCupid (ou Meetic), Prism et XkeyScore (NSA), « Vous aimerez aussi » (Amazon), Adwords (Google), HFT (bourse), MP3 compression, Crush (police prédictive IBM).
• Ces algorithmes « décident » déjà à notre place. Mais ils ne décident « que » des sites que nous allons voir, des personnes que nous allons rencontrer, des pages que nous allons lire, des livres que nous allons acheter … de l’endroit où des crimes ont le plus de chances d’être commis.
ALGORITHMEALGORITHME
** http://io9.com/the-10-algorithms-that-dominate-our-world-1580110464
Les 3 lois de la … connectique ?
1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.
• Proposition : 3 LOIS DE LA CONNECTIQUE ? Remplacer « robot » par … « algorithme ? » « objet connecté ? »
• De toute façon, nous y sommes déjà …• http://www.newscientist.com/article/
mg22329863.700#.VBnVdEiaZ0I
3 GRANDES INTERROGATIONS DEMEURENT
1. Celle des affordances
• Comme les écrans, les logiques d'affordance se déplacent, sont au plus près de notre corps, font de notre corps la 1ère affordance
• Un objet peut suggérer sa manière de l’utiliser. Mais une « donnée » ? Un « algorithme » ? Un « corps » ?
Source : https://www.flickr.com/photos/ultimatebart/12953915693/in/photostream/
2. Celle de l’index comme point de contrôle
• Réseaux et moteurs se posent (et nous posent) la question du point de surveillance. • Il nous faut nous poser la question du point de contrôle. Point nodal est celui de l’index. • Lewandowski Dirk, « Why we need an independant index of the web ».
http://arxiv.org/ftp/arxiv/papers/1405/1405.2212.pdf • Constitution d’un index indépendant du web nécessaire car :
– Vitaliser les bonnes pratiques et les alternatives.– Contourner la question du « secret industriel »– Reprendre le contrôle– Condition nécessaire d’une …
3. Celle d’une éthique de l’automatisation
• Après s'être interrogé pendant des années sur l'externalisation de nos mémoires documentaires, les progrès de l'ingénierie algorithmique, les possibilités d'automatisation qu'elle ouvre dans le champ social, sa pregnance dans des domaines allant de la santé à l'éducation en passant par les transports, nous obligent à construire dès maintenant un corpus d'analyse et de réflexion qui pourra seul nous laisser en situation de comprendre les enjeux de cette deuxième vague d'externalisation : l'externalisation de nos stratégies décisionnelles, émotionnelles, affectives.
• Très peu de labos travaillent explicitement sur ces questions en tant qu’axe de recherche identifié : http://cser.org/about/our-mission/ (Center for the study of existential risk. Cambridge)
« Risque existentiel ? »• Ses membres ? • Stephen Hawking, l’un des co-
fondateurs de skype, juristes, philosophes, généticiens, spécialistes de bioéthique, de robotique, et …
• Et … Elon Musk, le PDG de Tesla Motors, qu’Apple avait failli racheter en février 2014** pour développer … une voiture connectée
** http://www.itespresso.fr/apple-tesla-rachat-icar-72842.html
#cqfd ;-)
BONUS TRACKSC’eût été trop long …
1ère RÉVOLUTION : DÉRIVE DES CONTINENTS DOCUMENTAIRES
INDEXABILITÉ
WEB PUBLIC
WEB PRIVÉ
DOC. PERSONNELS
INFOS INTIMES
1990
2000
2010 : CLOUD COMPUTING
25
Si tout est dans la même sphère d’
Alors tout peut-être
Pour être
INTERFAÇABLE
INTERACTIONNABLE
2ème RÉVOLUTION > CHANGEMENT D’AXE DE ROTATION DU WEB > DOCUMENTS > HOMMES
• L’essentiel du web n’a plus pour fonction principale de permettre à des hommes de relier des documents, mais de permettre à quelques multinationales de collecter de l’information sur l’activité de chacun d’entre nous. De faire de chacun de nous les noeuds d'un réseau jadis constitué de documents
• L’HOMME DEVIENT UN DOCUMENT COMME LES AUTRES (indexable, monétisable) « partageable »)
DOCUMENTATION DE SOI
26
3ÈME RÉVOLUTION : DATA REVOLUTION > ALGORITHMES PRÉDICTIFS**
BIG DATA
27**http://www.internetactu.net/2011/09/19/la-police-predictive-lalgorithme-du-crime/
4ÈME RÉVOLUTION : Internet Of Things
IoT
Tu voulais du web sémantique ?
T’auras des frigos qui twittent.
28**http://www.internetactu.net/2011/09/19/la-police-predictive-lalgorithme-du-crime/
A propos de la disparition de l’écriture et du clavierhttp://affordance.typepad.com/mon_weblog/2011/09/la-cathedrale-le-clavier-et-letagere.html