De quels traitements sommes-nous les proies ?

cc. Hubert Guillaud – cc. Hubert Guillaud – http://www.internetactu.nethttp://www.internetactu.net - - avatars&Cie – novembre 2013avatars&Cie – novembre 2013

Introduction > Le nouveau monde des traitements

Nous ne savons rien de l'algorithme d'autocomplétion de Google qui affiche ces résultats. Combien de personnes ont tapés ces questions stéréotypées ? Représentent-ils une majorité de la population ou pas ? L'autocomplétion affiche sur les mots que vous commencez à inscrire les requêtes "utiles" des utilisateurs... mais que signifie le terme "utile" ? L'autocomplétion n'est pourtant pas totalement automatisé, mais au contraire est personnalisé et parfois censuré. "Google n'est pas le miroir objectif qu'il prétend être" et la campagne montre bien que la manière dont il affiche des résultats à un impact direct sur nous. - Anna Jobin

http://sociostrategy.com/2013/googles-autocompletion-algorithms-stereotypes-accountability/

CODE IS LAW« Le code régule. Il implémente - ou non - un certain nombre  de valeurs. Il garantit certaines libertés, ou les empêche. Il protège la vie privée, ou promeut la surveillance. Des gens décident comment le code va se comporter. Des gens l’écrivent. La question n’est donc pas de savoir qui décidera de la manière dont le cyberespace est régulé : ce seront les codeurs. La seule question est de savoir si nous aurons collectivement un rôle dans leur choix - et donc dans la manière dont ces valeurs sont garanties - ou si nous laisserons aux codeurs le soin de choisir nos valeurs à notre place. » Lawrence Lessig - Le code fait loi http://www.framablog.org/index.php/post/2010/05/22/code-is-law-lessig

Le Code n'est plus la loihttp://youtu.be/Rq1dow1vTHY

« Google Translate intègre lui des milliards de  pages de traductions pour prendre ses décisions quant à savoir si le mot anglais light doit être traduit par lumière ou léger. Il est impossible pour un humain de trouver les raisons précises de choix du mot dans le programme, car ce choix est basé sur des quantités massives de données et de vastes calculs statistiques. » 

Viktor Mayer-Schönberger et Kenneth CukierBig Data .

http://www.internetactu.net/2013/05/14/big-data-nouvelle-etape/

« Nos langues sont désormais optimisées par et pour les machines »

Frédéric Kaplan - Nos langues à l'heure du capitalisme linguistiquehttp://www.internetactu.net/2012/04/06/nos-langues-a-lheure-du-capitalisme-linguistique/

Definitions > De quoi parle-t-ON ?

Définition > BIG DATA

Algorithmes

Définition > Qu'est-ce qu'un algorithme ?

Un algorithme est une suite finie et non ambiguë d’opérations ou d'instructions permettant de résoudre un problème.(...)

On mesure l'efficacité d'un algorithme notamment par sa durée de calcul, par sa consommation de

mémoire RAM (en partant du principe que chaque instruction a un temps d'exécution constant), par la précision des résultats obtenus (par

exemple avec l'utilisation de méthodes probabilistes, comme la

méthode de Monte-Carlo), sa scalabilité (son aptitude à être efficacement parallélisé), etc.

Wikipédia

Définition > Qu'est-ce qu'un algorithme ?

Définition > Nouveaux logiciels, mode de production, producteurs et modalités de traitements

http://www.internetactu.net/2012/11/29/la-pertinence-des-algorithmes/Définition > LA PROMESSE DES TRAITEMENTS

« Notre discours public en ligne a lieu sur  un ensemble restreint de plates-formes qui utilisent des algorithmes complexes pour gérer et organiser des collections massives de données, il existe une tension importante entre ce que nous nous attendons à voir émerger et ce que sont ces algorithmes en réalité.

Non seulement nous devons reconnaître que ces algorithmes ne sont pas neutres, qu’ils codent des choix politiques, et qu’ils “armaturent” l’information d’une manière particulière, mais nous devons également comprendre ce que signifie de nous appuyer sur eux, pourquoi voulons-nous qu’ils soient neutres, fiables, qu’ils soient des moyens efficaces pour atteindre ce qui est le plus important. »  Tarleton Gillespie

EFFETS > Les Algorithmes sont parmi nous

effets > Nouveaux critères de sélection

http://www.internetactu.net/2013/05/03/lemploi-a-lepreuve-des-algorithmes/ http://www.internetactu.net/2013/06/26/limite-et-puissance-du-big-data-applique-aux-ressources-humaines-chez-google/

Les Big Data n’éliminent pas le jugement humainou nos a priori, mais l’ordinateur permet d’appliquer un autre type de filtre pour trouver les gens compétents.

Le “scoring” ou évaluation du risque client, est une méthode statistique et algorithmique pour évaluer votre éligibilité à une demande de financement. Ce scoring repose sur une série de ratios pondérés élaborés sur l’observation de séries statistiques à partir d’échantillons représentatifs d’emprunteurs, qui portent en général sur la situation familiale (situation maritale, nombre d’enfants à charge, âge…), la situation professionnelle (type de contrat, ancienneté…) et bien sûr la situation budgétaire (revenus, charges, taux d’endettement…). Ce scoring, cette notation dont vous êtes l’objet, va être utilisé pour décider de la faisabilité du crédit et déterminer son taux.

http://www.internetactu.net/2013/03/13/a-qui-les-algorithmes-preteront-ils-de-largent/

Effets > Nouveaux critères de sélection

“Il est consternant de voir avec quelle facilité les médias sociaux peuvent désormais être utilisés, non pas comme un outil de connectivité, mais comme un mécanisme de tri pour rationaliser les inégalités sociales. Ils ne se contentent pas de cartographier le territoire social, mais commencent à le dicter et le renforcer.” - Rob Horning

Effets > RENFORCER LES CLIVAGES SOCIAUX

Effets > Tarification algorithmique

http://www.internetactu.net/2013/01/22/de-quels-traitements-sommes-nous-les-proies/

Ce que l'on apprécie sur Facebook est très efficace pour déduire le sexe, l'orientation politique et sexuelle, mais aussi si une personne prend des médicaments ou a des parents divorcé... Des traits de personnalité comme l'ouverture d'esprit ou l'intelligence ont également été estimées à partir des goûts.

Effets > VOUS ETES UN LIVRE OUVERT

http://www.youarewhatyoulike.com

EFFETS > La fin du consentement préalable

« Une grande partie de la valeur des données proviennent de leurs  utilisations secondaires » -   Viktor Mayer-Schönberger

http://www.internetactu.net/2012/04/11/big-data-grande-illusion/

La PROMESSE DES BIG DATA : COMPRENDRE LE MONDE ?

« Nous pouvons désormais analyser les données sans faire des hypothèses sur  ce qu’elles vont produire. Nous pouvons jeter les nombres dans le plus grand réseau d’ordinateurs que le monde n’ait jamais vu et laisser les algorithmes trouver les modèles que la science n’arrivait pas à trouver.”(...)Avec suffisamment de données, les chiffres parlent d’eux-mêmes. »  - Chris Anderson

http://www.internetactu.net/2008/09/09/est-ce-que-le-deluge-de-donnees-va-rendre-la-methode-scientifique-obsolete/

Les échecs des Big Data : Gains Marginaux ?

http://www.internetactu.net/2012/04/26/les-limites-du-ciblage-publicitaire-personnalise/http://blogs.hbr.org/cs/2012/10/big_data_hype_and_reality.html

Enjeux > La criminalisation des comportements : De La police des schémas A La JUSTICE PREDICTIVE

“Tout un chacun a une forme ou un motif de vie. Vos actions quotidiennes sont répétitives, votre comportement a ses régularités (…). Toute dérogation à la norme que vous avez vous-même établie par vos habitudes, tout écart avec les régularités de votre comportement passé peut sonner l’alerte : quelque chose d’anormal, et donc de potentiellement suspect, est en train de se produire. (…) Cette méthode relève du “renseignement fondé sur l’activité”. De la masse de données collectées au sujet d’un individu, d’un groupe ou d’un lieu, émerge progressivement des “patterns”, des motifs repérables.L’activité constitue une nouvelle alternative à l’identité.”Grégoire Chamayou, Théorie du drone.

http://www.internetactu.net/2013/05/29/theorie-du-drone-de-la-fabrique-des-automates-politiques/

Demain, il pourrait être possible d'identifier les sociopathes en fonction de leurs interactions sur les médias sociaux... - Scott Adams

Que ferons-nous d'un tel pouvoir ?'Que ferons-nous des  criminels en devenir ? Devrons-nous les jeter en prison ?    Cette erreur n'est pas nouvelle. C'est la même qui nous fait arrêter les gens dans leur voiture parce qu'ils sont noirs ou arrêter des gens dans les aéroports parce qu'ils sont musulmans. - Bruce Schneier

https://www.schneier.com/blog/archives/2013/06/finding_sociopa.html

ENJEUX > La Fin de l'anonymat ?

« En réalité, la protection de la vie privée est peut-être  une anomalie ? » - Vinton Cerf   

« L'anonymat est devenu algorithmiquement  impossible » -   Arvind Narayanan

http://www.internetactu.net/2009/09/21/critique-du-web%C2%B2-34-toutes-les-donnees-sont-devenues-personnelles/ http://www.internetactu.net/2013/06/25/peut-on-fouiller-les-donnees-des-telephones-mobiles-en-respectant-la-vie-privee/

ENJEUX > La Fin de l'anonymat ?

« Nous entrons dans un monde de prédictions basées sur des constantes qui pourraient ne pas  être en mesure d’expliquer les raisons de nos décisions. »  

Demain, un médecin pourra décider d’une intervention médicale uniquement parce que les données le lui auront indiqué, sans même en comprendre la raison… Et on entend très vite les conséquences que cela aura sur la liberté et la dignité humaine. Quel rôle sera laissé à l’intuition, à la foi, à l’incertitude, à notre libre arbitre, à notre liberté à agir en contradiction avec les preuves, à l’apprentissage par l’expérience ? A l’heure des corrélations, que va devenir notre idéal, notre capacité à toujours chercher la causalité ?

Enjeux > Le TEMPS DES CORRELATIONS et LA Fin DU LIBRE-ARBITRE ?

http://www.internetactu.net/2010/12/16/du-role-predictif-des-donnees-a-la-gouvernementalite-algorithmique/

« La gouvernementalité algorithmique est un pouvoir qui fonctionne en court- circuitant notre moralité, notre capacité d’entendement et de volonté, ce qui est très différent du mode de gouvernementalité par la loi qui permet de mesurer le pour et le contre de l’infraction à la règle. La gouvernementalité par le droit fabrique des sujet capables d’entendement et de volonté. (…) La gouvernementalité algorithmique est une hypertrophie de la sphère privée et une disparition de la sphère publique ! » -   Antoinette Rouvroy

« Une politique publique c’est le fait de refuser de prendre en considération des corrélations. Or, il semble queque désormais, les corrél désormais, les corrélations sont devenues l’expression d’une parfaite efficacité du savoir, d’une parfaite appropriation d’une action. » -   Thomas Berns

Enjeux > La fin de la politique ?

http://www.internetactu.net/2011/11/17/refaire-societe-quels-nouveaux-lieux-de-convivialite/ http://www.internetactu.net/2012/09/12/comprendre-les-nouvelles-formes-de-citoyennete-a-lheure-du-numerique/

SOLUTIONS >L'OBFUSCATION : créer DE LA CONFUSION

SOLUTIONS >L'ingenierie inversee

http://www.internetactu.net/2013/10/08/surveiller-les-algorithmes/

““Nous vivons à l’intérieur de systèmes invisibles aussi courants que des Nous vivons à l’intérieur de systèmes invisibles aussi courants que des formulaires d’assurance, des demandes de prêts, d’emplois, de formulaires d’assurance, des demandes de prêts, d’emplois, de rencontres… et nous tentons de nous y ajuster consciemment en rencontres… et nous tentons de nous y ajuster consciemment en fournissant les informations que nous pensons être les plus appropriées ou fournissant les informations que nous pensons être les plus appropriées ou les moins mal interprétées par ces systèmes.”les moins mal interprétées par ces systèmes.” - Frank Swain

Nous ne connaissons ni les règles des algorithmes ni quand elles sont modifiées… Nous ne connaissons ni les règles des algorithmes ni quand elles sont modifiées… Notre seul repère consiste à observer par essai/erreur, afin d’apprendre ce qui ne lui Notre seul repère consiste à observer par essai/erreur, afin d’apprendre ce qui ne lui convient pas. Nous apprenons en dansant !convient pas. Nous apprenons en dansant !

SOLUTIONS > REGLEMENTER !

- Diminuer la collecte :  désarmement ! - Personnaliser sans identifier- Rendre public les facteurs/critères pris en compte- Interdire certains types de croisements- Obfuscation par défaut- Données éphémères- Opt-in par défaut- Privacy by design- Nouvelle fiscalité des données- Procédures équitables- Surveiller les surveillants- Protéger les dénonciateurs...

http://www.internetactu.net/2013/06/20/pour-une-autre-innovation/ http://www.internetactu.net/2013/06/13/lutter-contre-la-surveillance-armer-les-contre-pouvoirs/

SOLUTIONS > Pour une autre innovation

http://www.internetactu.net/2013/06/20/pour-une-autre-innovation/

« C’est l’humain qui doit contrôler la machine, et jamais l’inverse. Cette  promesse, c’est celle du logiciel libre, c’est celle des services décentralisés, c’est celle du chiffrement. Mais toutes ces technologies ont en commun de nécessiter un effort actif de participation de la part de l’utilisateur… Eh oui, la liberté a un prix ! » -   Jérémie Zimmermann

« Ceux qui aiment la liberté doivent la réparer » -     Bruce Schneier

Merci ! E-mail :   hubertguillaud@gmail.comRetrouvez cette présentation sur http://fr.slideshare.net/hubertguillaud

Sur Twitter @hubertguillaud et @internetactu

Lisez http://www.internetactu.netAdhérez à la Fing http://www.fing.org