"Le moteur de recherche est la source la plus puissante du contrôle de l'esprit jamais inventé ..."

par Tyler Durden

Dim, 13/05/2018 - 15:30

Rédigé par Asher Schechter via ProMarket.org,

Le panel d'ouverture de la conférence annuelle antitrust du Centre Stigler a discuté de la source du pouvoir des plateformes numériques et de ce que l'on peut faire pour résoudre les nombreux problèmes liés à leur capacité à façonner les opinions et les résultats.

Le PDG de Google, Sundar Pichai, a fait sensation au début de la semaine en dévoilant Duplex, un assistant numérique piloté par l'IA capable d'imiter les schémas de discours humains (avec des tics vocaux) de façon convaincante. les réalisant qu'ils parlaient réellement à un robot.

Alors que Google présentait Duplex comme une percée technologique passionnante, d'autres voyaient autre chose: un système capable de tromper les gens en leur faisant croire qu'ils parlaient à un être humain, un drapeau rouge éthique (et un moyen infaillible d'accéder au robot). Après le contrecoup, Google a annoncé jeudi que le nouveau service sera conçu «avec divulgation intégrée». Néanmoins, l'épisode a créé l'impression que les préoccupations éthiques étaient une «considération après coup» pour Google, malgré le public féroce examen minutieux et d'autres géants de la technologie ont fait face au cours des deux derniers mois. "Silicon Valley est éthiquement perdue, sans gouvernail et n'a rien appris", a tweeté Zeynep Tufekci, professeur à l'université de Caroline du Nord à Chapel Hill et un éminent critique des entreprises technologiques.

La manifestation controversée n'était pas le seul signe que l'indignation mondiale n'avait pas encore inspiré les critiques profondes qu'elle pensait apporter aux entreprises de la Silicon Valley. Dans le discours de Pichai à la conférence annuelle des développeurs I / O de Google, les préoccupations éthiques concernant le data mining, le business model et l'influence politique de l'entreprise ont été brièvement abordées avec une déclaration générale laconique: «Le chemin à parcourir doit être soigneusement et délibérément ressentir un profond sentiment de responsabilité pour bien faire les choses. "

Une blague concernant le design défectueux de la bière et burger emojis de Google a reçu à peu près le même laps de temps.

Les camarades FAANG de Google semblent également impatients de mettre le «techlash» des deux dernières années derrière eux. Facebook, dont les actions sont désormais entièrement couvertes par le scandale Cambridge Analytica, se lance déjà dans de nouveaux domaines comme la datation et la blockchain.

Mais le techlash ne va probablement pas partir bientôt. La montée en puissance des plateformes numériques a eu de profonds effets politiques, économiques et sociaux, dont beaucoup ne font que commencer à se manifester, et leur taille et leur puissance font qu'il est pratiquement impossible d'exister sur Internet sans utiliser leurs services. Comme le soulignait Ben Thompson de Stratechery dans le panel inaugural de la conférence antitrust annuelle du Stigler Center le mois dernier, Google et Facebook dominent déjà la recherche et les médias sociaux et bénéficient d'un duopole dans la publicité numérique. Amazon a plus de 100 millions de membres principaux, pour qui c'est habituellement le premier et dernier arrêt pour les achats en ligne.

Beaucoup des mécanismes qui ont permis cette croissance sont opaques et enracinés dans la manipulation. Quels sont ces mécanismes, et comment les décideurs politiques et les autorités antitrust devraient-ils y répondre ? Ces questions, et d'autres, ont été au centre du panel Stigler Center, animé par Patrick Foulis, chef du bureau de l'Economist à New York.

La course au fond du tronc cérébral

"Le moyen de gagner dans la Silicon Valley est maintenant de trouver comment capter l'attention humaine. Comment manipulez-vous les instincts psychologiques les plus profonds des gens, de sorte que vous pouvez les faire revenir ? ", A déclaré Tristan Harris, un ancien éthicien du design chez Google, qui est depuis devenu l'un des critiques les plus influents de la Silicon Valley. Harris, qui a co-fondé le Center for Humane Technology, une organisation cherchant à changer la culture de l'industrie de la technologie, a décrit l'industrie de la technologie comme une «course aux armements pour qui obtient de l'attention et qui est meilleur. le tronc cérébral pour détourner l'animal humain. "

La prolifération de l'IA, a déclaré M. Harris, crée une relation asymétrique entre les plateformes et les utilisateurs. "Quand quelqu'un utilise un écran, il ne se rend pas vraiment compte qu'il se trouve dans un environnement où 1 000 ingénieurs de l'autre côté de l'écran connaissent asymétriquement beaucoup plus leur esprit [et] leur psychologie, ont 10 ans sur ce qui est jamais eu à cliquer, et utiliser les moteurs de prédiction d'IA pour jouer aux échecs contre l'esprit de cette personne. La raison pour laquelle vous atterrissez sur YouTube et vous réveillez deux heures plus tard en demandant: «Qu'est-ce qui s'est passé ?» Est qu'Alphabet et Google sont en train de déployer les meilleurs superordinateurs au monde - non pas pour le changement climatique, mais plutôt pour le détournement les animaux humains et les amener à rester sur les écrans. "

Cette «relation fiduciaire», dans laquelle une partie est capable d'exploiter massivement l'autre, est le mieux illustré par Facebook, qui s'apparente à un «psychothérapeute qui connaît tous les détails de votre vie, y compris les détails de votre vie intérieure, dans le sens qu'il ne sait pas seulement sur qui vous cliquez à deux heures du matin et ce que vous affichez et vos NIF et vos photos et votre famille et à qui vous parlez le plus et qui sont vos amis. Il assure également l'intermédiation de chacune de vos communications. Il sait à quelles couleurs votre cerveau s'allume si je vous donne un bouton rouge ou un bouton vert ou un bouton jaune. Il sait quels mots activent votre psychologie. Il connaît une quantité sans précédent d'informations sur ce qui va vous manipuler. S'il y a déjà eu un précédent ou un besoin de définir quelque chose comme étant une relation asymétrique ou fiduciaire, c'est celui-ci. "

Le modèle d'entreprise basé sur la publicité de Facebook, Harris a soutenu, est "évidemment désaligné" avec son pouvoir asymétrique. «Voudriez-vous payer ce psychothérapeute ou voudriez-vous que ce psychothérapeute prenne instantanément toutes ces informations personnelles sur vous, les détails les plus intimes de votre vie, et les vende ensuite aux vendeurs de voitures ?

"La raison pour laquelle vous atterrissez sur YouTube et vous réveillez deux heures plus tard, c'est qu'Alphabet et Google sont en train de déployer les meilleurs superordinateurs du monde - pas au changement climatique, pas à la résolution du cancer, mais essentiellement détourner les animaux humains et les amener à rester sur les écrans. "

Ce n'est pas que la Silicon Valley manque de bonne volonté, a-t-il dit. En 2013, Harris, alors chef de produit chez Google, a préparé une présentation selon laquelle Google, tout en ayant le pouvoir de façonner les élections et les sociétés, exploite souvent les vulnérabilités psychologiques des utilisateurs au lieu d'agir dans le meilleur intérêt. La présentation est devenue virale et Harris a été promu au rôle d '«éthicien du design».

En fin de compte, cependant, l'entreprise est rapidement revenue aux affaires comme d'habitude. Le problème, a déclaré Harris, était l'incitation à maximiser le temps et l'attention des utilisateurs. "Si vous êtes sur YouTube, vous êtes encouragé à amener les gens à passer du temps sur des vidéos, même si ces vidéos sont des théories du complot. Le chef de produit - 25 ans, qui restera sur YouTube pendant deux ans, est allé dans une bonne école - leur travail consiste simplement à montrer sur leur CV qu'ils ont augmenté les chiffres d'engagement sur les vidéos. Puis vous vous réveillez deux ans plus tard et YouTube a généré 15 milliards de visionnages des vidéos d'Alex Jones. Ce ne sont pas des vidéos que les gens ont cherché eux-mêmes. C'est en fait YouTube qui guide la recommandation. "

"Le moteur de recherche est la source la plus puissante de contrôle mental jamais inventé"

Robert Epstein, psychologue de recherche senior à l'Institut américain pour la recherche comportementale et la technologie en Californie et l'ancien éditeur de Psychology Today, est l'un des rares chercheurs qui ont mené des études empiriques sur la capacité des plateformes numériques à manipuler les opinions. Dans une étude de 2015, Epstein et Ronald E. Robertson ont rapporté la découverte de ce qu'ils considèrent comme "l'un des plus grands effets comportementaux jamais identifiés": l'effet de la manipulation du moteur de recherche (SEME). Simplement, en plaçant les résultats de recherche dans un ordre particulier, ils ont constaté que les préférences des électeurs peuvent changer radicalement, «jusqu'à 80% dans certains groupes démographiques».

"Ce sur quoi j'ai trébuché en 2012 ou au début de l'année 2013 par hasard était un mécanisme particulier qui montre comment vous pouvez changer les opinions et les votes une fois que vous avez des gens accrochés à l'écran", a déclaré Epstein.

Alors qu'une grande partie de l'examen politique et public des plateformes numériques a été axée sur le comportement de mauvais acteurs comme Cambridge Analytica, Esptein a qualifié ces scandales de distraction, en disant: «Ne vous inquiétez pas pour Cambridge Analytica. C'est juste un fournisseur de contenu. »Au lieu de cela, at-il dit, le pouvoir des plateformes numériques de manipuler les utilisateurs réside dans le filtrage et la commande de l'information:« Ce n'est plus le contenu qui compte. C'est juste le filtrage et la commande. "Ces fonctions, at-il noté, sont largement dominées par deux sociétés: Google et, dans une moindre mesure, Facebook.

SEME, a déclaré Epstein, n'est que l'un des cinq effets psychologiques de l'utilisation des moteurs de recherche que lui et ses collègues étudient, qui sont complètement invisibles pour les utilisateurs. "Ce sont quelques-uns des plus grands effets jamais découverts dans les sciences du comportement", at-il affirmé, "mais comme ils utilisent des stimuli éphémères, ils ne laissent aucune trace. En d'autres termes, ils ne laissent aucune trace pour les autorités à suivre. "

Un autre effet discuté par Epstein est l'effet de suggestion de recherche (SSE). Google, le document le plus récent d'Epstein, a le pouvoir de manipuler les opinions du tout premier personnage que les gens tapent dans la barre de recherche. Google, a-t-il affirmé, "exerce également ce pouvoir".

"Nous avons déterminé, grâce à nos recherches, que l'effet de suggestion de recherche peut transformer une répartition 50/50 parmi les [électeurs] indécis en une répartition de 90/10 simplement en manipulant les suggestions de recherche."

Un moyen simple de le faire, dit-il, est de supprimer les suggestions négatives. En 2016, Epstein et ses co-auteurs ont remarqué une tendance particulière en tapant les mots «Hillary Clinton» dans Google, Yahoo et Bing. Dans ce dernier cas, l'autocomplétion suggérait des recherches comme «Hillary Clinton est un diable», «Hillary Clinton est un menteur» et «Hillary Clinton est en train de mourir du cancer». Google proposait cependant des phrases beaucoup plus flatteuses. "Google a fait valoir que les différences peuvent s'expliquer par sa politique de suppression des suggestions offensantes et haineuses, mais Epstein fait valoir que ce n'est qu'un exemple des capacités massives d'opinion-déplacement des plates-formes numériques. Google, explique-t-il, a probablement déterminé les résultats d'un quart des élections mondiales ces dernières années grâce à ces outils.

"Le moteur de recherche est la plus puissante source de contrôle mental jamais inventée dans l'histoire de l'humanité", a-t-il déclaré. "Le fait qu'il soit principalement contrôlé par une entreprise dans presque tous les pays du monde, à l'exception de la Russie et de la Chine, m'étonne tout simplement."

Epstein a refusé de spéculer sur le fait que ces préjugés sont le résultat d'une manipulation délibérée de la part des sociétés de plate-forme. "Ils pourraient juste être de la négligence", a t-il dit. Cependant, il a noté, "si vous achetez dans cette notion, que Google vend par ses relations publiques, que beaucoup de ces choses drôles qui se produisent sont organiques, [ce] tout est conduit par les utilisateurs, c'est complètement absurde. Je suis programmeur depuis l'âge de 13 ans et je peux vous dire que vous pourriez construire un algorithme qui envoie les gens dans les vidéos d'Alex Jones ou loin des vidéos d'Alex Jones. Vous pouvez facilement modifier tout ce que votre algorithme fait pour envoyer des personnes partout où vous voulez les envoyer. En bout de ligne, il n'y a rien de vraiment organique. Google a un contrôle total sur ce qu'ils mettent sous les yeux des gens. "

Selon Epstein, un réseau de surveillance mondiale «réseau de type Nielsen» pourrait fournir une solution partielle. En collaboration avec «des hommes d'affaires et des universitaires éminents sur trois continents», a-t-il déclaré, il a travaillé à la mise au point d'un système permettant de suivre les «stimuli éphémères» utilisés par les plateformes numériques. En utilisant un tel système, il a déclaré: «Nous rendrons ces sociétés responsables devant le public. Nous serons en mesure de signaler les irrégularités aux autorités, aux forces de l'ordre, aux régulateurs, aux enquêteurs antitrust, à mesure que ces diverses manipulations se produisent. Nous pensons à long terme que c'est la solution aux problèmes que nous rencontrons avec ces grandes entreprises technologiques. "

Antitrust est-il la solution ?

Au cours des deux dernières années, un nombre croissant d'universitaires, de responsables politiques et de politiciens ont soutenu que de nombreux défis associés aux plateformes numériques sont liés à la concentration du marché et ont favorisé une application accrue des lois antitrust. leur pouvoir croissant. Mais l'antitrust est-il le meilleur moyen d'aborder des choses comme les modèles d'affaires qui améliorent la dépendance? Kevin Murphy, professeur d'économie à Chicago Booth, ne le pense pas.

"Tout d'abord, la plupart de ce dont nous parlons n'a rien à voir avec la concentration. Ces problèmes existeraient en l'absence de concentration. Deuxièmement, l'accent mis sur la concentration en tant que ligne de fond de l'antitrust est également mal orienté. L'idée que nous avons un nouveau monde qui ne ressemble pas à ce que nous avons vu auparavant, je ne le sais pas, je ne le vois pas », a déclaré Murphy.

"Serait-ce un problème plus facile à résoudre si nous avions 100 entreprises essayant d'influencer les gens utilisant ces mêmes méthodes ? Ce pourrait être un processus de réglementation beaucoup plus difficile dans ce monde. Il pourrait être difficile à mesurer, difficile à réglementer. Ce n'est pas clair comment cela est lié à la question de la concentration en soi ", a t-il ajouté.

Des arguments similaires sur la capacité de la technologie à manipuler les élections, a affirmé M. Murphy, ont également été avancés dans les débuts de la télévision, et des inquiétudes sur le pouvoir de marché ont été entendues pendant les premiers jours d'Internet. "Je me souviens des jours où Yahoo était censé avoir un avantage insurmontable de premier arrivé, ou [quand] AOL avait un avantage insurmontable de premier entrant dans l'accès aux yeux des gens, ou [Windows] Media Player allait dominer la musique numérique . L'idée que nous soyons en mesure de prédire comment ces marchés vont se déplacer ou de façonner la façon dont ils vont se déplacer me semble étrange. Cela semble également être une mauvaise utilisation de l'antitrust. "

Il y a aussi la question de savoir quel type d'impact les plateformes numériques ont sur l'économie dans son ensemble. Contrairement à leur importance dans le débat politique, a noté Chad Syverson, également professeur d'économie à Chicago Booth, la montée des plateformes numériques a coïncidé avec une décennie de croissance de la productivité historiquement faible. Les entreprises technologiques aiment souvent se faire passer pour cette tendance, mais jusqu'à présent, les preuves de cette tendance ont été minces. Il est possible, dit Syverson, que "l'espace cérébral dédié à ces entreprises, du moins en ce moment, dépasse l'espace économique qu'elles remplissent. L'ensemble du secteur de l'information, qui regroupe l'ensemble des télécommunications, l'ensemble de la diffusion, de l'édition, en ligne et hors ligne, ainsi que d'autres secteurs, représente moins de 5% du PIB. "

Pendant des années, les dirigeants techniques ont repoussé d'éventuelles actions antitrust en prétendant que leur position dominante n'était pas un problème de concurrence, utilisant Larry Page, le PDG d'Alphabet et le co-fondateur de Google, pour affirmer que «la concurrence n'est qu'à un clic». Selon Thompson, c'est «plutôt vrai».

"Vous pouvez aller à Bing. Vous pouvez aller à DuckDuckGo, qui ne suit pas vos informations. Vous pouvez aller à d'autres sites de commerce électronique. Vous pouvez aller à d'autres réseaux sociaux", a déclaré Thompson. "Le problème est que les clients ne veulent pas. Ce n'est pas qu'ils ne peuvent pas. C'est que personne ne veut aller ailleurs. "Les services offerts par les plates-formes sont largement supérieurs à ce qui les précédait, et les effets de réseau signifient qu'ils peuvent offrir une meilleure expérience utilisateur globale que n'importe quel autre concurrent. Selon Thompson, c'est le paradoxe auquel les forces de l'ordre antitrust doivent faire face: "Plus vous êtes gros, mieux vous êtes, du moins du point de vue du consommateur."

La concentration est vraiment importante

Répondant à Murphy, Fiona Scott Morton, professeur d'économie à l'Université de Yale, a soutenu que la capacité de la technologie à influencer et à manipuler dans le passé suscitait des préoccupations semblables, mais la différence est la précision avec laquelle les plateformes numériques peuvent cibler les utilisateurs.

La concentration, a-t-elle dit, est une question pertinente en raison de l'influence massive actuellement détenue par un petit nombre d'acteurs. "S'il y avait 30 moteurs de recherche et que tout le monde était réparti équitablement entre ces 30 moteurs de recherche et que chacun avait un parti pris, nous ne pensons pas que l'un d'entre eux ait pu faire basculer une élection. C'est dans ce sens que la concentration compte vraiment pour les problèmes dont nous parlons. "

Répondant à Syverson, Morton a déclaré qu "il est un peu trompeur" de dire que les plateformes ne représentent qu'une petite partie du PIB. L'influence de leurs technologies sur le reste de l'économie, a-t-elle noté, dépasse leur part réelle du PIB.

Bien qu'il existe des coûts potentiels associés à la réglementation des plateformes numériques, ceux-ci ne sont pas nécessairement plus importants que les avantages qui découleraient de leur réglementation, a affirmé M. Morton. "Bien sûr, nous allons faire une erreur, mais nous équilibrons les erreurs de la réglementation. Mes photos ne sont pas partagées aussi bien qu'elles auraient pu l'être. Le terme de recherche n'est pas aussi rapide qu'il le serait parce que nous avons réglementé l'entreprise d'innover dans ce domaine. Ensuite, il y a le coût de ne pas réglementer, ce qui fait que notre démocratie ne marche plus, et nous devons équilibrer ces deux choses. En tant que société, nous avons une conversation nationale sur la façon dont cette dernière chose est beaucoup plus grande que nous le pensions auparavant. "

Selon Morton, nombre de ces défis ne sont pas strictement liés à la concurrence. En ce qui concerne les lois antitrust, a-t-elle déclaré, "il y a un peu de pénurie de théories du mal", ce qui explique pourquoi les affaires antitrust contre les plateformes numériques n'ont pas progressé. "Il y a aussi une question de volonté politique de porter ces cas", a-t-elle reconnu, mais "même avec la volonté politique, vous devez avoir une très bonne explication sur la façon dont la concurrence est lésée".

À la fin du panel, Foulis a demandé aux panélistes si les plateformes seraient plus ou moins puissantes dans 10 ans. Les panélistes étaient divisés. "Dans 10 ans, je pense que le modèle commercial de la surveillance aura été rendu illégal", a déclaré Epstein, alors que Morton a fait valoir que les plates-formes deviendront finalement plus puissantes. "J'ai peur de croire que les gens qui font des profits sont vraiment capables de tirer profit de leurs profits", a-t-elle dit.

Thompson croit également que les plateformes seront plus puissantes. Cependant, il a dit: «Je pense que les gens comme Tristan sont la plus grande menace pour ces entreprises. La raison en est que leur puissance ne provient pas du contrôle des chemins de fer ou des fils téléphoniques. Leur pouvoir provient des gens qui font continuellement des choix affirmatifs pour utiliser leurs plateformes. C'est ce qui leur donne le pouvoir de monopsone. La façon dont je pense que le pouvoir sera finalement défait est à travers le processus politique. "

https://www.zerohedge.com/news/2018-05-12/search-engine-most-powerful-source-mind-control-ever-invented