L'industrie hi-tech critiquée... de l'intérieur

How Facebook got addicted to spreading misinformation

The company’s AI algorithms gave it an insatiable habit for lies and hate speech. Now the man who built them can't fix the problem.
Joaquin Quinonero Candela

March 11, 2021

Joaquin Quiñonero Candela, a director of AI at Facebook, was apologizing to his audience.

Quelques semaines après avoir alerté le Congrès américain, la lanceuse d’alerte Frances Haugen a été auditionnée par le Parlement européen ce lundi 8 novembre. Motif officiel de son intervention : évoquer avec les députés du Vieux continent « l’impact négatif des produits des grandes entreprises technologiques sur les utilisateurs ». Cette ex-cheffe de produit au sein du géant californien est particulièrement bien placée pour le savoir, puisque c’est elle qui a récemment fait fuiter ce qu’il convient désormais d’appeler les « Facebook Files ». Soit des milliers d’études internes prouvant que le géant californien était parfaitement conscient, depuis plusieurs années, de ses effets dévastateurs sur la démocratie, le savoir scientifique ou encore la santé mentale des plus jeunes.

Quand on parle de “diabolisation” des écrans, on est bien au cœur du problème. De nombreux “militants anti-écran”, qu’ils soient ou non directement reliés à l’anthroposophie, portent très souvent des discours anti-technologie très teintés d’irrationnel, de croyances et de justifications pseudo-scientifiques.

La Waldorf School of the Peninsula est bien une école sans écrans et accueille effectivement des enfants de travailleurs de la tech. Mais avec ses 300 élèves, elle ne représente qu’une infime minorité des centaines de milliers de rejetons de la Silicon Valley.

Pour leur progéniture, la vaste majorité des cadres de la tech choisissent plutôt les lycées publics de la région, très bien financés et où les écrans sont très présents.

Quant aux patrons du numérique qui « interdisent les écrans à leurs enfants », une lecture attentive de leurs déclarations révèle une réalité bien plus nuancée. Le fondateur de Microsoft, Bill Gates, et sa femme, Melinda, proscrivent bien les téléphones… à table.

Les enfants de Jony Ive, le designer en chef d’Apple, n’ont pas accès à l’iPad… sans supervision.

Susan Wojcicki, l’ancienne patronne de YouTube, limitait bien le temps d’accès de ses enfants aux smartphones… mais les a autorisés à en avoir un à partir de 11 ans.

Quant à Mark Zuckeberg et Sundar Pichai, les patrons de Meta et Google, ils appliquent des règles sur l’utilisation des écrans, mais sont loin de les avoir interdits.

Bref, à quelques exceptions près comme Steve Jobs (l’ex-PDG d’Apple qui était loin d’être un père modèle) les patrons milliardaires de la Silicon Valley...

...fixent des règles très similaires à celles qu’établissent, partout dans le monde, des centaines de millions de parents confrontés aux mêmes dilemmes sur le temps d’écran.

Les parents de la tech sont-ils, sur ce sujet, des parents comme les autres ?

« Lorsqu’on en discute entre nous, il y a un peu toutes les positions : j’ai des collègues assez anti-écrans, d’autres moins, mais ce qui est sûr, c’est qu’il y a toujours une forme de contrôle [du temps d’écran] », raconte Romain Zert, architecte logiciel (développeur de haut niveau) chez Microsoft et père de jumeaux de 6 ans. Lui-même se considère comme « plutôt permissif » : « En tout cas, plus que ma femme », plaisante-t-il. Mais le temps d’écran à la maison reste assez précisément minuté : en semaine, ses enfants peuvent espérer grappiller quelques minutes de dessins animés le matin, s’ils sont prêts en avance pour partir à l’école ; le soir, « vingt minutes de vidéo, de préférence quelque chose d’un peu éducatif, et seulement s’il n’y a pas eu d’autre temps d’écran dans la journée ».

Sa connaissance de l’informatique a pu jouer dans certains aspects de son approche, estime-t-il : « Par nature, les informaticiens sont souvent plus sensibles que la moyenne aux questions touchant aux données personnelles et à la vie privée. Je n’ai pas d’opposition de principe aux écrans, mais pour ce qui est des réseaux sociaux, les questions ne sont pas les mêmes. » Au quotidien, il reconnaît aussi avoir, peut-être davantage que d’autres, une approche teintée d’ingénierie pour contrôler le temps d’écran. « On a délégué une partie du pouvoir d’éteindre à Alexa [l’assistant vocal d’Amazon], dit-il. On demande souvent à Alexa de fixer un timer de vingt minutes : la règle est claire, c’est impartial, ça génère moins de frustrations. »
Chez Anne-Claire Bennevault, fondatrice de la start-up d’éducation à la finance Spak, les règles familiales (pas de téléphone le soir dans la chambre notamment) sont aussi largement complétées par des outils techniques comme les applications de contrôle parental. La cadette, 4 ans, n’a accès que depuis peu aux dessins animés et pour des durées limitées. L’aîné, 14 ans, a un téléphone, mais son nombre d’heures de consultation est verrouillé par un logiciel, qui bloque aussi l’accès à certaines applications.

« On a eu une discussion, on lui a expliqué que TikTok, c’était non, explique Mme Bennevault. J’ai testé moi-même l’application en créant un compte comme si j’étais un ado de 13 ans, et le premier contenu qui s’est affiché, c’était une jeune fille mineure dans une pose un peu lascive, ça m’a clairement vaccinée. » Contenus inadaptés, risques de mauvaises rencontres virtuelles : elle et son compagnon, qui a longtemps travaillé dans le marketing en ligne, sont très méfiants envers les réseaux sociaux, qu’ils connaissent très bien. Lui-même a désinstallé toutes les applications de ce type, « par souci d’exemplarité ». Mais le couple n’est pas dupe. « On sait bien aussi que toutes les règles se contournent, qu’il y a de la curiosité, qu’il y a des copains qui auront accès, reconnaît Mme Bennevault. Mais c’est important de fixer des règles. » Elle constate que « c’est sûrement plus facile pour les parents qui viennent du milieu de la tech, qui sont à l’aise avec les outils de contrôle parental », que pour des parents moins familiers des applications complexes.

Pas sûr, répond Steven (le prénom a été changé), cadre chez Meta en Europe et père d’un fils de cinq ans. Lui n’est pas certain qu’il aurait fixé des règles différentes s’il avait travaillé dans un autre domaine. « Aujourd’hui, nous sommes tous exposés aux écrans au même niveau, y compris les adultes, dès qu’on travaille avec un ordinateur, estime-t-il. Tout le monde se pose les mêmes questions. » Chez lui, les règles sont plutôt strictes : pas d’écrans en semaine, pas de vidéos sur le téléphone de papa ou maman. « Le portable est la propriété des parents, il n’est pas en libre accès, un prêt doit rester un prêt », explique-t-il. Les dessins animés restent cantonnés à un moment bien défini, réservé au week-end, et uniquement sur le vidéoprojecteur familial pour une heure maximum. Steven et sa compagne essaient de privilégier les activités numériques éducatives ou créatives.

Souvent, pour ces professionnels, tous les écrans ne se valent pas. Chez les développeurs en informatique, majoritairement des hommes et souvent des amateurs de jeux vidéo, difficile d’interdire à ses enfants un loisir qu’on adore soi-même, et qu’on brûle souvent de partager avec eux. C’est le cas de Danny Gray, père d’un jeune fils de 2 ans et demi, et directeur de la création (chief creative officer) du studio de jeux vidéo Ustwo, connu pour ses excellents jeux vidéo adaptés aux enfants comme Monument Valley ou Alba : a wildlife adventure.
« J’ai hâte de pouvoir jouer avec mon fils plus tard, sourit-il en répondant aux questions du Monde. Je ne vois rien de mal à ce qu’un enfant de 5 ans puisse jouer à jeu vidéo : moi-même, j’ai beaucoup joué enfant, et je m’en suis bien sorti ! En revanche, nous avons fixé une règle d’or avec ma compagne, qui travaille dans l’édition et n’est pas du tout issue du monde du jeu vidéo : tout doit être fait avec modération. » En tant que professionnel, il accorde aussi beaucoup d’importance aux types de jeux auxquels il envisage de donner accès à son fils dans quelques années : « Personnellement, je suis très déçu par le fait que beaucoup de jeux récents se soient détournés de la narration : la plupart des grands succès récents auprès des enfants, comme Roblox ou Fortnite, sont des plates-formes sociales avec de multiples expériences de jeu, sans réelle histoire. Leur côté social est très positif, mais c’est aussi le royaume des achats intégrés, une expérience hypercapitaliste. » Partagé, M. Gray constate que « la vie sociale des adolescents d’aujourd’hui se déroule en grande partie sur Tik Tok, Instagram, et ces jeux vidéo plates-formes : c’est difficile de leur enlever cela. »

Des classes aisées plutôt permissives

De manière générale, ce qui distingue le plus les parents qui travaillent dans le numérique, c’est peut-être simplement le fait qu’ils sont… plus riches que la moyenne. C’est en tout cas ce que suggère une passionnante étude sociologique, publiée en 2022 dans le Journal of marriage and family. En analysant les réponses à un questionnaire de plus de 4 000 familles américaines à « haut statut socio-économique », complétées par 77 entretiens, les chercheurs ont pu établir une cartographie assez détaillée du rapport aux écrans de ces familles de diplômés ayant de bons revenus. Et les résultats montrent que celles-ci, qui dans d’autres domaines ont tendance à suivre de près les recommandations des pouvoirs publics, laissent leurs enfants plus longtemps que conseillé devant des écrans, et autant que les ménages plus modestes. « Ces résultats globaux s’appliquent, sans différence significative, aux parents qui travaillent dans la tech, qui composaient environ un tiers de l’échantillon étudié », détaille au Monde Stefanie Möllborn, première autrice de l’étude et professeure de sociologie à l’université de Stockholm. Dans le détail, « il y a d’importantes variations sur le fait d’interdire ou non l’accès aux écrans entre 9 ans et 11 ans, sur l’encouragement à utiliser telle ou telle technologie, ou sur l’établissement de limites de temps. La plupart des parents s’inquiètent de l’usage que font leurs enfants de la technologie et ont établi des stratégies claires pour tenter de le contrôler, sans être toujours sûrs qu’elles fonctionnent. »

Une raison pourrait expliquer pourquoi les parents les plus aisés sont en moyenne plus « permissifs » sur ce sujet que sur d’autres : ils étaient particulièrement nombreux à avoir coché, dans le questionnaire, la case « nous avons des règles, mais les enfants peuvent faire leurs propres choix ». Les parents aisés encouragent davantage leurs enfants à négocier voire à contester les normes, pour peu qu’ils aient de bons arguments, et ils aiment moins fixer des cadres immuables, notent les chercheurs. Ce qui peut rendre les conflits plus courants et « perturber les mécanismes finement établis pour tenter de contrôler l’accès à la technologie des enfants ».