Version française / please read in English below
La semaine dernière, j'ai lu d'un développement juridique historique concernant la communauté tech aux États-Unis. Plusieurs États ont porté une série d'actions en justice contre l'une des plus grandes entreprises de réseaux sociaux, Meta, l'accusant d'attirer les enfants sur ses plates-formes et de les inciter à consommer ses produits. "Il y a une crise mentale chez les jeunes (en Amérique) et nous devons agir..." disent-ils. Mieux vaut tard que jamais. Ce n'est qu'après quelques instants que j'ai compris la gravité de ce qui était en train de se passer : Une étonnante coalition d'États rouges, comme le Mississippi, qui interdit totalement l'avortement depuis juillet 2022, et d'États bleus, comme le Michigan, qui attaquent ensemble et avec des arguments similaires est une rareté politique.
Netflix, stop chilling
Petite rétrospective de ce qui s'est passé : Tout commence à l'automne 2020 avec la sortie de "The Social Dilemma" sur Netflix. La série documentaire explique les côtés sombres des plateformes de médias sociaux. Comment elles orientent psychologiquement l'esprit et les intérêts des jeunes utilisateurs avec les likes et comment elles les confondent finalement avec de la valeur et, plus effrayant encore, avec de la vérité.
Cela a amené les gens à discuter de ces questions plus ouvertement et plus bruyamment. Les régulateurs ont commencé à s'inquiéter et à élever la voix. Face à l'ampleur des dépressions et des suicides chez les jeunes, ils ont commencé à se pencher sur la question, la consommation de réseaux sociaux semblant être l'une des causes de ces phénomènes.
J'ai écrit à ce sujet dans une newsletter en juin 2020. En revanche, ma question n'a jamais été de savoir si nous étions au courant des maux psychologiques que les médias sociaux procuraient de plus en plus ou procurent encore. Il s'agissait bien plus de comprendre et de prendre conscience de la manière dont ces technologies nous influencent intrinsèquement, ainsi que notre santé mentale au quotidien.
Il y a trois ans, j'ai cité Sean Parker, le président fondateur de Facebook, âgé de 38 ans, qui a ouvertement déclaré dès novembre 2017 que l'idée des réseaux sociaux n'a jamais été d'unir les gens ou de leur donner un accès plus rapide à l'amitié en ligne. Il s'agissait d'une manœuvre délibérée pour nous distraire : Le processus de réflexion était le suivant : "Comment pouvons-nous consommer le plus possible de votre temps et de votre attention consciente ?". Les programmeurs et les architectes numériques sont payés pour exploiter une "vulnérabilité de la psychologie humaine" généralement connue.
La même année, Tristan Harris, ancien fondateur de start-up et ingénieur chez Google, a décidé de tirer la sonnette d'alarme lors de l'interview d'Anderson Cooper. "Il existe tout un ensemble de techniques pour que vous utilisiez votre téléphone portable le plus longtemps possible. La Silicon Valley programme les gens. Ils veulent que vous l'utilisiez d'une certaine manière et pendant de longues périodes. C'est ainsi qu'ils gagnent de l'argent".
Si, en tant qu'adultes responsables et intelligents, nous sommes consciemment maintenus dans nos bulles de filtre, si nous sommes dirigés de manière invisible par ces flux de réseaux sociaux, imaginez ce que doit ressentir un enfant préadolescent ou un adolescent ?
Travail d’enfants avec des données
En cette période incertaine et froide de 2021, alors que les parents et les éducateurs sont en état d'alerte, Facebook a annoncé son intention de développer un nouveau service, Instagram pour les enfants de moins de 13 ans. La sonnette d'alarme n'en a été que plus forte. L'entreprise était clairement en train de développer "un programme de formation" pour nos plus jeunes en transformant leur temps de jeu et de croissance en données, leurs expériences d'apprentissage en habitudes et donc leurs petites vies en d'énormes quantités de valeur économique.
À l'époque déjà, les quelque 40 procureurs généraux à l'origine de l'action en justice actuelle ont écrit une lettre unanime à Mark Zuckerberg, PDG de Facebook, pour lui demander de ne pas mettre en œuvre les plans d'une plateforme pour les enfants et les préadolescents. Quelques jours après la publication de cette lettre, un autre dénonciateur de l'entreprise est apparu à l'horizon, partageant des informations profondément accablantes : "De nombreux rapports de recherche internes de Facebook indiquent que la plateforme a des effets négatifs graves sur une partie importante des adolescents et des enfants. Frances Haugen, une ancienne chef de produit de Facebook, a pris et publié des dizaines de milliers de documents internes. Elle a parlé au Wallstreet Journal et a témoigné devant le Congrès que l'entreprise savait ce qu'elle faisait. "Les dirigeants de l'entreprise savent comment rendre Instagram plus sûr, mais ils refusent d'apporter les changements nécessaires. Ils ont fait passer leurs profits astronomiques avant les gens".
Sans surprise, cela a créé un énorme tremblement de terre : Facebook a officiellement arrêté le développement du service pour enfants et, en février 2022, a changé son nom en Meta. 40 procureurs généraux ont annoncé le début d'une vaste enquête sur Meta, mais surtout sur Instagram. Ils voulaient comprendre si l'entreprise avait délibérément créé une plateforme pour rendre les enfants accros et si elle savait qu'elle pouvait leur causer du tort.
Au cours des deux dernières années, ils ont rassemblé des milliers de documents internes montrant le fonctionnement d'Instagram, ainsi que les témoignages d'autres dénonciateurs. Ils affirment aujourd'hui disposer d'un dossier solide, dans lequel ils accusent notamment Instagram d'avoir délibérément conçu des fonctionnalités addictives qui nuisent aux enfants, d'avoir menti et dissimulé sciemment ces préjudices, et d'avoir permis à des utilisateurs mineurs (moins de 13 ans) d'accéder à la plateforme.
Une affaire brûlante
Pour les États, cette affaire s'apparente à la crise sanitaire liée au tabac. Du point de vue des procureurs généraux, ils ont décidé de considérer les plaintes déposées contre Meta comme un cas d'automutilation des jeunes, de la même manière qu'ils ont vu les effets déplorables sur la santé des cigarettes, des dispositifs de vapotage ou des opioïdes.
Une comparaison assez forte, qui fait les gros titres et énonce clairement un message. Mais ces deux secteurs d'activité sont-ils vraiment comparables ?
Il ne fait aucun doute que l'industrie du tabac empoisonnait, et empoisonne toujours, ses consommateurs et les rend dépendants. Il est également vrai qu'elle accrochait les adolescents et les enfants le plus tôt possible. Je me souviens de l'un de mes avocats télévisuels douteux préférés, Alan Shore dans Boston Legal, qui plaide cyniquement contre les grandes sociétés de tabac. Il explique que les "cafards" trouvent toujours de nouveaux moyens d'inciter les jeunes à fumer, parce que... "si vous fabriquez un produit qui tue votre consommateur, vous devez trouver un moyen de recruter de nouveaux consommateurs ! Les médias sociaux sont différents et leur caractère addictif ou non devra être prouvé (légalement) devant un tribunal.
Il existe néanmoins des parallèles visibles. L'approche marketing et communicationnelle des plateformes pour mettre leurs produits sur le marché et les y maintenir est similaire, un étrange déjà-vu d'Edward Bernays.
Brûler la liberté
Son approche pionnière de la propagande, quelques années avant que Goebbels ne l'applique à la guerre totale, ainsi que son invention des relations publiques contemporaines font incontestablement d'Edward Bernays une figure historique. La manière intelligente mais éthiquement douteuse dont il a incité les femmes à fumer est un prédécesseur évident des stratégies de marketing actuelles, pour lesquelles Meta est aujourd'hui mis en accusation. Lorsqu'il a commencé à travailler pour l'American Tobacco Company, Bernays s'est vu confier l'objectif d'augmenter les ventes de cigarettes parmi les femmes, qui, en général, évitaient auparavant de fumer.
Sa première approche stratégique a consisté à persuader les femmes de fumer des cigarettes au lieu de manger. L'histoire sans fin de la promotion de l'idéal de minceur lui-même, en utilisant des photographes, des artistes, des journaux et des magazines pour promouvoir la beauté particulière des femmes minces.
Exécutée sans faille, la première campagne a réussi : les femmes ont fumé davantage de cigarettes.
Plus ou moins cent ans plus tard, peu de choses semblent avoir changé. Instagram est, entre autres, accusé de promouvoir et d'utiliser sciemment des filtres "rehaussant la beauté", qui, en retour, font que les jeunes adolescentes se sentent moins belles, moins saines, etc. Associé à la pression sociale des likes (équivalant à être aimé, cool, apprécié et donc moins seul), la commodité sans frontières réelles de se moquer (des corps) et de harceler ses pairs icognito, ainsi que la gratification instantanée ou la frustration d'un flux sans fin de "belles personnes heureuses", semblent avoir créé une augmentation de la dépression chez les adolescents, de la solitude et des pensées suicidaires. Selon des documents internes de Meta, l'entreprise sait que 18% des filles entre 13 et 17 ans ont été harcelées sexuellement sur Instagram au cours des 7 derniers jours. Sachant qu'en 2021, un peu plus de deux milliards de personnes utilisaient activement leurs services... les traumatismes actuels et futurs qui en résultent sont inimaginables !
Nous savons que Steve Jobs et Bill Gates ne permettaient pas à leurs enfants d'utiliser certaines technologies telles que l'Ipad ou l'Iphone et qu'ils imposaient que les heures de déjeuner et de dîner soient des heures sans technologie.
De même, Bernays ne fumait pas de cigarettes lui-même, il a même essayé avec persévérance de convaincre sa femme d'arrêter. Il disait qu'il valait mieux implanter une idée dans l'esprit d'un groupe et le laisser la diffuser, plutôt que de la rédiger et de l'envoyer aux journaux sous forme de communiqué de presse, à l'ancienne...
Bien que nous n'entendions parler que d'avancées technologiques inédites, il semble que peu de choses aient évolué au cours des 100 dernières années, ou bien est-ce le cas ?
English version / Lisez la version française ci-dessus
Last week I read about the historic legal development regarding the digital community in the United States, with probable worldwide effects. Multiple states filed a set of lawsuits against one of the largest social media companies, Meta, accusing it of luring children onto its platforms and hooking them into its products. “There is a youth mental crises (in America) and we need to act…” , they say. Better late than never. Only after a few moments did I understand the gravity of what was actually happening: An astonishing coalition of red states, such as Mississippi with a total abortion ban since July 2022, and blue states, such as Michigan, filing together and with similar arguments is a political scarcity.
Netflix, stop chilling
A little backstory of what happened: All starts in the fall of 2020 with Netflix releasing “the Social Dilemma”. The documentary series explains the dark sides of the social media platforms. How they psychologically steer the young users minds and interests with likes and how they finally conflate them with value and, even scarier, with truth.
This brought people to discuss these issues more openly and loudly. Regulators started to worry and to raise their voices. With striking heights of youth depressions and teenage suicides, they started to look into things, as social media consumption seemed to be one of the causes.
I wrote about this in a newsletter in June 2020. My question on the other hand was never whether we knew about the psycolocical ills social media increasingly provided or still provides. It was much more to understand and to be aware of how these technologies intrinsically influence us, as well as our mental health in our everyday life.
Three years ago I cited Sean Parker, the 38-year-old founding president of Facebook, who openly stated as early as back in November 2017 that the idea of social media was never to unite people or to give them quicker access to online-friendship. It was a deliberate move to distract us: “The thought process was: ‘How do we consume as much of your time and conscious attention as possible?’”. Programmers and digital architects are payed to exploit a generally known “vulnerability in human psychology”.
In the same year Tristan Harris, a former start-up founder and Google engineer, decided to blow a whistle with Anderson Cooper. “There is a whole playbook of techniques to get you using the mobile phone for as long as possible. Silicon Valley is programming people. They want you to use it in particular ways and for long periods of time. Because that’s how they make their money.”
If we as responsable, intelligent and self-aware adults are consciously kept in our filter bubbles, if we are invisibily led by these social media streams, imagine how a preadolescent kid or a teenager must feel?
Kids-labour through data
Back in the uncertain and chilly times of 2021 with parents and educators on psycologial support high alert, Facebook announced it's intent to develop a new service: Instagram for kids under 13. That was raising the volume of the alarm bells even more. The company was clearly developping "a training program" for our youngest by transforming their playtime of growth into data, their learning experiences into habits and thus their little lives into enormous amounts of economical value.
Already back then, the somewhat 40 attorneys general behind the current lawsuit, wrote a unanimous letter to Mark Zuckerberg, CEO of Facebook, asking him to hold back on the plans of a social media platform for kids and preadolescents. A few days after the letter was published, another whistleblower from within the company appeared on the horizon sharing profoundly damming information: "Many of Facebook's internal research-reports indicate that the platorm has a serious negativ harm on a significatif portion of teenagers and childern." Frances Haugen, a former Facebook product manager had taken and published tens of thousands of internal documents. She spoke to the Wallstreet Journal and testified in Congress that the company knew that they were doing. "The companies leadership knows how to make instagram safer, but wont take the necessary changes. They have put their astronomical profits before people."
Unsurprinsingly, this created an enormous earthquake: Facebook offcialy stopped the developpment of the kids service and, in February 2022, changed its name to Meta. 40 attorneys general announced the beginning of a vast investigation into now Meta, but particularly into Instagram. They wanted to understand if the company had deliberaltly created a platform to addict kids and knew that it could cause them harm.
Over the last two years they have amassed thousands of internal documents, showing how instagram works, as well as the testimonies of other whistleblowers. They now claim to have a solid case, in which they accuse particularly Instagram, of deliberatly designing addictive features that harm children; of lying about and kowingly concealing the harms; and also of allowing underage user (under 13) onto the platform.
Smoking hot
The states see this case similar to the tobacco linked health crisis. In the attorneys general’s point of view, they have decided to see the filings against Meta as a case about self harms against young people in the same way as they saw the deplorable health effects of cigarettes, vaping devices or opioids.
A quite loud comparison, one that makes headlines and clearly states a message. But, are these two business sectors really comparable?
It is without any doubt a proven fact (by now) that the tobacco industry was, and still is, poisoning their users and getting them addicted. It is also true that they were hooking teenagers and children as early as possible. I remember one of my favorite questionable TV lawyers, Alan Shore in Boston Legal, cynically pleading against big tobacco. He shares how "cockroaches" would always find new ways to get young people to smoke, because... “if you make a product that kills of your consumer, you have to find a way to recruit new costumers!" Social media is different and whether it is addictive or not will have to be (legally) proven in a court of law.
There are nonetheless visible parallels. The marketing and communication approach of the social media platforms to get their products to market and to keep it there is similar, a strange déjà-vu-ode to Edward Bernays.
Torching freedom
His pioneering approach to propaganda, just a few years before Goebbels applied it to get the total war, as well as his invention of contemporary public relations make Edward Bernays unquestionably a historic figure. His somehow smart but ethically questionable way to get women to smoke is a clear predecessor of current marketing strategies, for which Meta gets indicted today. When he started working for American Tobacco Company, Bernays was given the objective of increasing cigarette sales among women, who in general had formerly avoided smoking.
His first strategic approach was to persuade women to smoke cigarettes instead of eating. The never ending story of promoting the ideal of thinness itself, using photographers, artists, newspapers, and magazines to promote the special beauty of thin women.
Flawlessly executed, the first campaign succeeded; women smoked more cigarettes.
More or less a hundred years later, few things seem to have changed. Instagram is, amongst other things, accused of knowignly promote and use "beauty enhancing" filters, which in return make young teenage women feel less beautiful, healthy and so on. Paired with the social pressure of likes (equal being liked, cool, appreciated and thus less lonley, alone), the convenience without real borders to (body)shame and harrass peers icognito and the instant gratification or frustration of a never ending stream of "beautiful, happy people" seems to have created a profound disconfort, a rise of teenage depression, loneliness and suicidal thoughts. According to internal documents of Meta, the company knows that 18% of girls between 13 and 17 have been sexualy harrased on Instagram during the last 7 days. Knowing that in 2021 a little over two billion people were actively using their services... the resulting actual and future trauma is inimaginable!
We know of Steve Jobs and Bill Gates not allowing their kids to use certain technology such as the Ipad or to impose lunch and diner time as tech free time.
Similarly Bernays did not smoke cigarettes himself, he even persistently tried to get his wife to quit. He said that it woudl be better to implant an idea in a group's mind and let them spread it ,rather than to write it up and send it to the papers as a pressrelease, in the old-fashioned way...
Allthough we only hera about never seen technological advances, not much seems to have evolved in the last 100 years, or has it?