Murdered by My Replica?
Margaret Atwood responds to the revelation that pirated copies of her books are being used to train AI.
Remember The Stepford Wives? Maybe not. In that 1975 horror film, the human wives of Stepford, Connecticut, are having their identities copied and transferred to robotic replicas of themselves, minus any contrariness that their husbands find irritating. The robot wives then murder the real wives and replace them. Better sex and better housekeeping for the husbands, death for the uniqueness, creativity, and indeed the humanity of the wives.
The companies developing generative AI seem to have something like that in mind for me, at least in my capacity as an author. (The sex and the housekeeping can be done by other functionaries, I assume.) Apparently, 33 of my books have been used as training material for their wordsmithing computer programs. Once fully trained, the bot may be given a command—“Write a Margaret Atwood novel”—and the thing will glurp forth 50,000 words, like soft ice cream spiraling out of its dispenser, that will be indistinguishable from something I might grind out. (But minus the typos.) I myself can then be dispensed with—murdered by my replica, as it were—because, to quote a vulgar saying of my youth, who needs the cow when the milk’s free?
To add insult to injury, the bot is being trained on pirated copies of my books. Now, really! How cheap is that? Would it kill these companies to shell out the measly price of 33 books? They intend to make a lot of money off the entities they have reared and fattened on my words, so they could at least buy me a coffee.
A certain amount of hair-tearing and hair-splitting is bound to go on over such matters as copyright licenses and “fair use.” I will leave those more knowledgeable about the hair business to go at it. I recall, though, some of the more fatuous comments that were made in my country during the “fair use” debate some years ago, when the Canadian government was passing a bill that in effect granted universities the right to repackage the texts of books gratis, and then sell them to students, pocketing the change. But what are writers to live on? was the question. Oh, they can, you know, get grants and teach creative writing in universities and so on, was the airy reply from one lad, an academic. He had clearly never existed as a freelancer.
Beyond the royalties and copyrights, what concerns me is the idea that an author’s voice and mind are replicable. As young smarty-pants, we used to write parodies of writers older and more accomplished than ourselves. The more mannered an author, the easier it was for us. Hemingway? Dead simple! (Dead. Simple.) Henry James? Max Beerbohm had beat us to it, with his baroque masterpiece, The Mote in the Middle Distance. Shakespeare? Nay, needst thou ask, thou lily-livered pup? Jane Austen? Jane visits the dentist: “It is a tooth universally acknowledged …” The sentence structure, the vocabulary—adjectives and adverbs, especially—the cadence, the subject matter: All were our fodder, as they are the fodder, too, of chatbots. But we were doing it for fun, not to impersonate, to deceive, to collect, and to render the author superfluous.
Orwell, of course, was there before: In 1984, there are machines that crank out trashy romance novels as opium for the proles, and I suppose if a literary form is generic and formulaic enough, a bot might be able to compose examples of it. But judging from the attempt recently made with one of these entities—“Write a Margaret Atwood science-fiction short story about a dystopian future”—anything more complex and convincing is as yet beyond it. The result, quite frankly, was pedestrian in the extreme, and if I actually wrote like that, I would defenestrate myself immediately. The program, so far, does not understand figurative language, let alone irony and allusion, and its flat-footed prose was the opposite of effective storytelling. But who knows what the machines might yet achieve? you may say. I’ll wait and see. Maybe they’ll at least turn out a mediocre murder mystery or two.
I am, however, reminded of the Hans Christian Andersen story “The Nightingale.” The clockwork bird can sing, but only the song with which it has been programmed. It can’t improvise. It can’t riff. It can’t surprise. And it is in surprise that much of the delight of art resides: Otherwise, boredom sets in quickly. Only the living bird can sing a song that is ever renewed, and therefore always delightful.
A former teacher of mine once said there was only one important question to be asked of a work of art: “Is it alive, or is it dead?” Judging from the results I’ve seen so far, AI can produce “art” of a kind. It sort of looks like art; it sort of sounds like art. But it’s made by a Stepford Author. And it’s dead.
Margaret Atwood is a Canadian poet and short-story writer, as well as the author of more than a dozen novels. Her novel The Handmaid’s Tale is among the most frequently banned books in the United States.
Le dernier album de Tintin publié date de 1986, mais un nouveau pourrait voir le jour en 2052 ou 2053 selon son éditeur Casterman, malgré le souhait formulé par Hergé avant sa mort. Le but avoué est de prolonger le droit d'auteur de l'œuvre, qui s'éteindra le 1er janvier 2054, 70 ans après le décès d'Hergé.
La publication d'une nouvelle oeuvre originale pourrait en effet étendre encore ces droits, par exemple de 25 ans en France et dans la plupart des pays européens. Cette initiative est cependant critiquée par certaines personnes, qui accusent les éditions Casterman de trahir la volonté initiale de Hergé.
Un texte commun de directive européenne vient d'être adopté. Il réforme les principes du droit d'auteur en ligne et les règles applicables aux plateformes de contenu. Décryptage.
(CCM) — La Commission européenne, le Conseil de l'UE et le Parlement européen viennent de se mettre d'accord sur un projet commun de directive sur le copyright et les droits d'auteur numériques. Cette proposition veut moderniser le droit européen, à l'heure de l'omniprésence du digital.
Comme l'indique Andrus Ansip le vice-président de la Commission Européenne en charge du marché unique digital dans son tweet (lien en anglais), les instances européennes veulent avec ce texte à la fois garantir les droits des utilisateurs de services numériques, moderniser les règles applicables aux plateformes de contenus en ligne et assurer la rémunération des producteurs de contenus. Réussir cette triple mission n'était pas gagné d'avance car en matière de droits d'auteur et de copyright, les intérêts des différents acteurs sont divergents la plupart du temps. Plusieurs points du texte font encore débat au sein de la communauté des experts en droit des contenus numériques.
En particulier, l'article 11 veut mettre en place une taxe sur les liens hypertextes sortants. Les créateurs de contenus numériques et les éditeurs de presse obtiennent le droit de demander une rémunération aux plateformes qui affichent un extrait – même « très court » – de leurs contenus. Les agrégateurs d'actualités et les moteurs de recherche sont directement visés, au premier rang desquels Google avait déjà prévenu que cet article 11 pourrait entraîner la fermeture de Google Actualités (cf. notre article sur le sujet). Reste à savoir comment seront interprétées les notions « d'extraits très courts » et d'agrégateurs de contenu. Sur ce dernier point, il se pourrait que même les blogs personnels tenus par des particuliers ou les sites associatifs à but non lucratif soient également concernés par la taxe sur les liens sortants.
Pour laisser le temps aux acteurs du digital de s'organiser, une période de protection de deux ans est prévue par le texte, pendant laquelle les liens hypertextes peuvent encore être utilisés librement. D'ici à 2021, les discussions promettent d'être vives pour négocier la mise en application du texte européen, consultable sur le site de la Commission.
La semaine dernière, lors d’un vote qui a divisé presque tous les grands partis de l’Union européenne, les députés européens ont adopté toutes les terribles propositions de la nouvelle directive sur le droit d’auteur et rejeté toutes les bonnes, ouvrant la voie à la surveillance de masse automatisée et à la censure arbitraire sur Internet : cela concerne aussi bien les messages – comme les tweets et les mises à jour de statut sur Facebook – que les photos, les vidéos, les fichiers audio, le code des logiciels – tous les médias qui peuvent être protégés par le droit d’auteur.
Trois propositions ont été adoptées par le Parlement européen, chacune d’entre elles est catastrophique pour la liberté d’expression, la vie privée et les arts :
Article 13 : les filtres de copyright. Toutes les plateformes, sauf les plus petites, devront adopter défensivement des filtres de copyright qui examinent tout ce que vous publiez et censurent tout ce qu’ils jugent être une violation du copyright.
Article 11 : il est interdit de créer des liens vers les sites d’information en utilisant plus d’un mot d’un article, à moins d’utiliser un service qui a acheté une licence du site vers lequel vous voulez créer un lien. Les sites d’information peuvent faire payer le droit de les citer ou le refuser, ce qui leur donne effectivement le droit de choisir qui peut les critiquer. Les États membres ont la possibilité, sans obligation, de créer des exceptions et des limitations pour réduire les dommages causés par ce nouveau droit.
Au même moment, l’UE a rejeté jusqu’à la plus modeste proposition pour adapter le droit d’auteur au vingt-et-unième siècle :
Pas de « liberté de panorama ». Quand nous prenons des photos ou des vidéos dans des espaces publics, nous sommes susceptibles de capturer incidemment des œuvres protégées par le droit d’auteur : depuis l’art ordinaire dans les publicités sur les flancs des bus jusqu’aux T-shirts portés par les manifestants, en passant par les façades de bâtiments revendiquées par les architectes comme étant soumises à leur droit d’auteur. L’UE a rejeté une proposition qui rendrait légal, à l’échelle européenne, de photographier des scènes de rue sans craindre de violer le droit d’auteur des objets en arrière-plan ;
J’ai passé la majeure partie de l’été à discuter avec des gens qui sont très satisfaits de ces négociations, en essayant de comprendre pourquoi ils pensaient que cela pourrait être bon pour eux. Voilà ce que j’ai découvert.
Ces gens ne comprennent rien aux filtres. Vraiment rien.
L’industrie du divertissement a convaincu les créateurs qu’il existe une technologie permettant d’identifier les œuvres protégées par le droit d’auteur et de les empêcher d’être montrées en ligne sans une licence appropriée et que la seule chose qui nous retient est l’entêtement des plateformes.
La réalité, c’est que les filtres empêchent principalement les utilisateurs légitimes (y compris les créateurs) de faire des choses légitimes, alors que les véritables contrefacteurs trouvent ces filtres faciles à contourner.
En d’autres termes : si votre activité à plein temps consiste à comprendre comment fonctionnent les filtres et à bidouiller pour les contourner, vous pouvez devenir facilement expert⋅e dans ce domaine. Les filtres utilisés par le gouvernement chinois pour bloquer les images, par exemple, peuvent être contournés par des mesures simples.
Cependant, ces filtres sont mille fois plus efficaces que des filtres de copyright, parce qu’ils sont très simples à mettre en œuvre, tandis que leurs commanditaires ont d’immenses moyens financiers et techniques à disposition.
Mais si vous êtes un photographe professionnel, ou juste un particulier qui publie son propre travail, vous avez mieux à faire que de devenir un super combattant anti-filtre. Quand un filtre se trompe sur votre travail et le bloque pour violation du copyright, vous ne pouvez pas simplement court-circuiter le filtre avec un truc clandestin : vous devez contacter la plateforme qui vous a bloqué⋅e, vous retrouvant en attente derrière des millions d’autres pauvres gogos dans la même situation que vous.
Croisez les doigts et espérez que la personne surchargée de travail qui prendra votre réclamation en compte décidera que vous êtes dans votre droit.
Bien évidemment, les grosses entreprises du divertissement et de l’information ne sont pas inquiétées par ce résultat : elles ont des points d’entrée directe dans les plateformes de diffusion de contenus, des accès prioritaires aux services d’assistance pour débloquer leurs contenus quand ceux-ci sont bloqués par un filtre. Les créateurs qui se rallieront aux grandes sociétés du divertissement seront ainsi protégés des filtres – tandis que les indépendants (et le public) devront se débrouiller seuls.
Ils sous-estiment lourdement l’importance de la concurrence pour améliorer leur sort.
La réalisation des filtres que l’UE vient d’imposer coûtera des centaines de millions de dollars. Il y a très peu d’entreprises dans le monde qui ont ce genre de capital : les géants de la technologie basés aux États-Unis ou en Chine et quelques autres, comme VK en Russie.
L’obligation de filtrer Internet impose un seuil plancher à l’éventuel fractionnement des grandes plateformes par les régulateurs anti-monopole : puisque seules les plus grandes entreprises peuvent se permettre de contrôler l’ensemble du réseau à la recherche d’infractions, elles ne pourront pas être forcées à se séparer en entités beaucoup plus petites. La dernière version de la directive prévoit des exemptions pour les petites entreprises, mais celles-ci devront rester petites ou anticiper constamment le jour où elles devront elles-mêmes endosser le rôle de police du droit d’auteur. Aujourd’hui, l’UE a voté pour consolider le secteur des technologies, et ainsi pour rendre beaucoup plus difficile le fonctionnement des créateurs indépendants. Nous voyons deux grandes industries, faisant toutes deux face à des problèmes de compétitivité, négocier un accord qui fonctionne pour elles, mais qui diminuera la concurrence pour le créateur indépendant pris entre les deux. Ce qu’il nous fallait, c’était des solutions pour contrer le renforcement des industries de la technologie comme de celles de la création : au lieu de cela, nous avons obtenu un compromis qui fonctionne pour elles, mais qui exclut tout le reste.
Comment a-t-on pu en arriver à une situation si désastreuse ?
Ce n’est pas difficile à comprendre, hélas. Internet fait partie intégrante de tout ce que nous faisons, et par conséquent, chaque problème que nous rencontrons a un lien avec Internet. Pour les gens qui ne comprennent pas bien la technologie, il y a un moyen naturel de résoudre tout problème : « réparer la technologie ».
Dans une maxime devenue célèbre, Arthur C. Clarke affirmait que « toute technologie suffisamment avancée est indiscernable de la magie ». Certaines réalisations technologiques semblent effectivement magiques, il est naturel d’être témoin de ces miracles du quotidien et d’estimer que la technologie peut tout faire.
L’incapacité à comprendre ce que la technologie peut ou ne peut pas faire est la source d’une infinité d’erreurs : depuis ceux qui affirment hâtivement que les machines à voter connectées peuvent être suffisamment sécurisées pour être utilisées lors d’une élection nationale ; aux officiels qui claironnent qu’il est possible de créer un système de chiffrement qui empêche les truands d’accéder à nos données, mais autorise la police à accéder aux données des truands ; en passant par la croyance que le problème de la frontière irlandaise post-Brexit peut être « solutionné » par de vagues mesures techniques.
Dès que quelques puissants décideurs des industries du divertissement ont été persuadés que le filtrage massif était possible et sans conséquence néfaste, cette croyance s’est répandue, et quand les spécialistes (y compris les experts qui font autorité sur le sujet) disent que ce n’est pas possible, ils sont accusés d’être bornés et de manquer de vision, pas d’apporter un regard avisé sur ce qui est possible ou non.
C’est un schéma assez familier, mais dans le cas de la directive européenne sur le copyright, il y a eu des facteurs aggravants. Lier un amendement sur les filtres de copyright à une proposition de transfert de quelques millions d’euros des géants de l’informatique vers les propriétaires de médias a garanti une couverture médiatique favorable de la part de la presse, qui cherche elle-même une solution à ses problèmes.
Enfin, le problème est qu’Internet favorise une sorte de vision étriquée par laquelle nous avons l’illusion que la petite portion du Net que nous utilisons en constitue la totalité. Internet gère des milliards de communications publiques chaque jour : vœux de naissance et messages de condoléances, signalement de fêtes et réunions prochaines, campagnes politiques et lettres d’amour. Un petit bout, moins d’un pour cent, de ces communications constitue le genre de violation du droit d’auteur visé par l’article 13, mais les avocats de cet article insistent pour dire que le « but premier » de ces plateformes est de diffuser des œuvres protégées par le droit d’auteur.
Il ne fait aucun doute que les gens de l’industrie du divertissement interagissent avec beaucoup d’œuvres de divertissement en ligne, de la même façon que la police voit beaucoup de gens qui utilisent Internet pour planifier des crimes, et les fashionistas voient beaucoup de gens qui utilisent Internet pour montrer leurs tenues.
L’Internet est plus vaste qu’aucun⋅e d’entre nous ne peut le concevoir, mais cela ne signifie pas que nous devrions être indifférent⋅e⋅s à tous les autres utilisateurs d’Internet et à ce qu’ils perdent lorsque nous poursuivons nos seuls objectifs, aux dépens du reste du monde numérique.
Le vote récent de la directive sur le copyright ne rend pas seulement la vie plus difficile aux créateurs, en donnant une plus grande part de leurs revenus à Big contenus et Big techno – il rend la vie plus difficile pour nous tous. Hier, un spécialiste d’un syndicat de créateurs dont je suis membre m’a dit que leur travail n’est pas de « protéger les gens qui veulent citer Shakespeare » (qui pourraient être bloqués par l’enregistrement bidon de ses œuvres dans les filtres du droit d’auteur) – mais plutôt de protéger les intérêts des photographes du syndicat dont l’œuvre est « volée ». Non seulement l’appui de mon syndicat à cette proposition catastrophique ne fait aucun bien aux photographes, mais il causera aussi d’énormes dommages à ceux dont les communications seront prises entre deux feux. Même un taux d’erreur de seulement un pour cent signifie encore des dizaines de millions d’actes de censure arbitraire, chaque jour.
Alors, que faut-il faire ?
En pratique, il existe bien d’autres opportunités pour les Européens d’influencer leurs élu⋅es sur cette question.
Tout de suite : la directive rentre dans une phase de « trilogues » , des réunions secrètes, à huis clos, entre les représentants des gouvernements nationaux et de l’Union européenne ; elles seront difficiles à influencer, mais elles détermineront le discours final présenté au parlement pour le prochain vote (difficulté : 10/10).
Au printemps prochain, le Parlement européen votera sur le discours qui ressort de ces trilogues. Il est peu probable qu’ils puissent étudier le texte plus en profondeur, on passera donc à un vote sur la directive proprement dite. Il est très difficile de contrecarrer la directive à ce stade (difficulté : 8/10).
Par la suite les 28 États membres devront débattre et mettre en vigueur leurs propres versions de la législation. Sous bien des aspects, il sera plus difficile d’influencer 28 parlements distincts que de régler le problème au niveau européen, quoique les membres des parlements nationaux seront plus réceptifs aux arguments d’internautes isolés, et les victoires obtenues dans un pays peuvent être mises à profit dans d’autres (« Tu vois, ça a marché au Luxembourg. On n’a qu’à faire la même chose. ») (difficulté : 7/10).
En attendant, des élections européennes se profilent, au cours desquelles les politiciens de l’UE devront se battre pour leur emploi. Il n’y a pas beaucoup d’endroits où un futur membre du Parlement européen peut gagner une élection en se vantant de l’expansion du droit d’auteur, mais il y a beaucoup d’adversaires électoraux potentiels qui seront trop heureux de faire campagne avec le slogan « Votez pour moi, mon adversaire vient de casser Internet » ;
Comme nous l’avons vu dans le combat pour la neutralité du Net aux USA, le mouvement pour protéger l’Internet libre et ouvert bénéficie d’un large soutien populaire et peut se transformer en sujet brûlant pour les politiciens.
Écoutez, on n’a jamais dit que notre combat se terminerait par notre « victoire » définitive – le combat pour garder l’Internet libre, juste et ouvert est toujours en cours.
Tant que les gens auront :
a) des problèmes,
b) liés de près ou de loin à Internet,
il y aura toujours des appels à casser/détruire Internet pour tenter de les résoudre.
Nous venons de subir un cuisant revers, mais cela ne change pas notre mission. Se battre, se battre et se battre encore pour garder Internet ouvert, libre et équitable, pour le préserver comme un lieu où nous pouvons nous organiser pour mener les autres luttes qui comptent, contre les inégalités et les trusts, les discriminations de race et de genre, pour la liberté de la parole et de la légitimité démocratique.
Si ce vote avait abouti au résultat inverse, nous serions toujours en train de nous battre aujourd’hui. Et demain. Et les jours suivants.
La lutte pour préserver et restaurer l’Internet libre, équitable et ouvert est une lutte dans laquelle vous vous engagez, pas un match que vous gagnez. Les enjeux sont trop élevés pour faire autrement.
Le Parlement européen se prononcera mercredi sur la directive relative au «droit d’auteur dans le marché unique numérique». L’article 13, qui veut imposer l’utilisation d’algorithmes et automatiser la détection d’infractions au droit d’auteur, est une menace contre le partage et la créativité en ligne.
Le 12 septembre, nos députés européens auront à se prononcer sur la directive relative au «droit d’auteur dans le marché unique numérique», que les Etats membres ont déjà validé. Dès le préambule du texte, le cadre est fixé : il est question d’œuvres, d’auteurs, de patrimoine. Le texte veut clarifier le «modèle économique» qui définira dans quelles conditions les «consommateurs» (le mot apparaît quatre fois dans l’introduction) pourront faire usage de ces œuvres.
Le monde est ainsi découpé simplement : d’un côté, les artistes et les titulaires de droits d’auteurs, et parfois les structures et les institutions connexes (musées, universités, éditeurs) ; de l’autre, la grande masse des anonymes. La porosité entre les uns et les autres n’est pas de mise : le cas d’une personne écoutant des concerts sur Internet et publiant ses interprétations d’un prélude de Chopin n’est pas évoqué. Les médiateurs entre propriétaires (de droits, de licences) et locataires-utilisateurs sont les Etats, chargés de faire respecter la future loi, et les «prestataires de services en ligne» (les hébergeurs). Là encore, nulle place pour les auteurs-éditeurs de sites web altruistes, qui publient leurs analyses, leurs découvertes, leurs concerts de rock entre amis. On reste dans une logique traditionnelle où l’Etat et l’Union européenne régulent le fonctionnement d’industriels qui seraient laxistes en matière de propriété artistique ou intellectuelle.
Une volée de récriminations
Mais comment appliquer une telle loi ? Grâce à de gigantesques algorithmes. L’article 13 précise que les prestataires de services, en étroite coopération avec les titulaires de droits, développeront des techniques de reconnaissance des contenus. Les acteurs hors Facebook, Sacem ou équivalents seront censurés, donc éliminés du Web. Ulrich Kaiser, professeur de musique allemand, l’a vérifié. Il a mis en ligne quelques interprétations de son fait de morceaux de Schubert, tombé depuis longtemps dans le domaine public, et a vérifié comment le logiciel de vérification de droits d’auteur de YouTube (Content ID) réagissait. Il a vite reçu une volée de récriminations prétendant qu’il violait des droits d’auteur. Et ses arguments étaient systématiquement rejetés. En bref, pour qui n’est pas adossé à une agence de droits d’auteur, il y aura toujours un robot ou un digital worker payé au clic qui lui interdira toute publication, au motif qu’il copie une œuvre, même s’il a le droit pour lui. Belle inversion juridique où nous devons faire la preuve de notre innocence, quand sa présomption figure dans notre Constitution.
Le second souci est que ces algorithmes coûtent très cher (de l’ordre de 50 millions d’euros), et sont évidemment très protégés par… le copyright. Nous sommes ici bien loin des logiciels libres façonnés par des poignées de bénévoles, et qui font vivre Internet. Et notre Union européenne, qui veut protéger les big industries du numérique et de la culture, ne réalise pas qu’elle se transforme en bourgeois de Calais, au seul bénéfice des Etats-Unis, puisqu’elle ne sait produire ces logiciels et bases de données associées.
La peur du don
Ainsi, du haut de Bruxelles, on ne fait pas que penser le contemporain avec des catégories obsolètes, aux dépens des citoyens et de leur créativité. On se trompe.
Apparaît d’abord une étrange peur du don. Le don, ce phénomène social total, qui structure nos sociétés via l’échange, qui nourrit nos idées : celles-ci se confortent et s’affinent au contact d’autrui. Tenter de les censurer, d’en vérifier systématiquement l’authenticité, c’est aller contre l’éducation, contre le développement personnel : la science et la création se nourrissent d’emprunts, d’appropriations, de détournements.
Ensuite, supposer que la technique va sauver ou protéger la culture relève de l’erreur. De tout temps technique et culture forment une tresse inséparable. Nos films sont faits avec des caméras, qui fonctionnent à l’électricité, désormais montés sur ordinateur. Nous appelons nos ponts (du Gard ou de Tancarville) des «ouvrages d’art». Et avec l’informatique, nous prenons conscience de la dimension technique de l’écriture, qui nous sert autant à développer un raisonnement, à jeter les bases d’une nouvelle loi qu’à déguster un Rimbaud qui a peu profité de ses droits d’auteur. La grande majorité des productions informatiques relèvent de ces jeux d’écriture où copier, coller, emprunter, détourner, articulent recettes, banales applications et imagination.
Façonner le monde
Et enfin, l’idée qu’un algorithme puisse se substituer au jugement humain est erronée. Un algorithme est écrit par des humains, qui y injectent leur subjectivité, leurs représentations du monde, leurs valeurs morales, comme le montre le philosophe Andrew Feenberg. Il n’est pas neutre. Un algorithme l’est d’autant moins s’il appartient à une firme, qui va évidemment l’adapter à ses intérêts économiques. La chose est manifeste quand il s’appuie sur des bases de données massives pour produire du deep learning. C’est le principe même de l’apprentissage : si nous apprenons à des ordinateurs à modéliser le climat, nous ne pouvons leur confier des opérations chirurgicales sur des humains. Et l’idée que les machines puissent résoudre des problèmes moraux (liés au vol, à l’invention) signale avant tout une démission politique. La volonté de déléguer à ces machines des questions qui méritent d’être débattues par tous : démocratiquement.
C’est toute la question du «numérique»: cette technique a plus que jamais le pouvoir de façonner le monde. Y compris politiquement. Avec les réseaux sociaux, nous ressentons, non pas son pouvoir, mais ses effets sur nos sociétés. L’histoire de l’écriture nous rappelle que ces effets sont lents, variés, particulièrement dépendants de ce que nous voulons qu’ils soient. Moins que jamais, la technique est éloignée de nous. Sauf si nous déléguons à quelques managers le formatage de nos sociétés par le biais de leurs chimères. Souvent, celles-ci se réduisent à quelques croyances, qui confinent à la numérologie. Il s’agit de projeter toute la complexité humaine, ses variations multidimensionnelles, sur une droite, où chacun.e d’entre nous serait évaluable. Avec une seule note entre 0 et 20.
Le numérique, c’est politique. Ça se pratique aussi, ça s’apprend. Comme l’écriture. Ça se débat. Il est urgent de l’enseigner à toutes les générations, à tous les corps de métier ; d’en expérimenter les facettes actuelles, d’en inventer les futures. Les artistes, les historiens, les physiciennes usent tous de l’écriture. Il en est de même pour le «numérique». Jeunes et vieux, Chinois, Français et Californiens prenons le temps de penser le numérique, au-delà de nos moules et frontières disciplinaires. La technique nous appartient. A nous tous d’en convaincre nos députés.
12 septembre 2018 - Le Parlement européen vient d'adopter la directive droit d'auteur, qu'il avait pourtant repoussée une première fois cet été. En ayant fait adopter cette directive, les industries culturelles et de la presse réclament les miettes de l'économie de la surveillance de masse. Plutôt que de combattre cette capitulation devant les GAFAM, le gouvernement français l'a vigoureusement encouragée.
En 20 ans, l'industrie culturelle française n'a jamais su s'adapter à Internet. Aujourd'hui, elle est folle de rage devant le succès de Netflix ou d'Amazon. Donc elle exige les miettes du gâteau. Elle veut contraindre les géants du Web, tels que Youtube ou Facebook, à partager avec elle les revenus de la publicité ciblée associée aux œuvres dont ils sont les ayants-droits.
Mais la publicité ciblée consiste surtout à surveiller tout le monde, partout, tout le temps, sans notre consentement libre. Depuis le 25 mai et le RGPD, c'est illégal, et c'est bien pourquoi nous avons attaqué chacun des GAFAM au printemps dernier devant la CNIL, dans des plaintes collectives réunissant 12 000 personnes.
Pourtant, ayant échoué à évoluer, l'industrie culturelle française est aujourd'hui prête à s'associer à ce modèle illégal. Avec le vote d'aujourd'hui, le financement de la culture se soumet à l'économie de la surveillance de masse. Et il est injustifiable que le gouvernement français, en soutenant lui aussi cette directive, ait consacré la toute puissance illicite des géants du Web, plutôt que de combattre leur modèle de surveillance pour nous en protéger.
Hélas, le débat ne s'arrête pas là. À côté, on retrouve les éditeurs de presse qui, eux non plus, pour la plupart, n'ont jamais su s'adapter. Du coup, ils exigent aujourd'hui que Facebook et Google les financent en les payant pour chaque extrait d'article cité sur leur service. Mais quand les revenus du Monde ou du Figaro dépendront des revenus de Google ou de Facebook, combien de temps encore pourrons-nous lire dans ces journaux des critiques de ces géants ? Plutôt que de s'adapter, les éditeurs de presse préfèrent renoncer entièrement à leur indépendance, sachant par ailleurs que bon nombre d'entre eux mettent en œuvre des pratiques tout aussi intrusives que celles des GAFAM en matière de publicité ciblée (relire notre analyse de leurs pratiques et de leurs positions sur le règlement ePrivacy).
Ici encore, le gouvernement français a encouragé cette capitulation générale face aux géants du Web, qui passent encore davantage pour les maîtres de l'Internet. Pourtant, ils ne sont les maîtres de rien du tout. Internet n'a pas besoin de Google ou de Facebook pour nous permettre de communiquer. Au contraire, ces géants nuisent à nos échanges, pour mieux vendre leur publicité.
Le vote d'aujourd'hui est le symptôme de l'urgence qu'il y a à changer de cadre. Le gouvernement français doit accepter qu'Internet ne se résume pas à une poignée de monopoles. Il doit renoncer aux multinationales du numérique et, enfin, commence à promouvoir le développement d'un Internet décentralisé - seul capable de respecter nos droits et libertés. Maintenant.
La réforme du droit d’auteur, proposée par Bruxelles, fait l'objet de discussions au Parlement européen. Deux dispositions en particulier sont très critiquées, parce qu'elles mettent en péril l'organisation du web.
L’Union européenne est à un tournant : c’est ce mercredi 20 juin qu’une commission du Parlement européen doit arrêter sa position sur la très controversée proposition de directive sur le droit d’auteur dans le marché unique numérique. Or, en souhaitant créer de nouvelles obligations pour renforcer la protection du droit d’auteur, deux dispositions particulièrement redoutables ont vu le jour.
Article 11 : péril sur les liens
L’article 11 entend créer un droit voisin pour les éditeurs de presse, qui leur donnerait un droit « auxiliaire » au droit d’auteur. Selon Bruxelles, qui a présenté la proposition en septembre 2016, il s’agit ici de placer les éditeurs de presse « dans une meilleure position pour négocier l’utilisation de leurs contenus avec les services en ligne qui les utilisent ou en permettent l’accès et pour lutter contre le piratage ».
Mais cela pourrait avoir des effets désastreux dans la façon dont le net s’organise, ne serait-ce que pour Wikipédia. Avec l’article 11, un internaute voulant ajouter un article de presse dans un article sur l’encyclopédie en ligne, parce qu’il souhaite ajouter une source, devra d’abord demander la permission à l’éditeur pour le citer. Déraisonnable, si l’on connaît la façon dont Wikipédia fonctionne.
« Avec près d’un million de pages modifiées par mois, obtenir ces autorisations pour les centaines de sources ajoutées est du domaine de l’impossible », prévient l’association Wikimédia France. L’idée d’une dérogation pour Wikipédia a été avancée, mais c’est oublier les autres projets similaires à l’encyclopédie qui s’appuient aussi sur la presse pour exister, comme Wikidata ou Wiktionnaire.
Au-delà du cas Wikipédia, l’association s’inquiète d’une mesure qui va à l’encontre même de ce qu’est le web, à savoir des pages hébergées sur des sites et reliées les unes aux autres par des liens hypertextes. « Créer des liens hypertextes, citer de courts extraits et partager du contenu sont des composantes fondamentales d’Internet » et, in fine, de la liberté d’expression, rappelle-t-elle.
« Créer des liens hypertextes, citer de courts extraits et partager du contenu sont des composantes fondamentales d’Internet »
Mais derrière l’article 11, il y a surtout la perspective d’une « taxe Google Actualités », qui a été mise en place en Espagne. Bruxelles, en présentant sa directive, avait pointé que le passage des médias au numérique « a eu une incidence sur leurs recettes publicitaires ». La suite est connue : la firme de Mountain View a préféré fermer son service Google News dans le pays, estimant qu’il n’était plus viable.
Malgré la fermeture de Google News en Espagne les éditeurs, notamment allemands, n’ont pas été dissuadés de réclamer une compensation financière pour afficher un résumé de l’article accompagné d’un lien. Et cela, alors qu’a été constatée la chute de la fréquentation sur les sites d’actualité, et le retrait de Google, parce que la firme jugeait que son agrégateur d’informations ne coûtait rien et apportait du trafic aux sites
Article 13 : filtrage automatique
L’article 13 prévoit d’obliger les plateformes à filtrer automatiquement les contenus mis en ligne, en employant des outils capables d’identifier et de bloquer les chansons ou les œuvres audiovisuelles avant même qu’elles ne soient visibles par les autres internautes. Ce serait un renversement de l’échafaudage juridique de la directive e-commerce de 2000, où les hébergeurs sont tenus de réagir avec célérité, mais a posteriori.
Les plateformes comme YouTube ou Dailymotion n’ont actuellement aucune obligation de filtrage a priori. Ce sont aux yeux de la loi des hébergeurs pour les contenus publiés par les internautes. En conséquence, ils doivent retirer le plus vite possible les contenus litigieux qui leur sont signalés par les titulaires de droits, et cela même si YouTube ou Dailymotion ont conçu des technologies de filtrage, comme Content ID.
Or, l’histoire a largement montré que ces outils sont faillibles. « Ignorant toutes les subtilités des comportements humains, ces outils censurent un peu tout et n’importe quoi au gré des bugs techniques, de critères mal calibrés et de logiques absurdes, et neutralisent au passage l’exercice légitime des exceptions au droit d’auteur (droit de citation, de parodie…) », observe La Quadrature du Net.
« La complexité du droit d’auteur, les différences entre pays et les exceptions au droit d’auteur, déjà difficile pour des humains, ne peuvent être correctement appréhendées par des algorithmes », abonde Wikimédia France. Car le droit d’auteur n’est pas absolu : il existe heureusement plusieurs exceptions qui permettent un usage plus ou moins modéré des œuvres de l’esprit.
Cette piste « reporte tous les équilibres de la régulation sur des outils automatisés, présentés en solution miracle »
Ce qui est à craindre, poursuit l’association, c’est de voir les plateformes opter pour un principe de précaution, c’est-à-dire préférer un filtrage plus large et plus dur, quitte à attraper des faux positifs dans les filets, plutôt que de risquer un conflit avec les ayants droit. Mais cela « réduira la diversité de ces plateformes en empêchant les personnes peu aguerries aux nouvelles technologies d’y participer ».
Surtout, complète La Quadrature du Net, cette piste « reporte tous les équilibres de la régulation sur des outils automatisés, présentés en solution miracle ». Cela n’est pas neuf : au-delà du droit d’auteur, l’approche algorithmique pour empêcher l’apparition de médias litigieux se manifeste aussi dans le cas de la lutte contre la propagande terroriste, mais aussi contre les contenus violents ou montrant de la nudité.
Levée de boucliers
Dès l’apparition de cette proposition de directive, les mises en garde se sont succédé.
« On n’aurait pas pu imaginer pire », avait déclaré, consterné, Joe McNamee, le directeur exécutif de l’European Digital Rights. « Nous avons besoin d’une réforme du droit d’auteur qui rend l’Europe adaptée au 21e siècle. Nous avons maintenant une proposition qui est un poison pour la liberté d’expression, un poison pour les entreprises européennes, et un poison pour la créativité ».
Même son de cloche du journaliste Glynn Moody, sur Ars Technica. Fin connaisseur des sujets liés au droit d’auteur, il disait déjà à l’époque que la proposition de directive est une « implémentation de la liste de vœux des vieilles industries du droit d’auteur, avec peu de réponses aux besoins des utilisateurs en ligne ».
Fin avril, 147 organisations qui ont appelé les États membres de l’Union européenne à mettre un coup d’arrêt à cette réforme, décrite comme « précipitée », « contenant de graves reculs pour les libertés » et poussée par un « sentiment artificiel d’urgence ». « Toute l’architecture du texte est à revoir », abondait l’April, qui promeut le logiciel libre, alors que la réforme menace justement cet écosystème.
Même le rapporteur spécial des Nations unies sur la promotion et la protection de la liberté d’opinion et d’expression, David Kaye, s’est mêlé au débat, le 13 juin. Il est ainsi revenu sur les deux articles les plus polémiques et demande à l’Union de veiller à ce que toute mesure en la matière soit conforme à la liberté d’opinion et d’expression, mais aussi aux normes relatives aux droits de l’homme.
Il reste désormais à savoir dans quelle direction iront les parlementaires européens.
On relèvera toutefois l’inconsistance de certains politiques face aux textes qu’ils votent à ne s’émouvoir des conséquences que lorsqu’elles les touchent. Comme le fait remarquer Rick Falkvinge, un activiste et entrepreneur connu pour avoir fondé le premier parti pirate, en Suède, des élus français d’extrême droite ont laissé éclater leur colère en découvrant que la totalité de leur chaîne YouTube a été neutralisée.
La raison ? Les filtres automatiques de YouTube ont détecté une possible violation de copyright. Et pourtant, ce sont ces mêmes élus qui s’apprêtent aujourd’hui à voter en faveur de cette directive, qui accroît la logique du filtrage et donc conforte les outils comme ceux qui ont rendu leur chaîne inaccessible.
Le Parlement européen est invité à s'opposer à la proposition de directive sur le droit d’auteur dans le marché unique numérique. 146 organisations viennent de signer une lettre ouverte contre la directive Copyright.
C’est la veillée d’arme pour les opposants à la directive Copyright, qui est l’objet depuis des mois d’une vive controverse sur certaines dispositions : le 5 juillet, le Parlement européen sera amené à se prononcer sur le mandat de négociation de la commission des affaires juridiques au sujet de la proposition de directive sur le droit d’auteur dans le marché unique numérique.
Deux issues sont possibles : si les eurodéputés approuvent le mandat de négociation, la directive Copyright pourra aller de l’avant et entrer dans une nouvelle phase, celle de la négociation entre les institutions de l’Union, puis du vote final en fin d’année ou début 2019. S’il est rejeté, alors il sera possible de tenter un retrait des articles litigieux ou, à défaut, une réécriture pour en atténuer la portée.
Ultime appel à la raison
Dans une lettre ouverte aux airs d’ultime appel en direction des parlementaires du Vieux Continent, 146 organisations — dont Creative Commons, l’EFF, Public Knowledge, EDRi, l’April, le Conseil national du logiciel libre, le Syndicat de la presse indépendante d’information en ligne et Wikimédia France — demandent aux élus du Parlement de ne pas donner suite à ce qui a été discuté précédemment.
« Les signataires exhortent le Parlement européen à voter contre le mandat de la commission des affaires juridiques sur le droit d’auteur, faute de quoi il y aura un énorme fossé entre la valeur attendue de la directive pour l’économie et les citoyens européens, et les dommages que le texte causera », écrivent les signataires, qui rappellent les voix nombreuses qui se sont déjà élevées contre le texte.
« La formulation actuelle proposée par la commission des affaires juridiques soulève des risques importants »
C’est le cas par exemple rapporteur spécial des Nations unies sur la promotion et la protection de la liberté d’opinion et d’expression, David Kaye, mais aussi de Jimmy Wales, le cofondateur de l’encyclopédie en ligne Wikipédia, ou encore de Tim Berners-Lee, qui a inventé le concept d’hyperlien, une technologie au cœur du web et qui permet de relier les pages web les unes aux autres.
« La formulation actuelle proposée par la commission des affaires juridiques soulève des risques importants », poursuit la missive. Trois articles sont visés, dont deux en particulier : l’article 11 vise à créer un droit voisin pour les éditeurs de presse sur les liens, tandis que l’article 13 introduit un principe de filtrage a priori. Le dernier, numéroté 3, vise l’exploration de textes et de données.
Si la directive Copyright est combattue par de nombreuses organisations, les internautes européens sont invités à se mobiliser : le site Save Your Internet propose en particulier des outils très simples à utiliser pour contacter son parlementaire (par mail, sur Twitter ou par un appel téléphonique) avec un message pré-écrit ou un guide de ce qu’il faut dire au bout du fil si vous préférez discuter de vive voix.
Communiqué de presse du 5 juillet 2018.
À l'issue d'une mobilisation internationale incroyable, le Parlement européen réuni en séance plénière ce jeudi 5 juillet a rejeté, 318 voix contre 278 1, le mandat accordé à l'eurodéputé Axel Voss sur le rapport adopté en commission des affaires juridiques (JURI) le 20 juin dernier 2. L'April félicite les eurodéputés de leur vote et applaudit l'ensemble des personnes qui se sont mobilisées. Le projet de directive droit d'auteur est renvoyé en séance plénière avec réouverture des amendements, lors de la session qui débutera le 10 septembre. Il sera donc à nouveau possible d'amender le texte, voire de le rejeter. La mobilisation doit donc se poursuivre.
Les partisans de ce projet de directive ont mené ces dernières semaines une opération de décrédibilisation de l'importante mobilisation citoyenne contre ce texte. La caricaturant comme étant orchestrée par les « GAFAM » et se contentant de labelliser chaque argument avancé de « Fake news » sans jamais y répondre. Cette stratégie, visant à éviter de parler du fond du texte c'est à dire du filtrage automatique, a échoué. Les eurodéputés n'ont pas été dupes.
« Une importante mobilisation a permis le rejet du mandat mais la mobilisation doit se poursuivre d'ici le vote en plénière sur le fond soit pour corriger les dispositions dangereuses du texte soit pour le rejeter » a déclaré Frédéric Couchet, délégué général de l'April.
Communiqué de presse du 20 juin 2018.
La commission des affaires juridiques (JURI) a adopté ce matin la proposition de directive sur le droit d'auteur et notamment son article 13 qui impose aux plateformes d'hébergement la mise en place d'un filtrage généralisé et automatisé des contenus que nous mettons en ligne sur Internet. Les plateformes de développement de logiciels libres sont exemptées de ces exigences de filtrage1 mais l'idée même de ce principe est désastreuse. L'April appelle les parlementaires européens à rejeter la proposition de directive dans sa globalité lors de la plénière de juillet.
Ce matin s'est tenu au Parlement européen un vote crucial pour la sauvegarde d'un Internet libre et ouvert. La commission des affaires juridiques a notamment adopté l'article 13 qui impose aux plateformes d'hébergement la mise en place d'outils de censure automatiques. Cette disposition a pourtant été très largement critiquée, par des organisations de défense des libertés sur Internet, des auteurs, des entreprises du logiciel libre… mais aussi par le rapporteur spécial des Nations Unies sur la promotion et la protection de la liberté d’opinion et d’expression.
Sur la question des forges de logiciel libre plus spécifiquement, la commission JURI a fait un pas dans le bon sens en les excluant du champ d'application de l'article 13, qu'elles soient ou non à but lucratif. Malgré cette avancée, l'April considère que le principe même d'un filtrage généralisé est à proscrire.
La Commission a également adopté la décision d’entrer en négociation avec le co-législateur, le Conseil. Lors de la plénière qui commence le 2 juillet, les parlementaires pourront contester cette décision et demander à cette occasion qu'un vote ait lieu sur le lancement ou non des négociations. L'association appelle les parlementaires européens à rejeter le projet de directive.
« Une importante mobilisation a permis d'exclure les forges de logiciels libres des dispositions de l'article 13. Mais ce patch est insuffisant, l'article 13 reste dangereux et doit être supprimé. La mobilisation doit encore s’intensifier d'ici le vote en plénière pour que ce projet de directive rejoigne ACTA dans les poubelles de l'Histoire » a déclaré Frédéric Couchet, délégué général de l'April.
« On nous parle de compromis ; le texte est pointé comme liberticide par les plus grandes sommités. On nous parle de lutter contre le pouvoir des GAFAM et d'instaurer un marché unique numérique ; on renforce les silos. On nous parle d'auteurs et d'autrices ; on brime un des plus importants outils de création et de partage jamais créé. Au-delà de la disposition elle-même, c'est tout le procédé qui est désastreux. L'unique chose à faire est de rejeter intégralement ce texte et de repartir sur des bases saines, avec un véritable débat public de fond » ajoute Étienne Gonnu, chargé de mission affaires publiques pour l'April.
1.
L'amendement de compromis dit « CA 2 » adopté ce matin (voir page 2 de ce document PDF (en anglais)) a introduit l'exclusion des forges de logiciel libre en modifiant l'article 2 qui précise la définition de « online content sharing service providers », terminologie qui est ensuite utilisée dans la nouvelle version de l'article 13 :
« Providers of cloud services for individual use which do not provide direct access to the public, open source software developing platforms, and online market places whose main activity is online retail of physical goods, should not be considered online content sharing service providers within the meaning of this Directive ».
La nouvelle version de l'article 13 étant page 14 du même document (amendement CA 14).