Vor etwa zwei Wochen erhielt ich eine Mail aus einer Schweizer Redaktion mit der Bitte, für eine Schweizer Sonntagszeitung auf vier Interviewfragen zum Thema KI und Ethik zu antworten. Anlass war offenbar eine polemische Aussage eines Angestellten bei Google (siehe 1. Frage). Meine Antworten wurden jedoch nie publiziert, denn der entsprechende Artikel wurde von der Redaktion erst verschoben, danach ganz aus dem “Programm” gekippt. Darum nun hier, mit freundlicher Genehmigung des Interviewers, meine paar schriftlichen Antwortsätze. Sie haben zum Ziel, den wissenschaftlichen Wissensstand dem breiten Publikum in einfachen Worten und Vergleichen zu vermitteln.

***

1. Blake Lemoine meint im Chatbot von Google ein eigenes Bewusstsein erkannt zu haben. Wäre es alleine aus technischer Sicht überhaupt möglich einer Maschine ein eigenes Bewusstsein und eigene Handlungsfähigkeit zu “geben”?

Ein Bewusstsein wie Menschen kann eine Maschine nie entwickeln. Sie kann natürlich so programmiert werden, dass sie menschliches Sprechen verblüffend ähnlich imitiert. Aber es ist gewollte Imitation, und auch der Datenraum wurde von Menschen definiert. Maschinen handeln nicht autonom. Zwar ist im Gegensatz zu anderen Automaten die sogenannte Künstlicher Intelligenz nicht von A bis Z durchprogrammiert, aber bei der Entwicklung wird ein Lernprozess oder ein Ziel festgelegt.

2. Warum versuchen ForscherInnen Künstliche Intelligenz zu entwickeln Continue reading →

La Radio Télévision Suisse (RTS) a demandé récemment mon avis suite à la suppression d’une de leurs vidéos sur/par YouTube. Comme c’était mon premier entretien télévisé, je me suis préparée (“sur-préparée”, d’après l’équipe, que je remercie d’ailleurs de leur encadrement patient) avec quelques notes sur le sujet.

Après plusieurs prises et montage, j’ai fini par avoir mes 15 secondes de gloire au téléjournal de 19h30, ce qui est évidemment trop peu pour rendre compte de la complexité des enjeux. C’est pourquoi je partage ci-dessous quelques paragraphes issus de mes notes.

Dans mes activités de recherche j’ai rencontré trois problématiques principales qui me semblent importantes par rapport à ce sujet:

La gouvernance privée d’un bien public

Premièrement, il faut reconnnaître que la supression d’une émission journalistique par une plateforme en ligne n’est pas qu’un enjeu juridique. Sous le seul angle légal, il semble logique qu’une entreprise privée puisse agir d’après ses propres termes et conditions. Cependant, Continue reading →

Pourquoi les résultats de recherche de Google sont-ils parfois sexistes, racistes, ou autrement problématiques? En 2019, j’ai eu le plaisir de répondre à quelques questions de la professeure Stéphanie Pache à ce sujet. Avec son autorisation, je publie ci-dessous l’entretien qui, je l’espère, saura apporter quelques notions de base sur le fonctionement du moteur de recherche, mais aussi sur les enjeux y liés, toujours aussi actuels.

***

L’effet Google

Entretien avec Anna Jobin, sociologue du numérique, qui travaille notamment sur nos interactions avec les algorithmes et les dimensions sociales de l’intelligence artificielle. Propos recueillis par Stéphanie Pache.

Peux-tu décrire ce qu’est un moteur de recherche et pourquoi tout un chacun devrait s’y intéresser?

Un moteur de recherche nous assiste à localiser l’endroit où se trouve l’information que nous cherchons. En Suisse, et dans la plupart des pays européens, une majorité de personnes qui cherchent de l’information en ligne utilisent Google pour ce faire. Depuis sa conception il y a plus que vingt ans, le nom de l’entreprise a fini par servir de verbe, “googler”, pour désigner le fait même de faire des recherches en ligne – un reflet de sa place dans notre quotidien. Dans le contexte de l’explosion d’informations se trouvant en ligne dans une forme numérique ou numérisée, Google a réussi à nous rendre un immense service qui est celui de nous diriger vers des sources souvent légitimes qui répondent plus ou moins à ce que nous cherchions.

Deux grands aspects restent problématiques: premièrement, le modèle d’affaire. En effet, Google est une entreprise à but lucratif, donc nos recherches d’informations nourissent également un système publicitaire complexe, qui a rapporté plus que 100 milliards de dollars en 2018.

Deuxièmement, la position de l’entreprise et le manque d’alternatives. Il est impossible de surestimer le pouvoir actuel de Google (et, en occurrence, de quelques autres entreprises du numérique). La multinationale dispose désormais d’énormément de données, de puissance de calcul, d’argent pour racheter d’autres entreprises, et de connexions avec le monde politique. En plus, ses différents services (cartographie, webmail, navigateur web, système d’exploitation pour n’en nommer que quelques-uns) créent des synergies importantes qui ont des effets secondaires considérables.

Comment ce système contribue à la reproduction des inégalités sociales?

Dans le cas de Google Search, il y a au moins trois dimensions qui entrent en compte. D’abord, il y a le niveau de la production de contenus en ligne, car le moteur de recherche ne peut indexer et lister que ce qui existe. Toutes les inégalités reflétées dans et véhiculées par les contenus web se retrouvent alors reproduites. Ainsi, pour donner deux exemples simples, une recherche image du terme “PDG” vous montrera avant tout des images d’hommes blancs, et la recherche image “couple” résultera en une majorité de photos de couples hétérosexuels composés de personnes cis-genres et tout aussi blanches.

Ensuite, il y a une canalisation des usages basée sur les actions passées des personnes utilisant le moteur de recherche: par exemple, l’auto-remplissage, c’est-à-dire les propositions de recherche, s’appuient sur l’ensemble des recherches ayant été effectuées auparavant et tendent donc à reproduire des stéréotypes existants comme propositions de recherche désirables.

Finalement, la programmation et le design du moteur de recherche même agissent sur notre vie et la manière dont nous appréhendons le monde. Non seulement des décisions prises par des humains qui ont une influence, mais aussi des logiques algorithmiques. Un système d’identification de contenus web basé sur des mots-clés risque, par exemple, de perpétuer une stratification de l’accès à l’information en fonction du vocabulaire d’une personne. De plus, les algorithmes de Google favorisent les sites déjà bien connus, qui reçoivent encore davantage d’attention (et inversement).

Quelles actions peut-on imaginer contre ces effets et leur production?

De manière générale il faut davantage de diversité et créer des possibilités pour de vraies alternatives. Cela concerne Google tout autant que notre société, car les deux se nourrissent mutuellement. Davantage de diversité parmi les gens qui créent les outils que nous utilisons au quotidien, dans la production de contenus web, et là où les décisions sont prises. L’appel à de vraies alternatives quant à lui suggère une remise en question de notre rapport à l’information en ligne et de sa gouvernance.

Nos sociétés ont, il y a longtemps, reconnu l’accès à l’information comme valeur fondamental, et le meilleur exemple en sont nos bibliothèques publiques. Aujourd’hui, nous devons repenser comment nous souhaitons façonner non seulement l’accès, mais aussi la participation à la production et à la circulation des informations.

***

Cet entretien a paru en automne 2019 dans la publication Pages de gauche, no 173. Le numéro était dédié au sujet “Toute technique est politique” et est téléchargeable sur le site de la publication.