Category Archives: Blog

Why Dr. Timnit Gebru is important for all of us

Because its products and services permeate our lives, Google has tremendous power. If the company cannot even pretend to care about its internal “Ethical AI” co-leader, how much do you think they care about the rest of us?

***

Dr. Timnit Gebru and I do not know each other. I have never met her and she probably is not even aware I exist. And yet, she is very important in my life. Not only in my life, but in your life, too. Indeed, I believe Dr. Gebru is extremely significant for everyone and I will explain why below.

Before that, let me recap briefly what happened last week that inspired me to write this, in case you have never heard of Dr. Gebru before. (It is very well possible that you have not — as I may not have if I weren’t researching the social aspects of algorithmic systems for a living.) However, you certainly know Dr. Gebru’s former employer: Google. You may even have heard of her area of work: at Google, Dr. Gebru used to be the co-lead of the Ethical AI team. And maybe, just maybe, you have even heard of her ground-breaking research (with Joy Buolamwini) demonstrating how face recognition algorithms are most accurate for faces that are male and caucasian and perform terribly for people of color, especially women. [Dr. Gebru’s record goes far beyond this one example I picked. Yet it is the one I have heard and seen mentioned most frequently as the go-to example in industry, policy and public discussions of “algorithms are not neutral”.]

On the morning of December 3, I checked my twitter feed and discovered Timnit Gebru’s tweet, published a few hours prior, announcing her discovery that Google had fired her. She wrote that her employment had been terminated immediately with reference to an email to an internal mailing list.

The news spread like a wild fire and, within hours, disputes over details and definitions broke out. What exactly did her email to the mailing list say? Was this the real reason she was fired by Google? Was she actually fired or did she resign? And even if she was fired: did she deserve to be fired? But here’s the thing: although some of the answers to these questions are informative (and even the questions themselves are very telling!), I will not discuss internal e-mails and information about individual people at Google here. For the point I am trying to make, none of them really matter.

***

Google is still Continue reading

99 brilliant women in AI ethics… and I

I have just found out that I have been named one of 100 brilliant women in AI ethics. The Women in AI Ethics (WAIE) list is a global “list of 100 brilliant and inspiring women” issued once a year, and of course I am honored by the nomination. But I am even more thrilled by the fantastic company I find myself in. I mean: I am on the same list as danah boyd. Gina Neff. Anna Lauren Hoffmann. Abeba Birhane. And I could go on. Ninety-nine outstanding experts and amazing role-models from all over the world… and I.

It is a vertiginuous feeling. My ambiguity towards “AI ethics” are not exactly helpful here. (But as AI ethics seems definitely have become a thing, I should perhaps just embrace it, and drop the scare quotes?) Add to that my ambiguity towards top-ranking lists of any kind — the sociologist in me tends to be more curious about e.g. the categorization criteria and selection processes than the outcome…

Then again, it is Sunday morning, before my first coffee. And I have just been named a brilliant women in AI ethics among great company. I guess I’ll take it. 🙂

Das Sozialwesen und die Digitalisierung am Hack4SocialGood

Die Digitalisierung betrifft immer stĂ€rker immer mehr Lebensbereiche. Nicht ĂŒberall jedoch ist die Digitalisierung mit ihren Eigenheiten, Möglichkeiten und Herausforderungen gleich bekannt. Und umgekehrt kennen sich auch jene mit Digitalisierungsexpertise nicht automatisch in allen Lebensbereichen aus. Diese Differenzen gilt es auszugleichen, und die Berner Fachhochschule (BFH) leisted mit der Organisation von Hack4SocialGood einen Beitrag genau dazu.

Warum ich darĂŒber schreibe? Der Zufall will es, dass ich exakt einen Monat nach meiner Inputkeynote fĂŒr #GovAfterShock wieder an die BFH zurĂŒckkehren darf. (Nur theoretisch, natĂŒrlich — coronabedingt findet auch dieser Anlass online statt.) Dieses Mal mit einem Kurzvortrag zum Thema “Digitale Ethik” bei ebendiesem Anlass: Hack4SocialGood.

Es handelt sich hierbei um einen Innovationsworkshop fĂŒr eine inklusive Digitalisierung in der Form eines Hackathons, unterstĂŒtzt von der Open Knowledge Foundation, Sozialinfo.ch, der UniversitĂ€t Bern, Caritas Schweiz und Innosuisse. Die Anmeldefrist lĂ€uft noch bis zum 06. Dezember 2020.

Illustrationsfoto des Events (von https://www.bfh.ch/de/aktuell/veranstaltungen/hack4socialgood/ )

Auf dem Blog Knoten & Maschen findet sich ein aufschlussreiches Interview zum Event, das auch mehr Informationen und HintergrĂŒnde liefert. Die Eventwebseite ist hier: https://www.bfh.ch/de/aktuell/veranstaltungen/hack4socialgood/.

Hack4SocialGood kann spannend sein fĂŒr Menschen sowohl aus dem sozialen Umfeld wie auch fĂŒr jene mit Expertise in Innovation und digitaler Technologie. Der Anlass selber ist ein Kooperationsprojekt der drei Departemente Soziale Arbeit, Wirtschaft sowie Technik und Informatik. Ich bin selber gespannt auf die Ergebnisse, die dank solcher Synergien entstehen werden. Denn die Digitalisierung geht einerseits alle etwas an und kann andererseits auch von allen etwas lernen.

#GovAfterShock: our digital future

In my research, I tend to focus more on the present than on the future. After all, I’m a sociologist, not a futurist. However, the present can tell us a lot about the future: our plans today indicate the future we are anticipating; our dreams today describe the future we are hoping for; our actions today contribute to creating the future that will be.

I’m not only a sociologist, but also a Internet researcher. The annual conference of AoIR (the Association of Internet Researchers), which has taken place during the past days and revived me to a point I am not able to put in words yet, was a stark reminder of that.

As society is, increasingly, also digital, so is our focus on digital futures: the ones we fear, the ones we create, and the ones we desire.

Following the beginning of the COVID-19 crisis in 2020, the OECD Observatory of Public Sector Innovation has created a global initiative called Government After Shock, inviting a global conversation on what we can learn from the COVID-19 crisis, what we want to keep, what we want to leave behind, and what we want do differently. The Bern University of Applied Sciences, together with Flux Compass (Hong Kong), contribute to #GovAfterShock with a workshop on the topic of Trust across borders.

The workshop on Nov 11, 2020, will invite us to stop and think about what we can learn from the COVID-19 crisis, and how we want to go forward with respect to our digital future. Its goal is to co-create a message to governments on the future we desire.

Organized and hosted by Angelina Dungga and Anna Simpson, the event includes two keynote inputs, one by SĂ©verine ArsĂšne and one by yours truly. I’m really excited about Dr. ArsĂšne’s talk, because she will propose three directions for reflection, around concepts of scope, pace, and method: How much of our futures do we want to be digital? How fast, or slow, do we need to move towards our digital futures? And what kind of democratic procedures will ensure that we get the digital futures that we want?

In my own talk, I will present existing phenomena to show that people express their values and preferences in many ways. As I have already stated for this article on the Forum for the Future: To include civil society in policy-making also means actively accounting for the values and preferences of people whose voice may not usually be heard. I will therefore present some examples of what can we learn from today about a future that is desirable for civil society.

Because the future is, supposedly, already here, just not evenly distributed.

Event flyer, Bern Progr, 21.09.202., 19h30

Event: Freiheit & Digitalisierung (21. Sept., Bern)

Am Montag abend darf ich im Progr in Bern einige Themen meines Essays zum Thema Freiheit im digitalen Zeitalter aufgreifen und mit illustren GĂ€sten darĂŒber diskutieren. Ich habe sogar das VergnĂŒgen, den Anlass mit einem Kurzreferat einzuleiten.

Wer kommt — und es wĂŒrde mich natĂŒrlich sehr freuen, Dich/Euch/Sie dort zu sehen — kann mit AusfĂŒhrungen zu diesen drei wichtigen SĂ€tzen meines Fazits rechnen:

Freiheit im digitalen Zeitalter ist bedingt durch die Möglichkeit zur sowohl individuellen als auch kollektiven Selbstbestimmung. DafĂŒr mĂŒssen Rahmenbedingungen geschaffen werden, die in dieser Hinsicht auch echten Handlungsspielraum und Wahlfreiheit eröffnen. Ob diese vorhanden sind oder nicht hĂ€ngt genauso, wenn nicht noch mehr, von der Gouvernanz wie von der Technologie ab, denn Organisationsstruktur, Entscheidungs- und Partizipationsprozesse sind mindestens ebenso wichtig wie technische Optionen und Implementierungen.

Diagnose: Ambivalenz. Freiheit im digitalen Zeitalter

“Freiheit” ist natĂŒrlich ein weiter Begriff. Deshalb lĂ€dt die Eventseite auch ein, einen eigenen Definitionsversuch zum Thema “Was ist Freiheit” zu verfassen.

Mein Beitrag stammt aus der Kurzbio des Buches, in welchem mein Essay erschienen war. (Er ist im Bild ersichtlich.)

Continue reading

Eine Meinung zum Internet? Diskutiere mit am Swiss IGF 2020

Das Wichtigste zuerst: Am 28. September findet das Swiss Internet Governance Forum 2020 (kurz: Swiss IGF 2020) statt. Virtuell. Die Teilnahme steht allen offen, solange das Anmeldeformular bis am 22. September ausgefĂŒllt wird.

UrsprĂŒnglich war das Swiss IGF 2020 fĂŒr MĂ€rz 2020 geplant gewesen ÂŻ\_(ツ)_/ÂŻ Fantastischerweise konnte das ursprĂŒngliche Programm in den grössten Teilen beibehalten werden, wenngleich die “Parallelsessionen” fĂŒr die Online-Version mit SimultanĂŒbersetzung nun nicht mehr parallel laufen können.

Das Programm ist auf der Swiss IGF 2020 Seite zu finden.

Weitere Änderung zu vorherigen Swiss IGF sind vor allem logistischer Natur: WĂ€hrend in frĂŒheren Jahren die Anreise an den DurchfĂŒhrort erbracht werden muss, braucht es in diesem Jahr ein GerĂ€t mit Internetanschluss. Und der Zmittag wird nun nicht offeriert.

Warum ich ĂŒberhaupt darĂŒber schreibe? Seit ĂŒber einem Jahr engagiere ich mich freiwillig in der Kerngruppe des Swiss IGF, sozusagen das Organisationskommittee der Freiwilligen, die das Ganze gemeinsam auf die Beine stellen.

Als ich im SpĂ€therbst 2018 zum ersten Mal persönlich Teil am Swiss IGF teilnahm, war ich von der Breite der Themen und teilnehmenden Stakeholder sofort begeistert. Da trafen sich Politikerinnen und Politiker, Bundesangestellte, Forschende, interessierte Leute aus der Zivilgesellschaft und aus der Privatwirtschaft, um zusammen ĂŒber das Internet zu diskutieren. Die programmierten Themen reichten damals von Swiss-ID ĂŒber Netzsperren bis hin zu Digital Health.

Diese Breite ist das erklĂ€rte Ziel des Swiss IGF (siehe: Über das Swiss IGF), und rege Debatten ĂŒbrigens auch. Es sind zwar kurze Inputreferate vorgesehen, aber die Hauptzeit der Programmpunkte gehört dem Austausch.

Auch dieses Jahr wird das Swiss IGF spannend werden: Wir diskutieren ĂŒber Bibliotheken, Digitale Kompetenzen in der Verwaltung, die Herausforderung Digitale MĂ€rkte und Internet-Plattformen uvm. Ich freue mich jetzt schon.

Swiss IGF 2020: Anmeldung bis am 22. September 2020.

Freiheit im digitalen Zeitalter

Copyright: hier+jetzt Verlag. Der folgende Essay entstand Anfang 2019 aufgrund einer Einladung, fĂŒr ein Buch ĂŒber Freiheit ein Kapitel zum Thema “Freiheit und Digitalisierung” beizusteuern (->pdf-Version). Die Wiedergabe des Texts hier erfolgt mit freundlicher Genehmigung des Verlags.

Exakte Referenz: Jobin, A. 2019. “Diagnose: Ambivalenz. Freiheit Im Digitalen Zeitalter.” Pp. 109–119 in Freiheit, herausgegeben von M. L. Marti und J.-D. Strub. Baden: hier + jetzt.

Diagnose: Ambivalenz. Freiheit im digitalen Zeitalter

Im FrĂŒhjahr 1999 strahlte die BBC ein Interview mit David Bowie aus, in dem sich der SĂ€nger unter anderem zum Thema Internet Ă€usserte: «I don’t think we’ve even seen the top of the ice berg, I think the potential what the internet is going to do to society, both good and bad, is unimaginable. I think we’re actually on the cusp of something exhilarating and terrifying.»1 Bowie hat mit diesen Worten unwissentlich eine zwanzig Jahre spĂ€ter stattfindende Debatte vorweggenommen und beantwortet.

Still photo of David Bowie speaking to Jeremy Paxman on BBC Newsnight (1999)

Gut oder schlecht? Frei oder unfrei?

TatsĂ€chlich finden auch heute noch viele Diskussionen zum Thema in binĂ€ren Denkmustern statt: Sind neue Technologien gut oder schlecht? Bringt die Digitalisierung mehr Freiheiten oder schrĂ€nkt sie uns ein? Eine Auslegeordnung fördert jeweils zahlreiche Beispiele fĂŒr beide Seiten zutage. Einerseits können wir auf abrufbereite, noch nie dagewesene Mengen von Informationen zugreifen. Andererseits wissen wir immer weniger auswendig und ĂŒberschĂ€tzen zudem unser Wissen. Einerseits sind viele Arbeitende vor allem des tertiĂ€ren Sektors mobiler und flexibler. Andererseits verwischt sich die Grenze zwischen Arbeit und Beruf immer mehr, was zusĂ€tzlichen Druck schaffen kann. Das Beispiel-Pingpong könnte so unendlich lange fortgesetzt werden. Wirklich produktiv erscheint mir dies allerdings nicht. Viel spannender und wichtiger, als einer Antwort in schwarz oder weiss nachzugehen, sind die Fragen, unter welchen UmstĂ€nden die Digitalisierung Freiheit fördert, und von welcher Art Freiheit die Rede ist. Denn – wie das BBC-Publikum schon vor zwei Jahrzehnten erfahren konnte – Internet bringt Gutes und Schlechtes, Erfreuliches und Erschreckendes.

Der Journalist schien damals mit Bowies Aussage ĂŒberfordert. Es sei doch nur ein Instrument, «it’s just a tool though», entgegnete er. Eine Auffassung, die ich selbst auch schon oft gehört habe, am prominentesten in Form der Messeranalogie an hippen Technologiekonferenzen: Ein Messer sei neutral, es komme bloss darauf an, ob es als KĂŒchenutensil oder als Mordwaffe Continue reading