Author Archives: Anna Jobin

About Anna Jobin

I like considering the bigger picture while keeping in mind that details matter.

Event flyer, Bern Progr, 21.09.202., 19h30

Event: Freiheit & Digitalisierung (21. Sept., Bern)

Am Montag abend darf ich im Progr in Bern einige Themen meines Essays zum Thema Freiheit im digitalen Zeitalter aufgreifen und mit illustren Gästen darüber diskutieren. Ich habe sogar das Vergnügen, den Anlass mit einem Kurzreferat einzuleiten.

Wer kommt — und es würde mich natürlich sehr freuen, Dich/Euch/Sie dort zu sehen — kann mit Ausführungen zu diesen drei wichtigen Sätzen meines Fazits rechnen:

Freiheit im digitalen Zeitalter ist bedingt durch die Möglichkeit zur sowohl individuellen als auch kollektiven Selbstbestimmung. Dafür müssen Rahmenbedingungen geschaffen werden, die in dieser Hinsicht auch echten Handlungsspielraum und Wahlfreiheit eröffnen. Ob diese vorhanden sind oder nicht hängt genauso, wenn nicht noch mehr, von der Gouvernanz wie von der Technologie ab, denn Organisationsstruktur, Entscheidungs- und Partizipationsprozesse sind mindestens ebenso wichtig wie technische Optionen und Implementierungen.

Diagnose: Ambivalenz. Freiheit im digitalen Zeitalter

“Freiheit” ist natürlich ein weiter Begriff. Deshalb lädt die Eventseite auch ein, einen eigenen Definitionsversuch zum Thema “Was ist Freiheit” zu verfassen.

Mein Beitrag stammt aus der Kurzbio des Buches, in welchem mein Essay erschienen war. (Er ist im Bild ersichtlich.)

Continue reading

Eine Meinung zum Internet? Diskutiere mit am Swiss IGF 2020

Das Wichtigste zuerst: Am 28. September findet das Swiss Internet Governance Forum 2020 (kurz: Swiss IGF 2020) statt. Virtuell. Die Teilnahme steht allen offen, solange das Anmeldeformular bis am 22. September ausgefüllt wird.

Ursprünglich war das Swiss IGF 2020 für März 2020 geplant gewesen ¯\_(ツ)_/¯ Fantastischerweise konnte das ursprüngliche Programm in den grössten Teilen beibehalten werden, wenngleich die “Parallelsessionen” für die Online-Version mit Simultanübersetzung nun nicht mehr parallel laufen können.

Das Programm ist auf der Swiss IGF 2020 Seite zu finden.

Weitere Änderung zu vorherigen Swiss IGF sind vor allem logistischer Natur: Während in früheren Jahren die Anreise an den Durchführort erbracht werden muss, braucht es in diesem Jahr ein Gerät mit Internetanschluss. Und der Zmittag wird nun nicht offeriert.

Warum ich überhaupt darüber schreibe? Seit über einem Jahr engagiere ich mich freiwillig in der Kerngruppe des Swiss IGF, sozusagen das Organisationskommittee der Freiwilligen, die das Ganze gemeinsam auf die Beine stellen.

Als ich im Spätherbst 2018 zum ersten Mal persönlich Teil am Swiss IGF teilnahm, war ich von der Breite der Themen und teilnehmenden Stakeholder sofort begeistert. Da trafen sich Politikerinnen und Politiker, Bundesangestellte, Forschende, interessierte Leute aus der Zivilgesellschaft und aus der Privatwirtschaft, um zusammen über das Internet zu diskutieren. Die programmierten Themen reichten damals von Swiss-ID über Netzsperren bis hin zu Digital Health.

Diese Breite ist das erklärte Ziel des Swiss IGF (siehe: Über das Swiss IGF), und rege Debatten übrigens auch. Es sind zwar kurze Inputreferate vorgesehen, aber die Hauptzeit der Programmpunkte gehört dem Austausch.

Auch dieses Jahr wird das Swiss IGF spannend werden: Wir diskutieren über Bibliotheken, Digitale Kompetenzen in der Verwaltung, die Herausforderung Digitale Märkte und Internet-Plattformen uvm. Ich freue mich jetzt schon.

Swiss IGF 2020: Anmeldung bis am 22. September 2020.

Panel participation at the EASST/4S 2020 conference in virPrague (Aug 20)

Tomorrow (from where I am writing this) I will present some of my research at the joint conference of the European Association for the Study of Science and Technology and the Society for Social Studies of Science (4S). Originally planned in Prague from Aug 18-21, COVID-19 has made the conference move to virPrague, i.e. online. Unfortunately I had to miss out on the first day of the conference, but today I had the chance of attending a few presentations, all excellent by the way. I love to learn what others are working on and get new perspectives. Therefore, I am glad that I will again be able to be part of “my” conferences this autumn (also looking at you, AoIR2020). Despite the particular circumstances it is clear to me that virConference is always better than noConference.

More than anything else I owe my active participation at the EASST/4S 2020 conference to two fantastic scholarly colleagues. Elinor Carmi and Dan Kotilar masterfully responded to the conference theme “Locating and Timing Matters: Significance and Agency of STS in Emerging Worlds” by putting together a wonderful panel about “Contextualizing Algorithms in Time and Space” that I would want to attend even if I were not presenting. From the summary:

[W]hile the power of algorithms is unquestionably global, the exact temporal and spatial trajectories through which algorithms operate, and the specific socio-cultural contexts from which they arise, have been largely overlooked. This panel aims to address these gaps, and uncover the complex spatio-temporal contexts through which algorithms operate. We will ask: What is the role of locality, temporality, and culture in the creation and implementation of algorithms? How algorithms become localised to create ‘personalized’ experiences? What types of data are being used to contextualize people’s lives through platforms? and what gets filtered out in the process of datafication, and why?

Together with Taina Bucher (because, yes, I forgot to mention: the brilliant Taina Bucher is also part of our panel) we will talk about Facebook, Google, and a user-profiling company, about personalizing, profiling, and targeting, and about structures, timing, and practices. I am looking forward to it — if you intend to join, please say hi :)

Although half of the conference is already over, the program of the next two days is still extremely rich. Are you attending EASST4S and would like some pointers? Please let me recommend the following panels and presentations by my STS Lab/STS-CH colleagues from Switzerland and my ex-colleagues from S&TS Cornell (apologies in advance to anyone I may have overlooked):

Thursday morning starts with food: at 10am (all times are Prague local times, i.e. CEST) you could attend The Follies of Scaling-up Processed Foods in India or Logics of Food Consumption, Choice and Politics on Digital Media, then Commercial and Temporal Logics of Digital Food at 12pm. In the afternoon, perhaps peek in on Comm Scholars in STS – Making it work as an interdisciplinary scholar before attending Locating And Timing Matters Of Attention Through Wikipedia: Technical, Epistemological And Political Considerations. (Re:the latest session, you need to know that it will be held in a flipped format, so you need to engage with the presentations beforehands.) At 8pm, in case you are not attending our panel, there are still at least two more Swiss STS presentations on offer: Charting the Political Epistemologies of Epigenetics and DOHaD and Architectonic Studies of Radio Signals: Reorganizing Archives of Data/Natures In Their Own Terms.

Friday starts at 10am with: New Patient’s Definition Shaped by Preventive Properties of HIV Drugs. At noon, there is Articulating Politics with Design and Technology: Public Space, Computation and Commoning, and a little later Scaling a “global music platform”: secret gigs, live music and the platform metaphor. At the end of the last conference day, a last difficult choice: between Another Type of Precision Oncology? Knowledge Production within a Platform of Cancer Immunotherapy in Switzerland, Cures, Harms & Medical Authority: Animating Side-Effects As Modes Of Resistance In Hepatitis C-Treatments and Locating South Asia in Social Studies of Science and Technology. All interesting, all relevant, although not necessarily linked to my immediate research topic. But even if I had to choose which session to attend based on topic or research area, I would hardly manage to come up with a satisfying schedule: there are so many parallel sessions happening! Impossible to attend everything I am interested in — just like with in-person conferences.

However, unlike in-person conferences there will be recordings available, it seems… great news!

Freiheit im digitalen Zeitalter

Copyright: hier+jetzt Verlag. Der folgende Essay entstand Anfang 2019 aufgrund einer Einladung, für ein Buch über Freiheit ein Kapitel zum Thema “Freiheit und Digitalisierung” beizusteuern (->pdf-Version). Die Wiedergabe des Texts hier erfolgt mit freundlicher Genehmigung des Verlags.

Exakte Referenz: Jobin, A. 2019. “Diagnose: Ambivalenz. Freiheit Im Digitalen Zeitalter.” Pp. 109–119 in Freiheit, herausgegeben von M. L. Marti und J.-D. Strub. Baden: hier + jetzt.

Diagnose: Ambivalenz. Freiheit im digitalen Zeitalter

Im Frühjahr 1999 strahlte die BBC ein Interview mit David Bowie aus, in dem sich der Sänger unter anderem zum Thema Internet äusserte: «I don’t think we’ve even seen the top of the ice berg, I think the potential what the internet is going to do to society, both good and bad, is unimaginable. I think we’re actually on the cusp of something exhilarating and terrifying.»1 Bowie hat mit diesen Worten unwissentlich eine zwanzig Jahre später stattfindende Debatte vorweggenommen und beantwortet.

Still photo of David Bowie speaking to Jeremy Paxman on BBC Newsnight (1999)

Gut oder schlecht? Frei oder unfrei?

Tatsächlich finden auch heute noch viele Diskussionen zum Thema in binären Denkmustern statt: Sind neue Technologien gut oder schlecht? Bringt die Digitalisierung mehr Freiheiten oder schränkt sie uns ein? Eine Auslegeordnung fördert jeweils zahlreiche Beispiele für beide Seiten zutage. Einerseits können wir auf abrufbereite, noch nie dagewesene Mengen von Informationen zugreifen. Andererseits wissen wir immer weniger auswendig und überschätzen zudem unser Wissen. Einerseits sind viele Arbeitende vor allem des tertiären Sektors mobiler und flexibler. Andererseits verwischt sich die Grenze zwischen Arbeit und Beruf immer mehr, was zusätzlichen Druck schaffen kann. Das Beispiel-Pingpong könnte so unendlich lange fortgesetzt werden. Wirklich produktiv erscheint mir dies allerdings nicht. Viel spannender und wichtiger, als einer Antwort in schwarz oder weiss nachzugehen, sind die Fragen, unter welchen Umständen die Digitalisierung Freiheit fördert, und von welcher Art Freiheit die Rede ist. Denn – wie das BBC-Publikum schon vor zwei Jahrzehnten erfahren konnte – Internet bringt Gutes und Schlechtes, Erfreuliches und Erschreckendes.

Der Journalist schien damals mit Bowies Aussage überfordert. Es sei doch nur ein Instrument, «it’s just a tool though», entgegnete er. Eine Auffassung, die ich selbst auch schon oft gehört habe, am prominentesten in Form der Messeranalogie an hippen Technologiekonferenzen: Ein Messer sei neutral, es komme bloss darauf an, ob es als Küchenutensil oder als Mordwaffe Continue reading

Anna in action 2019: vom Swiss Economic Forum zur Business Innovation Week

Nachderm ich im Herbst 2018 aus den Vereinigten Staaten zurück in die Schweiz gezogen bin, dachte ich, ich würde mich nun wieder langsam an mein neues altes Zuhause gewöhnen und alles ein bisschen ruhiger angehen. So im Sinne von Work-Life-Balance und so. Wenn ich nun aber auf dieses Jahr zurückschaue merke ich, dass viel mehr los war als ich eigentlich vorhatte — und dass mir dabei pudelwohl war. “Ruhig angehen” scheint nicht unbedingt mein Ding zu sein…

Zusätzlich zu meiner Forschung und anderen arbeitsrelevanten Verpflichtungen habe ich nämlich begonnen, mich aktiver (und auch ohne direktes Forschungsimperatif) für Schweizer Wirschafts- und Innovationinitiativen zu interessieren. Denn homogene Umfelder sind selten förderlich, und Brücken bauen ist enorm wichtig. Daher nun diese persönliche, in einem Bereich fokussierte Zusammenfassung von 2019:

Swiss Economic Forum & Swiss Innovation Forum

Dank persönlicher Empfehlungen (merci!) und meiner Affinität für die sozialen Aspekte algorithmischer Systeme hatte ich die Gelegenheit, an beiden Foren in privilegierter Rolle teilzunehmen. Da es sich beide Male um sogenannte “closed door” Events handelte kann ich hier leider nicht viel mehr mitteilen.

Aber einen öffentlichen Tweet einbinden darf ich schon, oder? ;)

Sowohl inhaltlich wie auch hinsichtlich der Teilnehmenden waren dies zwei überaus spannende Anlässe.

Shift 2019

Foto: Louis Rafael Rosenthal

An der Shift dreht sich alles um digital Ethik im Privatsektor. 2019 war die erste Ausgabe dieser Konferenz (und die Daten für 2020 stehen bereits fest). Auch wenn ich im Februar nicht in Topform war konnte ich persönlich doch viel von dieser einzigartigen Konferenz im deutschsprachigen Raum mitnehmen

Online Marketing Konferenz

An der Online Marketing Konferenz durfte ich über Datenethik sprechen und darüber, welche Ansätze heute wirklich innovativ wären… A propos Datenethik: welche Metapher ist wohl im obigen Bild illustriert? (Und a propos Metaphern: Mein Beitrag war stark inspiriert von der tollen Analyse von Metaphern der beiden sozialwissenschaftlichen Internetresearcher Luke Stark und Anna Lauren Hoffmann, deren wissenschaftliche Publikation hier und ein vielleicht etwas zugänglicherer Artikel hier gelesen werden können.)

Connecta

Auch an der Connecta liess man mich über Datenethik und Innovation sprechen. Was mich besonders freute: mein Vortrag fand im Claude-Nicollier-Raum statt.

Auf dem Foto sieht man Claude Nicollier leider nicht, da er zwar auch auf der Mauer aber weiter rechts von mir abgebildet ist.

Business Innovation Week

An der Business Innovation Week sass ich zusammen mit zwei Grünliberalen und einem Microsoftangestellten in einem Panel mit einem eher merk-würdigen Namen und brachte alle drei zum Lachen.

Photo: Andreas Kriesi (via FB)

Was ich sagte, und warum ich meine Hand ausstreckte, weiss ich nicht mehr. Aber ich erinnere mich, dass vor dem Panel Andy Fitze einen tollen Vortrag über die Komplementarität von AI und Menschen hielt. (Andy, das Bild der “smartest” Kreuzung als Steigerung einer “smarten” Kreuzung hab ich immer noch im Kopf!)

Mal schauen, was 2020 in diesem Bereich so bringen wird… Bring it on!

Inclusive AI: empirical data from the civil society

I am thrilled about this most recent collaboration: together with Swissnex San Francisco, the think thank foraus and AI commons I have worked on a report that presents empirical data on what the ethical principle of inclusiveness means when it comes to artificial intelligence. Its title is: “Towards an Inclusive Future in AI – A Global Participatory Process“and it can be accessed for free on the foraus website.

Based on the policy kitchen method (explained in more details in the report) people from four continent have gathered in “11 workshops in 8 countries, involving 10 partner organizations and about 120 participants from a wide range of perspectives, collaboratively generated 43 ideas for an insclusive future in AI.”

The key take-aways of how inclusivity is understood, and can be achieved, are the following:

  1. Aim at inclusive inclusion
  2. Prevent, detect and eliminate bias in AI systems
  3. Establish open standards & access to data
  4. Alleviate power differentials between corporations and individuals
  5. Guarantee shared benefits and prosperity
  6. Provide access to education
  7. Commit to participatory governance

What is most remarkable about this report is the fact that it draws on empirical data from civil society. It therefore applies its own value of inclusivity to the very process by which the conclusions are achieved: by including and listening to stakeholders when it comes to defining what is at stake.

The report is in English — for a short German summary click here.

By the way, our report has been publishes simultaneously with another great paper on “Making Sense of Artificial Intelligence – Why Switzerland Should Support a Scientific UN Panel to Assess the Rise of AI” which I encourage you to read here.

Towards an inclusive future in AI: was bedeutet “inklusive Künstliche Intelligenz”?

Dank Swissnex San Francisco, dem Think Tank foraus und AI Commons durfte ich bei der Ausarbeitung des Reports “Towards an inclusive future in AI. A global participatory process” mitarbeiten. (Hier geht es zum Report, sowie zu einem Kurzbeschrieb auf englisch.)

Am 22. Oktober 2019 fand in Bern eine Pressekonferenz stattfand, wo sowohl unser Report wie auch ein Positionspapier zum Thema AI, resp. zur Schnittstelle von AI Governance und der Schweiz (“Making Sense of Artificial Intelligence – Why Switzerland Should Support a Scientific UN Panel to Assess the Rise of AI”), vorgestellt wurde.

Untenstehend das Transkript meiner deutschen Vorstellung unseres Reports “Towards an Inclusive Future in AI: A Global Participatory Process“.


Künstliche Intelligenz geht uns alle etwas an.

Inklusion, Partizipation, Integration — all das sind wichtige Punkte für eine Technologie, die im Leben von allen Menschen eine immer wichtigere Rolle spielt. Das Prinzip der Inklusion ist tatsächlich sehr wichtig: Es taucht auch in ethischen Richtlinien für künstliche Intelligenz auf der ganzen Welt immer wieder auf. Auf Seite 6 und 7 des Reports sehen Sie einige Beispiele wo und wie “Inklusion” in bestehenden Berichten auftaucht.

Was genau jedoch Inklusion bedeutet, und wie sie erreicht werden kann, sprich: wie Partizipation umgesetzt werden kann, ist eine offene, nicht ganz einfache Frage. Anstelle einer theoretischen Abhandlung haben wir mit Hilfe der Policy Kitchen in einem bottom-up Prozess verschiedene Menschen aus der Zivilgesellschaft auf der ganzen Welt gefragt: “was bedeutet inklusive KI — inklusive künstliche Intelligenz — für euch, und wie kann sie erreicht werden?”

Das Ergebnis zeigt, dass Inklusion nicht mit einem einzigen magischen Rezept erreicht werden kann. Auch unsere Teilnehmenden verbinden mit Inklusion verschiedene, sich gegenseitig ergänzende Ansätze, die jeweils auf verschiedenen Niveaus wirken.

Ich werde die einzelnen Ansätze nun mit ein wenig mehr Details beschreiben. Im Report finden Sie die Zusammenfassung auf Seite 9 als Aufzählung, sowie ab Seite 22 als Schlussfolgerung (“Dessert”). Dabei möchte ich noch einmal betonen, wie wichtig aus gesellschaftpolitischer Perpektive der Prozess war, der zu diesen Ergebnissen geführt hat: Die Ansätze basieren auf Daten. Sie widerspiegeln die Auffassung von verschiedenen Menschen der Zivilgesellschaft in mehreren Ländern wieder.

Zum einen verbinden die Menschen mit Inklusion die Elimination von Bias. Bias — oder Verzerrung, Vorurteil oder Ungleichgewichtigkeit — innerhalb von Systemen mit künstlicher Intelligenz kommt zum Beispiel durch verzerrte Datenbestände zu Stande. Bestehende soziale Vorurteile werden in Daten widergespiegelt und danach durch Maschinen verstärkt.

Gemäss unseren Teilnehmenden muss inklusive KI Vorurteilen aktiv entgegenwirken. Zur Vorbeugung, aber auch Behebung wurden einerseits technische Massnahmen vorgeschlagen, aber auch zum Beispiel Qualitätskontrollen diesbezüglich. Diese sollen zu verschiedenen Zeitpunkten während der Entstehung, aber auch der Nutzung eines KI-Systems, systematisiert werden.

Auch erwähnt wurden organisatorische Neustrukturierung, zum Beispiel “inklusive Teams”, d.h. weniger sozial homogene Teams. Oder institutionalisierte Möglichkeiten für Nutzerinnen und Nutzer um Feedback über Bias geben zu können.

Weitere Vorschläge drehen sich um einen 2. Punkt: Datenzugang und offene Standards — Open Access und Open Standards. Inklusion wird verstanden als die Möglichkeit, Partizipation technisch zu ermöglichen. Denn wenn KI-Technologien in den Händen von Wenigen konzentriert sind, wird der Graben im Laufe der Zeit immer grösser: Je weiter fortgeschritten eine Organisation mit künstlicher Intelligenz bereits ist, umso grösser wird ihr Vorsprung.

Zugang zu Daten, offene Standards damit Daten — aber auch Systeme — genutzt, ja: weiterbenutzt werden können, verringern dieses Machtgefälle und führen zu vermehrter Partizipation bei der Herstellung.

A propos Machtgefälle, das bringt mich auch gleich zum dritten Punkt. Ab Seite 14 sehen Sie den wichtigen Punkt der Verringerung des Machtgefälles zwischen Unternehmen und Einzelpersonen. “User Rights and Transparency.”

Inklusion wird von vielen Menschen verstanden als aktives Arbeiten an der Verringerung dieses Machtgefälles. Die Vorschläge aus der Policy Kitchen in diesem Bereich betreffen vor allem Datensouveränität, Transparenz und Wahlmöglichkeit. Gerade der Wunsch nach Wahlmöglichkeit verbindet die Vorstellung von Inklusion mit einer weniger homogenen technischen Landschaft, wo Technologiehersteller nicht mehr unilateral die Funktionsweisen und Konditionen Ihre Systeme diktieren können.

Continue reading