Search

Das umfangreiche Sammeln persönlicher Daten im Internet hat in den letzten zwei Jahrzehnten einen großen Markt für personalisierte Inhalte ermöglicht. Tausende kleine und große Unternehmen arbeiten an der Sammlung und Zusammenführung von Daten über das Nutzer*innenverhalten auf Websites, um über Eigenschaften und -Interessen von Nutzer*innen zu lernen. Ganz an der Spitze befinden sich digitale Unternehmen wie Alphabet (Google), Amazon und Meta (Facebook), die den Großteil ihrer Umsätze durch Online-Werbung erwirtschaften. Diese Studie zeigt empirisch, dass eine steigende Menge an Daten zu einer besseren Vorhersagequalität von Personenmerkmalen führt, die für personalisierte Inhalte essenziell sind. Dennoch nehmen die Verbesserungen der Vorhersagequalität ab. Je mehr Daten dazukommen, desto weniger zusätzlichen Nutzen haben sie. Man kann hier von abnehmenden Skalenerträgen sprechen. Google, was bisher Klick-gewichtet auf über 80 Prozent der gängigsten Websites Nutzer*innenverhalten beobachten konnte, erreichte, bei gleichzeitig steigenden Nutzer*innenzahlen und beobachteten Websitebesuchen, jedoch signifikant weniger stark abnehmende Skalenerträge als seine Wettbewerber. Wenn aber Google allein von weiteren Daten durchweg mehr profitieren kann als seine Wettbewerber, können selbst innovative kleinere Unternehmen mangels Daten nur geringe Chancen haben, konkurrenzfähige Produkte zu vermarkten. Es würde sich eine uneinholbare Marktposition für den Google-Konzern ergeben, was zu Nachteilen für Konsument*innen führt., DIW Wochenbericht

Dieser Leitfaden unterstützt Entwickler:innen und ihre Führungskräfte dabei, die Algo.Rules in ihre Arbeitspraxis zu integrieren. Er zeigt anhand von Checklisten auf, welche Fragen sie sich stellen sollten, wenn sie algorithmische Systeme gestalten. Gleichzeitig kann der Leitfaden auch den Austausch zu ethischen Kriterien zwischen Entwickler:innen auf der einen und Führungskräften oder Anwender:innen auf der anderen Seite anleiten. Deshalb ist dieser Leitfaden auch für diese Gruppen relevant. Er stellt vor allem konkrete Maßnahmen vor, um die übergeordneten Regeln in der Praxis umzusetzen. Organisationen, die algorithmische Systeme entwickeln, können die Maßnahmen für ihre Zwecke anpassen und ergänzen oder sofort mit der Anwendung des Leitfadens beginnen. Zu Anfang des Leitfadens stellen wir sechs zentrale Gründe vor, wieso sich die Arbeit mit den Algo.Rules für Entwickler:innen und das Unternehmen lohnt. Danach folgen Hinweise, wie man am besten mit diesem Leitfaden arbeitet. Darauf folgend kann anhand der sogenannten „Wirkungsrelevanz“ geprüft werden, für welches algorithmisches System eine Implementierung der Algo.Rules besonders geeignet ist. Die weiteren Kapitel widmen sich den einzelnen Algo.Rules. Dafür leitet zunächst die Algo.Rule selbst das Kapitel ein. Eine weitere Konkretisierung verdeutlicht die Tragweite der Regel und gibt Hinweise zur Definition bestimmter Begrifflichkeiten. Nutzer:innen des Leitfadens können anhand der Erfolgsfaktoren erkennen, wie die Regel umzusetzen wäre (z. B. frühzeitig, inklusiv oder unter Einbezug weiterer Gruppen). Darauf folgen Orientierungsfragen, die sich Entwickler:innen einzeln oder im Team stellen können, um die Algo.Rules umzusetzen. Der Leitfaden ist modular aufgebaut, sodass jede Regel für sich genommen oder im Gesamtkomplex eine Basis bietet, um sie zu behandeln und zu verwenden.

Die Autorengruppe um Prof. Dr. Mario Martini zeigt in unserer Studie „Automatisch erlaubt? Fünf Anwendungsfälle algorithmischer Systeme auf dem juristischen Prüfstand“, dass der bestehende deutsche Rechtsrahmen und übergreifende europäische Regelungen wie die Datenschutz-Grundverordnung (DS-GVO) dem Einsatz von Algorithmen bereits klare Grenzen setzen. Neben Beispielen aus dem Hochschulsektor analysieren die Autoren Fälle aus dem Polizei- und Gerichtswesen sowie zu sozialen Netzwerken und zeigen auf, dass insbesondere jene Anwendungsfälle, die mit personenbezogenen Daten gespeist vollautomatisierte Entscheidungen treffen, nicht ohne Weiteres auf Deutschland übertragen werden können., Impuls Algorithmenethik

Wolfgang Schulz and Stephan Dreyer analyze in detail the relevant articles of the GDPR and elucidate whether the new regulation can promote more comprehensible and verifiable algorithmic decision-making systems. They examine to what extent the new regulation can safeguard individual interests such as personality rights on the one hand and societal goals such as non-discrimination and social inclusion on the other. In addition to this, they explore certain additions to the GDPR and alternative regulatory tools, which could complement its provisions. Such additional approaches are needed for algorithmic systems. The regulation has a restricted area of application and in view of its focus on safeguarding individual rights it is not capable of safeguarding group interests and societal values such as non-discrimination. In order to broaden the scope of what is possible within the framework of the GDPR, there is above all a need for a more active data protection supervisory authority which is prepared to look at the societal risks of ADM systems. Moreover, beyond the GDPR’s scope, there is a need for additional approaches which can facilitate a more far-reaching evaluation and rectification of automated decisions. Besides provisions to open ADM systems to scrutiny by independent third parties, consumer protection law provides additional regulatory starting points., Discussion paper Ethics of Algorithms

When all age groups are considered, intermediaries driven by ADM processes, such as Google and Facebook, have a large but not a defining influence on how public opinion is formed, compared to editorially driven media such as television. These intermediaries judge the relevance of content based on the public's immediate reaction to a much greater degree than traditional media do. Machines are now selecting the news people see, which means media offerings are becoming increasingly personalized. Use of these intermediaries for forming public opinion is leading to a structural change in public life. Key factors here are the algorithmic processes used as a basic formational tool and the leading role that user reactions play as input for these processes. Since they are the result of numerous psychological factors, these digitally assessed and, above all, impulsive public reactions are poorly suited to determining rele-vance in terms of traditional social values. These values, such as truth, diversity and social integration, have served in Germany until now as the basis for public opinion and public life as formed by editorial media. Algorithms that sort content and personalize how it is assembled form the core of the complex, interdependent process underlying public communication and the formation of public opinion. That is why solutions must be found here first., Discussion paper Ethics of Algorithms

Algorithmen bewerten Menschen und entscheiden über sie – etwa in Bewerbungsverfahren oder bei der Kreditvergabe. Bislang läuft dies noch fast unkontrolliert ab, was zu falschen Bewertungen oder gar Diskriminierungen führen kann. Die ab Mai wirksame Datenschutz-Grundverordnung (DSGVO) wird daran nur wenig ändern. Dies zeigt eine Analyse in unserem Auftrag., Impuls Algorithmenethik

In our “Machines in the Service of Humankind” working paper, we (Konrad Lischka and Julia Krüger) counter this kind of fatalistic tech-determinism by drawing on dozens of ideas circulating among stakeholders in science, civil society, business, and policymaking that demonstrate what can be done to make sure algorithmic processes support social needs. There are several ideas, some of which are already concrete and practical. Our paper answers the following questions: What challenges to society do algorithmic systems pose? What are our options in addressing these challenges?, Discussion Paper Ethics of Algorithms

Was braucht es, damit die Digitalisierung Patientennutzen erzeugt? Welche Rahmenbedingungen sollten angepasst, welche „kulturellen“ Hürden müssen überwunden werden? Die „Roadmap Digitale Gesundheit“ gibt den Akteuren des Gesundheitssystems konkrete Handlungsempfehlungen und Denkanstöße. Die Empfehlungen wurden entworfen vom Expertennetzwerk „30 unter 40“ oder aus den Ergebnissen unseres Projekts „Der digitale Patient“ abgeleitet.

Dieses Arbeitspapier erklärt, wie algorithmische Entscheidungssysteme entwickelt und in einen gesellschaftlichen Kontext eingebettet werden, und zeigt dabei potenziell auftauchende Fehlerquellen auf. Nach einem einleitenden Teil, in dem die Begriffe Algorithmus und Entscheidungssystem näher definiert werden, beschreibt das Papier den Entwicklungs- und Einbettungsprozess von algorithmischen Entscheidungssystemen. Der Prozess, den ein Entscheidungssystem von seiner Entwicklung bis zur Evaluation durchläuft, ist lang und an vielen Stellen von zahlreichen Entscheidungen abhängig. Dafür sind in den einzelnen Phasen unterschiedliche Personen verantwortlich: Wissenschaftler und Programmierer genauso wie Data Scientists und unterschiedliche Akteure (z. B. staatliche, wirtschaftliche, wissenschaftliche Institutionen oder Nichtregierungsorganisationen). Die hohe Anzahl an Entscheidungen sowie unterschiedlicher Beteiligter macht den Prozess anfällig für Fehler, die in allen Phasen auftauchen können., Arbeitspapier Algorithmenethik

Las bibliotecas académicas están enfrentando nuevos desafíos, los cuales se han visto influenciados especialmente por los cambios en los modelos de aprendizaje, la comunicación científica y las TIC, así como por los comportamientos y las necesidades de sus usuarios. Por ello, deben estar abiertas a crear modelos flexibles y adaptables a nuevos entornos educativos con un alto componente de innovación y creatividad. Sin embargo, éstas deben reconocerse dentro de las estructuras universitarias como verdaderos centros de recursos para el aprendizaje y la investigación que aportan a la permanencia estudiantil, a la disminución de la deserción, a la visibilidad institucional y al fortalecimiento de otras funciones sustantivas. Desde el contexto de la negociación, es importante tomar acciones estratégicas que promuevan iniciativas colectivas y mejores resultados frente al gran crecimiento de la industria editorial. Finalmente, los comportamientos de los usuarios del siglo XXI llevan a la necesidad de vigilar tendencias que permitan dar respuestas a corto o mediano plazo, como las citadas en los principales informes internacionales. CONTENIDOS:¿Por qué los lineamientos e indicadores para las bibliotecas académicas innovadoras? -- ¿Para quién? -- Comité de bibliotecas de la Asociación Red Universitaria Metropolitana de Bogotá - RUMBO -- Novedoso aporte, pero reconociendo lo construido -- Metodología -- Estructura documento -- Lineamientos e indicadores -- Direccionamiento estratégico -- Gestión humana -- Gestión financiera -- Gestión de recursos -- Ambientes para la enseñanza, el aprendizaje y la investigación -- Experiencia de usuarios -- Visibilidad académica -- Repositorio institucional -- Portal de revistas -- Estandarización de la presencia web de los miembros de la --Comunidad universitaria -- Cooperación y trabajo colaborativo -- Glosario -- Referencias Bibliográficas. Coedición: Universidad Católica de Colombia, Universidad EAN, Institución Universitaria Politécnico Grancolombiano, Universidad del Rosario, Universidad de Bogotá Jorge Tadeo Lozano, Universidad Libre y Universidad Antonio Nariño.

Verträglichkeitsprüfungen, Qualitätssiegel für Herkunft und Güte von Daten, Verbandsklagerechte für die Antidiskriminierungsstelle des Bundes, eine kompetente Algorithmenagentur – es gibt viele sehr konkrete Ideen, was zu tun ist, um algorithmische Systeme zum Wohl aller Menschen zu nutzen. Das Arbeitspapier „Damit Maschinen den Menschen dienen“ zeigt das Spektrum der bisher in Wissenschaft, Wirtschaft, Zivilgesellschaft und Politik diskutierten Lösungsansätze und systematisiert den Überblick., Impuls Algorithmenethik

Von algorithmischen Prozessen gesteuerte Intermediäre wie Google oder Facebook haben im Vergleich zu redaktionell gesteuerten Medien wie dem Fernsehen einen großen, aber bislang nicht entscheidenden Einfluss auf die öffentliche Meinungsbildung. Sie bewerten die Relevanz von Inhalten viel stärker als redaktionelle Medien an unmittelbaren Reaktionen des Publikums. Die Nutzung der Intermediäre für öffentliche Meinungsbildung führt zu einem Strukturwandel der Öffentlichkeit. Zentral ist dabei ein zunehmend personalisiertes und maschinell kuratiertes Medienangebot, bei dem unmittelbare Nutzerreaktionen ein bedeutender Input sind. Eine Reihe psychologischer Faktoren führt aber dazu, dass die ausgewerteten vor allem impulsiven Publikumsreaktionen schlecht geeignet sind, um Relevanz im Sinne klassischer Leitwerte wie Wahrheit, Vielfalt oder gesellschaftliche Integration zu bewerten, die in Deutschland Grundlage der von redaktionellen Medien geschaffenen Öffentlichkeit sind. Im Zentrum der komplexen Wechselwirkungen digitaler Öffentlichkeit stehen algorithmische Prozesse, die Inhalte sortieren und deren Zusammenstellung personalisieren. Deshalb müssen Lösungen zuerst hier ansetzen., Impuls Algorithmenethik

Kriminalitätsprognosen, Kreditvergabe, Bewerberauswahl: Algorithmische Systeme beeinflussen heute auf unterschiedlichen Gebieten die Leben vieler Menschen. Und sie können großen Einfluss auf deren Teilhabechancen haben. Damit maschinelle Entscheidungen den Menschen dienen, braucht es gesellschaftliche Gestaltung, zum Beispiel in Form von Gütekriterien für algorithmische Prognosen. Handlungsbedarf besteht nicht allein auf der technischen Ebene. Das Arbeitspapier zeigt anhand vieler Fallstudien, dass alle Ebenen des sozioinformatischen Prozesses teilhaberelevant sind – angefangen bei der Auswahl von Daten und der Messbarmachung von Konzepten bis hin zur sachgerechten Anwendung, der Falsifizierbarkeit von Prognosen und ihrer umfassenden Evaluation und Überprüfbarkeit., Impuls Algorithmenethik

Processes of algorithmic decision-making (ADM) now evaluate people in many areas of life. ADM processes have been used for years to categorize people, without any real discussion of whether those processes are fair or how they can be explained, verified or corrected. One potential reason for this is that the systems have little to do with artificial intelligence (AI) as it appears in science fiction. People often associate AI with qualities exhibited by fictional characters like HAL 9000 or Wintermute: intentionality and consciousness. Yet, until now, powerful AIs of this sort have only been found in literary works and films, and have nothing to do with the systems presented in this collection of case studies. The latter, however, already play a significant role in deciding legal matters, approving loans, admitting students to university, determining where and when police officers are on duty, calculating insurance rates and assisting customers who call service centers. All are programs which are specially designed to address specific problems and which impact the lives of many people. It's not about the future according to science fiction, it's about everyday reality today, Discussion paper Ethics of Algorithms