Search

Zukunftsvisionen sind in allen Bereichen der Gesellschaft wirkmächtig, in Wissenschaft und Politik wie in Zivilgesellschaft und Massenmedien. Seit 2012 entwickeln Wissenschaftler:innen am Institut für Technikfolgenabschätzung und Systemanalyse das „Vision Assessment“ als einen für die empirische Erforschung von Visionen als sozio-epistemische Praktiken operationalisierbaren Forschungsansatz. Das vorliegende Buch entfaltet die theoretischen Dimensionen, die den Forschungsansatz heute fundieren. Abstract (englisch): Visions of the future play an increasing role in all spheres of society, in science and policy making as well as in civil society and mass media. Since 2012, researchers at the Institute for Technology Assessment and Systems Analysis have been developing "Vision Assessment" as an approach to investigate the societal effects of such visions. This anthology presents the theoretical foundations of their research.

An increasing ubiquity of machine learning (ML) motivates research on algorithms to explain ML models and their predictions -- so-called eXplainable Artificial Intelligence (XAI). Despite many survey papers and discussions, the goals and capabilities of XAI algorithms are far from being well understood. We argue that this is because of a problematic reasoning scheme in XAI literature: XAI algorithms are said to complement ML models with desired properties, such as "interpretability", or "explainability". These properties are in turn assumed to contribute to a goal, like "trust" in an ML system. But most properties lack precise definitions and their relationship to such goals is far from obvious. The result is a reasoning scheme that obfuscates research results and leaves an important question unanswered: What can one expect from XAI algorithms? In this article, we clarify the goals and capabilities of XAI algorithms from a concrete perspective: that of their users. Explaining ML models is only necessary if users have questions about them. We show that users can ask diverse questions, but that only one of them can be answered by current XAI algorithms. Answering this core question can be trivial, difficult or even impossible, depending on the ML application. Based on these insights, we outline which capabilities policymakers, researchers and society can reasonably expect from XAI algorithms.

Die zunehmende Verfügbarkeit umfangreicher und komplexer Daten hat die Humangenomik und ihre Anwendungsbereiche in der (Bio-)Medizin zu einem attraktiven Bereich für künstliche Intelligenz (KI) vor allem in Form von fortgeschrittenen Methoden des maschinellen Lernens (ML) gemacht. Diese Methoden sind nicht nur mit der Hoffnung verbunden, Diagnosen und die Medikamentenentwicklung zu verbessern. Sie könnten auch darum, Kernthemen in der Biomedizin voranzubringen, z.B. zu verstehen, wie individuelle Unterschiede im menschlichen Genom bestimmte Merkmale oder Krankheiten verursachen können. Wir analysieren die zunehmende Konvergenz von KI und Genomik, das Entstehen eines entsprechenden Innovationssystems und wie diese assoziativen KI-Methoden mit dem Bedarf an kausalem Wissen in der biomedizinischen Forschung und Entwicklung und in der medizinischen Praxis zusammenhängen. Schließlich betrachten wir die Potenziale und Herausforderungen für die klinische Praxis und die sich aus dieser Konvergenz ergebenden Implikationen für Governance-Fragen.

Problem: Visions of technology, future scenarios, guiding visions (Leitbilder) represent imaginations of future states of affairs that play a functional role in processes of technological research, development and innovation—e.g. as a means to create attention, communication, coordination, or for the strategic exertion of influence. Since a couple of years there is a growing attention for such imaginations of futures in politics, the economy, research and the civil society. This trend concerns technology assessment (TA) as an observer of these processes and a consultant on the implications of technology and innovation. TA faces increasing demands to assess imaginations of futures that circulate in the present and to participate in shaping these through scenarios or foresights. More than ever, this raises the question, which propositions can be made based on these imaginations by TA and how this can be used in advisory practices. Imaginations of futures are relevant for TA not as predictions but in their significance and effectiveness in the present, which need to be understood and assessed.

Problemstellung: Technikvisionen, Zukunftsszenarien, Entwicklungsleitbilder repräsentieren Imaginationen zukünftiger Zustände, die in Technikentwicklungs- und Innovationsprozessen funktionale Rollen spielen – z.B. als Mittel der Aufmerksamkeitserzeugung, Kommunikation, Koordination oder der strategischen Beeinflussung. Seit einigen Jahren lässt sich eine wachsende Aufmerksamkeit für solche Zukunftsbilder in Politik, Wirtschaft, Forschung und Zivilgesellschaft feststellen. Das lässt die Technikfolgenabschätzung (TA) als Beobachter der Prozesse und als Berater über die Folgen von Technik und Innovation nicht unberührt. TA sieht sich zunehmender Nachfrage gegenüber, in der Gegenwart zirkulierende Zukunftsvorstellungen zu beurteilen und durch Szenarien oder Foresight mitzugestalten. Stärker denn je stellt sich deshalb für die TA die Frage, welche Aussagen sie auf Grundlage dieser Zukunftsvorstellungen treffen kann und wie sie ihr erworbenes Wissen in ihren Beratungspraktiken umsetzen kann. Für die TA relevant sind diese Vorstellungen nicht als Prognosen, sondern in ihrer Bedeutung und Wirkung in der Gegenwart, die es zu verstehen und zu beurteilen gilt. Inhalt: Dieses Diskussionspapier skizziert, wie die TA die gegenwärtigen Bedeutungen und Wirkungen von Zukunftsvorstellungen in Technikentwicklungs- und Innovationsprozessen begreifen und analysieren kann. Alle Formen technologiebezogener Zukunftsvorstellungen werden im Papier unter dem Arbeitsbegriff „soziotechnische Zukünfte“ zusammengefasst. Als soziotechnische Zukünfte werden sie bezeichnet, da technische Entwicklungen in ihnen immer in Beziehung zu sozialen Veränderungen gesetzt werden. Ausgeführt wird, (1) warum die TA soziotechnische Zukünfte analysieren soll, (2) wie sie diese Analysen ausrichten kann, um erfassen zu können, welche gesellschaftlichen Zustände (z.B. Machtverhältnisse) in den Zukunftsimaginationen ihren Ausdruck finden und wie diese in Prozessen der Technikentwicklung, Kommunikation, Entscheidungsfindung etc. wirkmächtig werden und wirken. Das Papier fragt (3) danach, welche selbstreflexive Verortung und ggf. Neuausrichtung der TA-Praxis durch ihre verstärkte Befassung mit der Bewertung und auch der Mitgestaltung soziotechnischer Zukünfte erforderlich wird. Diese wird gerade im Zuge zunehmender Aufmerksamkeit in Politik und Öffentlichkeit auf zeitlich sowie räumlich weitreichende Zukunftsbilder gefordert. Adressat dieses Papiers ist die TA-Community im weiteren Sinne. Das Ziel des Diskussionspapiers ist es, Kolleginnen und Kollegen für das Thema und seine Problematik zu sensibilisieren, Diskussionen zu fundieren und theoretisch-methodische Anregungen für eine angemessene Befassung mit Zukunftsvorstellungen für Technikfolgenforschung und -beratung zu geben. Hervorgegangen ist das Diskussionspapier aus dem Workshop „Die Gegenwart technischer Zukünfte – Theoretische und methodische Herausforderungen der Technikfolgenabschätzung“ (März 2016, Karlsruhe), an dem alle Autorinnen und Autoren des Papiers mitgewirkt haben. Die Befunde dieses Diskussionspapiers sind Zwischenergebnisse, die weitere Diskussionen initiieren und orientieren sollen.

Problem: Visions of technology, future scenarios, guiding visions (Leitbilder) represent imaginations of future states of affairs that play a functional role in processes of technological research, development and innovation – e.g. as a means to create attention, communication, coordination or for the strategic exertion of influence. Since a couple of years there is a growing attention for such imaginations of futures in politics, the economy, research and civil society. This trend concerns Technology Assessment (TA) as an observer of these processes and a consultant on the consequences of technology and innovation. TA faces increasing demands to assess imaginations of futures that circulate in the present and to participate in shaping these through scenarios or foresight. More than ever, this raises the question, which propositions can be made based on these imaginations by TA and how this can be used in advisory practices. Imaginations of futures are relevant for TA not as predictions but in their significance and effectiveness in the present, which need to be understood and assessed. Contents: This discussion paper outlines how present significance and effects of imagined futures in technological research and innovation processes can be conceived of and analyzed. In this paper, all forms of imaginations of technology futures will be called ‘sociotechnical futures’ because technological developments and social changes are interwoven through them. In this paper we discuss (1) why TA should analyze sociotechnical futures, (2) how such analyzes can grasp the societal conditions (e.g. power structures) that are expressed in the imagined futures and how these become effective in processes of technology development, communication, decision making etc. We raise the question (3) which self-reflexive positioning or possible realignment of TA is needed because of the increased concern with assessing and even co-producing sociotechnical futures by TA. The latter is often demanded regarding the increasing attention by politics and publics to imaginations of futures with wide temporal and spatial reach

Dieses Diskussionspapier skizziert, wie die TA die gegenwärtigen Bedeutungen und Wirkungen von Zukunftsvorstellungen in Technikentwicklungs- und Innovationsprozessen begreifen und analysieren kann. Alle Formen technologiebezogener Zukunftsvorstellungen werden im Papier unter dem Arbeitsbegriff „soziotechnische Zukünfte“ zusammengefasst. Als soziotechnische Zukünfte werden sie bezeichnet, da technische Entwicklungen in ihnen immer in Beziehung zu sozialen Veränderungen gesetzt werden. Ausgeführt wird, (1) warum die TA soziotechnische Zukünfte analysieren soll, (2) wie sie diese Analysen ausrichten kann, um erfassen zu können, welche gesellschaftlichen Zustände (z.B. Machtverhältnisse) in den Zukunftsimaginationen ihren Ausdruck finden und wie diese in Prozessen der Technikentwicklung, Kommunikation, Entscheidungsfindung etc. wirkmächtig werden und wirken. Das Papier fragt (3) danach, welche selbstreflexive Verortung und ggf. Neuausrichtung der TA-Praxis durch ihre verstärkte Befassung mit der Bewertung und auch der Mitgestaltung soziotechnischer Zukünfte erforderlich wird. Diese wird gerade im Zuge zunehmender Aufmerksamkeit in Politik und Öffentlichkeit auf zeitlich sowie räumlich weitreichende Zukunftsbilder gefordert.

Im vorliegenden Text werden die Ergebnisse einer Umfrage zur Wahrnehmung von Robotiktechnologien im Film EVA, von Kike Maillo (ES 2011) präsentiert. Anfang 2013 wurde im Rahmen einer Filmvorführung eine Umfrage mit insgesamt 41 Probanden durchgeführt. Gezeigt wurde der Film „EVA“, von Kike Maillo (ES 2011). Untersucht wurde, ob und inwiefern sich der Film auf die Meinung der Probanden zu sozialen Robotern und Roboterforschung auswirkt. In Anlehnung an empirische Studien über Katastrophenfilme wie „The Day After Tomorrow“ (Reusswig et al. 2004; Lowe et al. 2006; Leiserowitz et al. 2004) und „The Core“ (Barnett et al. 2006) wurden Umfrageformulare erstellt, in denen die Meinung der Zuschauer vor und nach der Filmvorführung abgefragt wurde. Die hierbei berücksichtigten Themenfelder waren: Einstellung des Zuschauers zu aktuellen Prototypen von Androiden, zur Roboterforschung und zur Entwicklung von sozialen Robotern, Meinung des Zuschauers über die Transparenz der Forschung, über die Auswirkungen humanoider Maschinen auf das menschliche Selbstverständnis und über positive bzw. negative Zukunftsperspektiven, Fragen über die Akzeptanz oder Nicht-Akzeptanz von Robotik-technologien in bestimmten Einsatzbereichen und Meinung der Zuschauer über die technische Realisierbarkeit von emotionsfähigen Robotern sowie über die Chancen und Risiken der Entwicklung derartiger Technologien. Es ließ sich u.a. eine deutliche Auswirkung des Films auf die Meinung der Zuschauer belegen. Ein beträchtlicher Teil der Probanden (37%) wechselte bspw. von einer eher neutralen Einstellung gegenüber der Entwicklung sozialer Roboter, zu einer ablehnenden. Auch sahen deutlich mehr Probanden (+ 39%) nach dem Film in der Entwicklung sozialer Roboter eine Gefahr für das menschliche Selbstverständnis. Die vorliegenden Daten liefern Indizien dafür, dass Filme die öffentliche Wahrnehmung von sozialen Robotern beeinflussen können.