Christoph Lütge, Professor für Wirtschaftsethik, will am Institut für Ethik in der KI neue Forschungsprojekte zum Einsatz von KI-Einsatz im Zusammenhang mit der Corona-Pandemie auf den Weg bringen. Dafür wollen sich die Forschenden international vernetzen. Bild: Andreas Heddergott / TUM
AI against covid-19: Christoph Lütge discusses a new ethics consortium

“Short-term decisions can have a long-term impact on our world”

The weapons deployed in the fight against the covid-19 pandemic also include artificial intelligence. AI might be able to recognize patterns in the spread of the disease, for example. These new possibilities raise ethical issues, however. Christoph Lütge holds the Chair of Business Ethics and is the director of the Institute for Ethics in Artificial Intelligence at the Technical University of Munich (TUM). He has joined colleagues from other respected universities and research institutions to establish the Global AI Ethics Consortium.

Prof. Lütge, you have teamed up with researchers at such institutions as the University of Tokyo, New York University and the University of Cambridge to found an Artificial Intelligence Ethics Consortium. Why?Countless AI and Big Data research projects are springing up all over the world. These projects have the potential to influence political decisions and could shape the healthcare systems of the future. We see a danger of short-term decisions being made amid the urgency of the current crisis having a long-term impact on our world. In many cases, ethical questions arising with the use of new technologies have not even been recognized – let alone answered.Could you give us an example?One issue relates to questions of privacy and data protection in software intended to track the spread of epidemics. Such software is already in use in various countries and is currently being developed for the EU as well.

What is the goal of the Global AI Ethics Consortium?

We need ethical standards as a basis for the political decisions on artificial intelligence and the related software development. These standards cannot stand in the way of innovation or the fight against epidemics, but must block negative effects of AI right from the start.

What exactly will you be doing in the coming months?

The consortium will make its expertise available to other research teams and will also launch its own projects. At the Institute for Ethics in Artificial Intelligence at TUM, for example, we will collect proposals in May for new interdisciplinary research projects related to the covid-19 pandemic and provide up to one year of funding for the best ones. Because sharing ideas is crucial to success, we will of course ensure that the project teams are networked with the other members of the consortium. In addition, we will create a repository for all research results on ethics in artificial intelligence in the context of the covid-19 crisis and make it accessible.

KI gegen Covid-19: Christoph Lütge über ein neues Ethik-Konsortium

„Kurzfristige Entscheidungen können unsere Welt langfristig prägen“

Bei der Bekämpfung der Corona-Pandemie ist auch Künstliche Intelligenz (KI) im Einsatz. KI-Verfahren könnten etwa Muster bei der Verbreitung der Krankheit erkennen. Aus den neuen Möglichkeiten ergeben sich jedoch ethische Fragen. Christoph Lütge, Professor für Wirtschaftsethik und Leiter des Instituts für Ethik in der KI an der Technischen Universität München (TUM), hat mit Kolleginnen und Kollegen anderer renommierter Forschungseinrichtungen das Global AI Ethics Consortium ins Leben gerufen.

Herr Prof. Lütge, Sie haben gemeinsam mit Wissenschaftlerinnen und Wissenschaftlern von Hochschulen wie der University of Tokyo, der New York University und der University of Cambridge ein KI-Ethik-Konsortium gegründet. Warum?Gerade werden weltweit unzählige KI- und datenbasierte Forschungsprojekte ins Leben gerufen. Diese Projekte haben das Potenzial, politische Entscheidungen zu beeinflussen und könnten die Gesundheitssysteme der Zukunft prägen. Wir sehen die Gefahr, dass angesichts der Krise heute kurzfristig Entscheidungen getroffen werden, die unsere Welt langfristig prägen können. Häufig sind die ethischen Fragen, die sich aus dem Einsatz der neuen Technologien ergeben, noch gar nicht erkannt und schon gar nicht beantwortet.Könnten Sie ein Beispiel geben?Ein Thema sind Fragen zu Privatsphäre und Datenschutz bei Software, mit deren Hilfe die Ausbreitung von Epidemien verfolgt werden soll. Solche Software ist ja in verschiedenen Ländern bereits im Einsatz und wird derzeit auch für die EU entwickelt.Was ist das Ziel des Global AI Ethics Consortium?

Wir brauchen Ethik-Standards, die politischen Entscheidungen zu KI und auch der Entwicklung der entsprechenden Software zugrunde liegen. Diese Standards dürfen kein Hindernis für Innovationen oder für die Bekämpfung von Epidemien sein, müssen aber negative Auswirkungen von KI von vornherein verhindern.

Was genau werden Sie in den nächsten Monaten unternehmen?

Das Konsortium wird anderen Forschungsteams seine Expertise zur Verfügung stellen und auch eigene Projekte auf die Beine stellen. Wir am Institute for Ethics in Artificial Intelligence an der TUM werden beispielsweise im Mai Vorschläge für neue interdisziplinäre Forschungsprojekte im Zusammenhang mit der Covid-19-Pandemie sammeln und die besten Projekte jeweils für bis zu ein Jahr fördern. Für den Erfolg ist ein ständiger Austausch entscheidend, die Projekte werden wir natürlich mit den anderen Mitgliedern des Konsortiums vernetzen. Außerdem werden wir ein Repositorium erstellen, in dem wir alle Forschungsergebnisse zu Ethik in der KI in Bezug auf die Corona-Krise zusammentragen und zugänglich machen.

Click here to see the original English press release!

Click here to see the original German press release!