Für ihre Idee eines Ansatzes, der Diskriminierung in KI-Sprachmodellen analysiert und reduziert, ist Anke Stoll vom Fachgebiet Computational Communication Science der TU Ilmenau im Ideenwettbewerb der Civic Innovation Platform (CIP), einem Projekt der Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales, ausgezeichnet worden. Mit dem Preisgeld in Höhe von 20.000 Euro hat sie nun die Chance, das Projekt gemeinsam mit den beteiligten Partnerinstitutionen weiterzuentwickeln.
Auszeichnungen
Moderation von Online-Diskussionen diskriminierungsarm gestalten: KI-Projekt ausgezeichnet
Das Internet ist ein zentraler Ort für den offenen demokratischen Diskurs. Gleichzeitig besteht jedoch Handlungsbedarf mit Blick auf Hate Speech und Diskriminierung, die viele Nutzer*innen online erfahren müssen. Wie könnte Künstliche Intelligenz hier im Sinne des Gemeinwohls eingesetzt werden?
Die passende Antwort auf diese Frage hatten die Technische Universität Ilmenau, Liquid Democracy e.V., Beyond AI Collective e.V. und das Düsseldorfer Institut für Internet und Demokratie und reichten ihre Idee beim Wettbewerb "Gemeinsam wird es KI" der Civic Innovation Platform ein: die Entwicklung eines Ansatzes zur Analyse und Reduktion von Diskriminierung in KI-Sprachmodellen.
Auf der re:publica Berlin, dem Festival für die digitale Gesellschaft, wurden Anke Stoll, wissenschaftliche Mitarbeiterin am Fachgebiet Computational Communication Science, und ihre Kolleg*innen dafür jetzt vom Bundesministerium für Arbeit und Soziales ausgezeichnet. Als Prämie erhalten sie bis zu 20.000 Euro Anschubfinanzierung, um ihr Projekt „KI-gestützte Moderation von Online-Diskussionen diskriminierungsarm gestalten“ weiterzuentwickeln. Anke Stoll:
Diskriminierung und Intransparenz von KI werden aktuell viel diskutiert. Das Problembewusstsein ist vorhanden, an Lösungsstrategien müssen wir jetzt arbeiten. Einfach wird es nicht.
Anke Stoll arbeitet seit April 2023 am Fachgebiet Computational Communication Science unter Leitung von Prof. Emese Domahidi, wo sie zu KI für Medienplattformen und in sozialen Medien sowie zu Methoden des maschinellen Lernens für die Kommunikationswissenschaft forscht. In ihrer Dissertation an der Heinrich-Heine-Universität Düsseldorf entwickelte sie eine KI-basierte Software zur Moderation von Beteiligungsprozessen.
Die Civic Innovation Platform (CIP) ist ein Projekt der Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales. Ziel ist es, technische und soziale Kompetenzen zusammenzubringen, um gemeinsam gute Ideen für menschenzentrierte gemeinwohlorientierte KI-Anwendungen zu erarbeiten.
Mehr Informationen über das Fachgebiet Computational Communication Science.