ViSP: Wie der Kampf gegen KI-Desinformation gewonnen werden soll

Wien ist eine der größten Universitätsstädte im deutschsprachigen Raum. Universitäten, Fachhochschulen, Privatunis und etliche private Forschungseinrichtungen bilden eine hohe Konzentration an Wissen.

Um diese Kapazitäten zu bündeln, wurde der ViSP gegründet. Der Vienna Cybersecurity and Privacy Research Cluster besteht aus IT-Security-Forschenden des AIT, Cybersecurity Austria, ISTA, SBA Research, TU Wien und der Uni Wien. „Gemeinsam wird an hochwirksamen und groß angelegten Forschungsprojekten gearbeitet. Die Lehraktivitäten in Schulen und Universitäten werden synchronisiert und es wird eine zentrale Anlaufstelle für Stakeholder gebildet, wie Industrien, Regierungen und gesellschaftliche Organisationen“, sagt Matteo Maffei, Professor an der TU Wien.

Für Letzteres sieht sich vor allem SBA Research zuständig, das 2006 ebenfalls von mehreren Bildungs- und Forschungseinrichtungen gebildet wurde. „SBA Research ist ein Kristallisationspunkt der IT-Sicherheitsforschung. Es fungiert als wichtige Schnittstelle zwischen Forschung und Industrie, indem es Unternehmen hilft, Forschungsergebnisse und Technologien in marktfähige Produkte und Dienstleistungen umzuwandeln. Außerdem bietet es Schulungen, Kurse und Zertifizierungen an, um das Bewusstsein für die Bedeutung von IT-Sicherheit zu erhöhen und Expert*innen in diesem Bereich auszubilden und weiterzubilden“, sagt Edgar Weippl, Professor an der Universität Wien.

Am ViSP wird in vielen Bereichen der IT-Security geforscht, mit Schwerpunktthemen wie Kryptographie, Blockchains, Verifikation und Algorithmen. Maffei: „Ich arbeite derzeit an sicheren Entwicklungstechniken für dezentrale Finanzen, technischen Lösungen zur Unterstützung des Security- und Privacy-by-Design-Prinzips sowie Techniken zur Sicherheitsdurchsetzung für Deep Neural Networks. Alle diese Projekte sehen die Zusammenarbeit von ViSP-Partnern vor und werden von Förderorganisationen (z.B. FWF, Christian Doppler Lab und ERC) sowie nationalen und internationalen Unternehmen (z.B. Bitpanda und IOTA) unterstützt.“

Digitaler Humanismus

Ein wichtiger Aspekt am ViSP ist der digitale Humanismus. Der Begriff wurde 2019 im „Wiener Manifest“ (PDF) geprägt. Vereinfacht gesagt wird darin gefordert, dass Technologie zum Wohle der Gesellschaft entwickelt wird. In den vergangenen Jahrzehnten hat Technologie stark die Gesellschaft geprägt und verändert, allerdings nicht nur zum Besseren. In dem Manifest stellen die Forschenden klar, dass ihre Aufgabe nicht ist, die daraus entstandenen Nachteile einzudämmen, wie etwa Cybercrime und die Verletzung der Privatsphäre, sondern von Beginn an menschenzentrierte Innovationen zu fördern.

„Der digitale Humanismus beinhaltet Anliegen wie Datenschutz und IT-Sicherheit, und es ist die IT-Security-Forschung, welche die ,Werkzeuge’ entwickelt, um diese zu gewährleisten. Ich erwarte einen zunehmenden Austausch zwischen digitalem Humanismus und Sicherheitsforschung, mit dem Ziel zu definieren, was wir erreichen wollen und zu verstehen, ob und wie dies technisch möglich ist“, erklärt Krzysztof Pietrzak, Professor am ISTA.

Der digitale Raum ist für Menschen

Weippl hat ein konkretes Beispiel dafür, wie digitaler Humanismus bereits jetzt zur Anwendung kommt: „Ein Beispiel ist die Forderung nach mehr Datenschutz und Schutz der Privatsphäre von Individuen in der digitalen Welt. Der digitale Humanismus betont die Bedeutung der Wahrung der Grundrechte von Individuen im digitalen Raum, was auch eine wichtige Rolle in der Cybersecurity spielt. Es ist wichtig, dass technologische Lösungen im Bereich der Cybersecurity ethische Grundsätze und Werte berücksichtigen, um das Vertrauen der Benutzer*innen in die Technologie zu stärken.“

Eine der Kernbotschaften des digitalen Humanismus ist also, dass der digitale Raum zwar digital, aber trotzdem ein Raum für Menschen ist. Und genau deshalb sei es so wichtig, die Technologien von Beginn an beherrschbar für alle Menschen zu machen. „Digitalisierung und IT-Sicherheit stellen kein rein technisches Detailthema dar, welches nur durch bessere Technik gelöst werden kann. Technik wird immer von Menschen benutzt und durch die Benutzung entsprechend weiterentwickelt. Wenn die Technik nicht beherrschbar gebaut wird, d.h. wenn technische Systeme eine schlechte Benutzbarkeit aufweisen und nicht auf die Anforderungen der Benutzenden abgestimmt ist, aber auch wenn die Fähigkeiten der User*innen für die Benutzung von komplexen IT-Systemen nicht gut genug ausgebildet sind, wird die Technik unsere Erwartungen nicht ausreichend erfüllen und wir werden keine resiliente Gesellschaft erreichen“, sagt Helmut Leopold, Leiter des Center for Digital Safety & Security des AIT.

Künstliche Intelligenz als Chance und Bedrohung

Die Forschung am ViSP und den daran beteiligten Organisationen wandelt sich genauso wie die Gesellschaft und den aktuellen Herausforderungen, die sich diese stellen muss. Ein wichtiges Thema ist derzeit Künstliche Intelligenz (KI). „Einerseits können KI-Technologien dazu verwendet werden, um IT-Security zu verbessern. Andererseits entstehen viele neue Bedrohungen im Zusammenhang mit der menschlichen Seite, wie Deepfakes, gefälschte E-Mails und Artikel und Social-Media-Beiträge, die Fake News verbreiten“, sagt Weippl.

Leopold stimmt zu. KI habe sich zu einem wichtigen Innovationstreiber entwickelt, „gleichzeitig gehen von ihr aber auch neue Bedrohungen aus, wie die Generierung von zunehmend wirkungsvollerer Desinformation, welche Unternehmen und unsere demokratischen Strukturen gleichermaßen gefährden“. Deshalb hat sich das AIT schon vor Längerem auf diese Thematik spezialisiert: „In Projekten wie ,Defalsif-AI - Detektion von Falschinformation mittels Artificial Intelligence´ und ,GADMO – German Austria Digital Media Observatory´ wurden auf Basis umfassender KI- und Data Science-Kompetenz technische Lösungen für die Erkennung von Falschinformation entwickelt, mit denen sich das AIT im europäischen Spitzenfeld der Desinformationsforschung etablierte“, sagt Leopold.

Der Kampf gegen Desinformation könne nicht auf technologischer Ebene allein geführt werden. „Zukünftig wird man bei der Entwicklung von Werkzeugen auch die durch die digitalen Plattformen stark veränderten Qualifikationsanforderungen von Berufsbildern, wie Journalist*innen und Fact-Checker*innen, mitberücksichtigen müssen“, sagt Leopold. Zudem wird man mit Bildungseinrichtungen zur umfassenden Vermittlung von Medienliteralität in allen Teilen der Bevölkerung, zusammenarbeiten müssen.

„Auch eine verstärkte Kooperation mit der Wissensdisziplin Psychologie rückt mehr in den Fokus, wenn man Kenntnisse über das Entstehen von Verschwörungstheorien sowie über den späteren Umgang mit verhärteten Filterblasen bei der Entwicklung von Abwehr-Tools zur algorithmischen Eingrenzung von Desinformation erfolgversprechend mitberücksichtigen will“, erklärt Leopold. Ziel aller Anstrengungen müsse sein, auch in der digitalen Welt mündige Bürger*innen für eine humanistische Teilhabe an der demokratischen Gesellschaft, in voller Analogie zu Partizipationsformen außerhalb des Netzes, zu ermächtigen.

Sichere Datenräume

KI hat zudem Auswirkungen auf andere Bereiche. „Auf den globalen Datenmärkten hat sie eine hohe Dynamik ausgelöst“, sagt Leopold: „Europa muss zur Erhaltung der Wettbewerbsfähigkeit seiner Wirtschaft vordringlich die Datensouveränität stärken. Die Bedeutung geschützter Daten geht weit über den rein ökonomischen Aspekt hinaus. Datensicherheit und inhärente Datensouveränität bei der Nutzung und beim Austausch von Daten ist auch die Grundlage für menschenwürdige Gesellschaften nach demokratischem Werteverständnis.“

Die europäische Initiative Gaia-X habe in den vergangenen Jahren große Anstrengungen unternommen, um Standards und IT-Plattformen zu entwickeln, damit Daten fair, sicher und vertrauensvoll verwendet, ausgetauscht und gehandelt werden können. Damit sollen sich Unternehmen, KMUs und auch die öffentliche Hand in globalen Datenmärkten positionieren. „Damit möchte Europa einen Gegenpol zu den bestehenden Monopolstrukturen weniger globaler Cloud-Provider setzen“, sagt Leopold. In Österreich nimmt das AIT die Verantwortung für den Betrieb des Gaia-X Hubs Austria wahr.

Standort stärken

Eine weitere Funktion des ViSP ist, den Standort Österreich und Wien für die Spitzenforschung im Bereich der IT-Security zu festigen und stärken. „Um am Standort Österreich mit limitieren Ressourcen im globalen Vergleich wettbewerbsfähig zu sein, braucht es eine breite Kooperation in Österreich. Der ViSP ist eine wichtige Plattform, um unter den Kooperationspartnern Synergien zu verstärken und den High-Tech- und Digital-Standort Wien im internationalen Feld erfolgreich zu positionieren“, sagt Leopold.

„Die bessere Sichtbarkeit der Krypto- und Sicherheitsforschung in Wien und Umgebung ist wichtig, um die besten Studierenden und Forschenden anzuziehen. Die Distinguished Lecture Series, in Rahmen deren wir prominente Forscher nach Wien einladen, ist eine solche Maßnahme“, ergänzt Pietrzak.

Die IT-Security-Forschung ist aber keine reine Wien-Sache. In ganz Österreich gibt es etablierte und erfolgreiche IT-Security-Unternehmen und Bildungseinrichtungen, die entsprechende Ausbildungszweige anbieten. Das zeigt auch jedes Jahr der Hacker-Wettbewerb Austria Cyber Security Challenge, bei der Schüler*innen und Studierende aus ganz Österreich dabei sind. Wieso wurde also gerade Wien als Standort für den Cluster gewählt? „In andern Bundesländern ist die Sicherheitsforschung zentralisierter an einer Institution (z.B. FH Hagenberg) zu finden. Wien hat sehr viel und sehr gute Sicherheitsforschung, die aber nicht so konzentriert sichtbar wurde“, erklärt Weippl.

Könnten anhand des Vorbilds des ViSP weitere Cluster in den Bundesländern entstehen? Ausgeschlossen ist das nicht, aber aus derzeitiger Sicht schwierig, erläutert Maffei: „Um einen großen Forschungscluster aufzubauen, braucht es eine kritische Masse und wissenschaftliche Exzellenz. Wien und Graz sind derzeit die einzigen Städte in Österreich, die international wettbewerbsfähige Forschungscluster im Bereich Cybersicherheit beherbergen.“

Dieser Artikel entstand im Rahmen einer Kooperation zwischen futurezone und Cyber Security Austria.