Der Blick über die Stadt im Januarlicht war definitiv echt – bei den Bildern, die an den Screen geworfen wurden, konnte man sich dagegen nicht so sicher sein. Am 13. und 14. Januar 2025 kamen die zwölf Teams der ersten Stufe des SPRIND Funke Deepfake Detection and Prevention zu ihren ersten Challenge Days in Leipzig zusammen. Ziel der Challenge Days ist die Vernetzung und der Austausch untereinander, aber auch mit Expert:innen sowie relevanten Stakeholdern aus Politik, Wirtschaft und Gesellschaft.

Den Auftakt der Veranstaltung bildeten natürlich die wichtigsten Akteure des Wettbewerbs selbst: Die Teams stellten den anderen Teilnehmer:innen ihren jeweiligen Ansatz vor und stießen damit direkt die Tür auf für regen Austausch und mögliche Kooperationen. Alle Teams der ersten Stufe arbeiten daran, Deepfakes zu markieren und/oder zu erkennen, zeichnen sich ansonsten jedoch sowohl mit Blick auf ihren Hintergrund als auch auf ihren Ansatz durch eine große Heterogenität aus. Ebenso divers sind die potentiellen Kunden, die die Teilnehmer:innen mit ihren Anwendungen erreichen wollen.

Doch für welche Zielgruppe ist die Technologie überhaupt relevant? Welche Anforderungen haben potenzielle Kund:innen und wie unterscheiden sich diese? Diese und weitere Fragen diskutierten Harmen Zell (META), Louisa Well (Bündnis 90/Die Grünen) und Stefan Voss (dpa) in einem Paneltalk, der die Kundenperspektive beleuchtete und den Teams wichtige Impulse für ihren Product-Market-Fit mitgeben konnte. Arne Petersen von der SPRIND kommentierte die Ausführungen aus Sicht eines erfahrenen UX-Designers.

Einblicke in das Thema Wie gründe und führe ich eigentlich ein erfolgreiches Unternehmen? bot Serial Entrepreneur und SPRIND-Innovationsmanager Mirko Holzer den teilweise noch akademischen Teams und Neugründer:innen. Moritz Griesel von der Universität Göttingen rundete die Veranstaltung ab mit einem (Aus-)Blick auf die Komplexität der Regulatorik zu Deepfakes und KI im Allgemeinen innerhalb der Europäischen Union und darüber hinaus.

In Rahmen kleiner Workshopformate und beim gemeinsamen Abendessen gab es weitere Gelegenheiten für die Teams, sich untereinander und mit den Expert:innen über Kernannahmen ihres Geschäftsmodells auszutauschen. Diese Erkenntnisse können die Teilnehmer jetzt nutzen, um bis zur Jurysitzung für die zweite Stufe des Funkens im Mai 2025 ihre Technologie weiter voranzubringen.

Die Teams sind nach erfolgreicher Bewerbung im November 2024 in den Funke gestartet. Der Funke läuft über einen Gesamtzeitraum von 13 Monaten. Die erste Stufe hat eine Laufzeit von sieben Monaten und eine maximale Finanzierungssummer von 350.000 EUR pro Team; die zweite dauert sechs Monate und wird mit bis zu 375.000 EUR finanziert.

ÜBER DEN FUNKEN

Ziel des Funkens ist die Entwicklung eines umfassenden Prototyps, der reaktive Maßnahmen zur Erkennung und/oder präventive Maßnahmen zum Schutz vor Bild-Deepfakes beinhaltet und in bestehende digitale Infrastrukturen integriert werden kann. Der Prototyp muss demonstrieren, wie Bild-Deepfakes zuverlässig erkannt und authentifiziert werden können. Das gesamte System kann KI-gestützt arbeiten und muss sich kontinuierlich an neue Deepfake-Techniken anpassen können. Am Ende des Prozesses sollen mindestens drei unterschiedliche Anwendungsfälle, zum Beispiel Social Media, Nachrichtenportale, Videokonferenzsysteme, abgedeckt werden. Skalierbarkeit und Anpassungsfähigkeit an verschiedene digitale Plattformen sollten möglich sein.

Das Thema ist von großer Bedeutung: Manipulierte, gefälschte oder aus dem Zusammenhang gerissene Bilder untergraben das Vertrauen in visuelle Informationen, erschweren die Überprüfung von Inhalten und können sowohl im Journalismus als auch in Bereichen wie Politik und Wirtschaft erhebliche negative Auswirkungen haben. Daher sind technologische Ansätze entscheidend, um die Echtheit von Bildern und Videos sicherzustellen.

Dabei steht nicht nur die Minimierung von Risiken und die Bekämpfung von Gefahren im Fokus, sondern auch die sinnvolle Nutzung der Möglichkeiten, die KI-Technologien eröffnen.