Die rasante Entwicklung digitaler Technologien in den letzten Jahren hat sowohl faszinierende als auch beunruhigende Möglichkeiten eröffnet, insbesondere im Bereich synthetischer Inhalte und Deepfakes. Diese hoch-entwickelten KI-generierten Audio-, Bild- und Videoinhalte sind mittlerweile so realistisch, dass sie von echten Aufnahmen kaum zu unterscheiden sind.

Mit dem Anstieg der Leistungsfähigkeit von Systemen und Sprachmodellen basierend auf künstlicher Intelligenz (KI) und maschinellem Lernen (ML) verbessert sich nicht nur die Quantität, sondern auch die Qualität von Deepfakes rasant. Das birgt Gefahren – für Vertrauen, Sicherheit und die Wahrnehmung von Realität in unserer Gesellschaft.

Derzeit konzentrieren sich die Bemühungen zur Bekämpfung von Deepfakes hauptsächlich auf zwei Bereiche:

  1. Erkennung (Detection): Entwicklung von KI-Algorithmen zur Identifizierung von Deepfakes
  2. Prävention (Prevention): Implementierung von Authentifizierungsmechanismen für digitale Inhalte.
    Trotz erheblicher Fortschritte in diesen Bereichen bleiben signifikante Herausforderungen wie die Generalisierbarkeit und Skalierbarkeit von KI-Deepfake-Erkennungssystemen und die Etablierung eines manipulierungsrestistenten Standards für Bild-Metadaten bestehen.

00:00

Die Herausforderung: die Entwicklung eines umfassenden Prototyps, der reaktive Maßnahmen zur Erkennung und/oder präventive Maßnahmen zum Schutz vor Bild-Deepfakes beinhaltet und in bestehende digitale Infrastrukturen integriert werden kann.

Der Prototyp muss demonstrieren, wie Bild-Deepfakes zuverlässig erkannt und authentifiziert werden können. Das gesamte System kann KI-gestützt arbeiten und sich kontinuierlich an neue Deepfake-Techniken anpassen können. Am Ende des Prozesses sollen mindestens drei unterschiedliche Anwendungsfälle (z.B. Social Media, Nachrichtenportale, Videokonferenzsysteme) abgedeckt werden. Skalierbarkeit und Anpassungsfähigkeit an verschiedene digitale Plattformen sollten möglich sein.

Der Funke läuft über einen Zeitraum von 13 Monaten. Eine Jury aus anerkannten Expert:innen hat Ende Oktober zwölf Teams ausgewählt, die zur Teilnahme der ersten Stufe zugelassen werden.

Teams, die an diesem Funke teilnehmen, sind voll und ganz gefordert. Die SPRIND unterstützt deshalb intensiv und individuell. Dazu gehört die Finanzierung der Teams mit bis zu 350.000 Euro in Stufe 1 des Funkens. Nach sieben Monaten kommt die Jury wieder zusammen, um den Zwischenstand zu bewerten und darüber zu entscheiden, welche Herangehensweisen das größte Sprunginnovationspotential haben und welche Teams sich bis zum Schluss in der Funkens in einer zweiten Stufe beweisen können, die mit bis zu 375.000 Euro pro Team finanziert wird.

Team: Multi-modal Deepfake Detection

Multi-modal Deepfake Detection

Team: ImVerif

ImVerif

Team: FAU/secunet-solution

FAU/secunet-solution

Team: ReaLGuard

ReaLGuard

Team: Content Transparency Archive (CTA): Verifiable Metadata

Content Transparency Archive (CTA): Verifiable Metadata

Team: AI Robotic (VeriDeep)

AI Robotic (VeriDeep)

Team: Neuraforge

Neuraforge

Team: Valid - Trusted Information

Valid - Trusted Information

Team: Cinematic Context Aware AI Image Detection

Cinematic Context Aware AI Image Detection

Team: DeepShield - The Disruptive Preventer

DeepShield - The Disruptive Preventer

Team: DeepFOCAS: DeepFake detection using Observable, Contextual, Accessible, and Semantic information

DeepFOCAS: DeepFake detection using Observable, Contextual, Accessible, and Semantic information

Team: ClyraVision

ClyraVision

Die für jedes Team bereitgestellten Startbudgets sind für die Dauer der SPRIND Funke vorgesehen. Teams sollten ihre Ressourcen entsprechend planen, um ihr Projekt erfolgreich abzuschließen. Die Möglichkeit Restbeträge auszugeben, besteht jedoch auch über den Zeitraum des Funkes hinaus.

Alle Ausgaben, die der Erreichung des Funke-Ziels dienen, können mit SPRIND-Mitteln finanziert werden. Das Startbudget, das jedem Team zur Verfügung gestellt wird, soll die Kosten für Forschung und Entwicklung, Materialbeschaffung sowie eventuelle Reise- und Aufenthaltskosten im Rahmen des Funke abdecken. Dabei können z. B. Personalkosten, Kosten für Geräte und Materialien oder Mietkosten anfallen.

Die Kriterien und der Bewertungsprozess für die Leistung des Funke DEEPFAKE DETECTION AND PREVENTION werden transparent gemacht und den Teams vor dem Ereignis mitgeteilt.

Die Rechte am geistigen Eigentum, das während des Funkens durch die Teams geschaffen wird, verbleiben bei den Teams. Die SPRIND kann auf Nachfrage ein unentgeltliches und nicht-exklusives Nutzungsrecht an den gefundenen Ergebnissen erhalten. Details können der Teilnahmevereinbarung entnommen werden, die zusammen mit der Ausschreibung veröffentlicht wird.

Nein, Teams können in beliebiger Größe teilnehmen. Sie sollten jedoch sicherstellen, dass sie alle erforderlichen Fähigkeiten und Expertisen abdecken, um die Herausforderungen erfolgreich bewältigen zu können. Aus dem Arbeitsplan muss klar hervorgehen, dass die Aufgaben vom Team durchgeführt werden können.

Ja – Projektkonsortien sind willkommen, sich für den SPRIND Funke zu bewerben. Die Teams sollten sicherstellen, dass alle erforderlichen Fähigkeiten und Expertisen im Konsortium vertreten sind. Der federführende Konsortialpartner muss als alleiniger Vertragspartner der SPRIND identifizierbar sein und den Hauptsitz in der Europäischen Union, in der Europäischen Freihandelszone (EFTA), dem Vereinigten Königreich oder Israel haben.

Ein Expertenteam der SPRIND trifft eine Vorauswahl aus den eingegangenen Bewerbungen. Die finale Entscheidung wird auf Grundlage der Bewerbung und des Pitches vor einer hochrangig besetzten Jury aus Wissenschaftler:innen, Branchenexpert:innen und/oder Investor:innen getroffen. Der Pitch findet am 29. Oktober 2024 in Präsenz in Leipzig statt.

Sie haben weitere Fragen? Dann können Sie uns gern unter challenge@sprind.org kontaktieren.

Jano Costard, Challenge Officer
Jano Costard, Challenge Officer
Send Email
LinkedIn
Instagram
Youtube
X (Twitter)
Newsletter
Für die Anmeldung zum SPRIND Newsletter gelten die aktuellen Datenschutzhinweise.
SprinD GmbH, Lagerhofstr. 4, 04103 Leipzig, info@sprind.org