Im 21. Jahrhundert wird die Integrität digitaler Medien und Informationen zunehmend durch sogenannte Deepfakes bedroht - hochrealistische, KI-generierte synthetische Inhalte. Diese Technologie birgt erhebliche Risiken für Desinformation, Betrug und Manipulation der öffentlichen Meinung. Um dieser Herausforderung zu begegnen, führt die Bundesagentur für Sprunginnovationen SPRIND im Auftrag des Bundesministeriums für Digitales und Verkehr (BMDV) den Innovationswettbewerb SPRIND Funke „Deepfake Detection and Prevention“ durch.

Wissenschaftliche Fortschritte der letzten Jahre haben neue Erkenntnisse und Methoden im Bereich der künstlichen Intelligenz und des maschinellen Lernens hervorgebracht. Diese können genutzt werden, um leistungsfähigere Systeme zur Deepfake-Erkennung und -Prävention zu entwickeln. Obwohl bereits verschiedene Ansätze zur Bekämpfung von Deepfakes demonstriert wurden, beschränken sich diese bisher oft auf Nischenanwendungen oder spezifische Arten von Deepfakes. Ziel muss es jedoch sein, umfassende und skalierbare Lösungen zu entwickeln, die das Vertrauen in unsere Medien und unsere Kommunikation sicherstellen können.

Auf dem Weg zu einem effektiven Schutz vor Deepfakes gilt es eine Reihe von Herausforderungen zu bewältigen. So ist die Erkennung von Deepfakes derzeit oft nicht zuverlässig genug, da die Technologien zur Erstellung synthetischer Inhalte sich schnell weiterentwickeln. Bestehende Erkennungsmethoden haben Schwierigkeiten mit der Generalisierbarkeit und sind oft nur für bestimmte Arten von Deepfakes effektiv. Präventionsmaßnahmen sind bisher begrenzt und lassen sich nicht nahtlos in bestehende digitale Infrastrukturen integrieren.

„Der SPRIND Funke Deepfake Detection and Prevention hat die Entwicklung von Lösungen zur effektiven Erkennung von Deepfake-Fotos bzw. Prävention durch die Unmanipulierbarkeit von Original-Fotos zum Ziel. Zu entwickelnde Lösungen sollen dabei die gesamte Wertschöpfungskette der digitalen Medienverarbeitung berücksichtigen - von der präventiven Authentifizierung und Sicherung von Originalinhalten, über die Echtzeitanalyse und Erkennung von manipulierten oder synthetisch erstellten Medien, bis hin zur nahtlosen Integration in bestehende digitale Infrastrukturen und Plattformen“, erklärt Dr. Jano Costard, Challenge Officer der SPRIND.

Eine Fachjury hat aus fast 50 Bewerbungen nun insgesamt 12 Teams ausgewählt, die für die kommenden sieben Monate jeweils bis zu 350.000 Euro erhalten. Die Teams stammen aus Forschungseinrichtungen, Hochschulen und Start-ups aus Frankreich, Deutschland und Slowenien.

Im Mai 2025 präsentieren die Teams erneut vor der Jury. Diese wird dann bis zu 10 Teams auswählen, die dann zusätzlich bis zu 375.000 Euro pro Team bekommen für die Weiterentwicklung ihrer Lösung bis zum Abschluss des Innovationswettbewerbes im November 2025.

Weitere Informationen und Beschreibungen der teilnehmenden Teams finden Sie hier.