Detektion von Deepfakes und KI-generierten Medien

Was bietet euer Produkt bzw. eure Kooperationsmöglichkeit konkret?

Neuraforge liefert eine Software-basierte Lösung zur Erkennung von sogenannten Deepfakes und KI-generierten Bildern und Videos. Dabei schauen wir auf technische Artefakte im Bild - eine Art Fingerabdruck der KI - und können so auch bspw. in einem rein schwarzen Bild den Unterschied zwischen echt erzeugten und KI-generierten Bildern erkennen. Das ist bei den immer besser werdenden KI Modellen und Video-KIs wie SORA AI sehr wichtig.

Für wen genau eignet, oder an wen richtet sich euer Produkt bzw. eure Kooperationsmöglichkeit?

In erster Linie richten wir uns an Journalisten und Medienhäuser, da diese Jobsparte von Haus aus auf täglicher Basis mit Medieninhalten aus unbekannten Quellen arbeitet und Fake-Inhalte potentiellen Reputationsverlust bedeuten können. Allerdings ist unser Produkt für jeden gedacht, der oder die Medieninhalte verifizieren möchte, ob diese mittels KI entstanden oder digital nachbearbeitet worden sind. Denkbar wäre das im weiteren Sinne bspw. bei sozialen Medien oder im Fall von Versicherungsbetrug.

Welche Vorteile bringt euer Produkt bzw. eure Kooperationsmöglichkeit?

Das Wissen um die Wahrheit im Bild ist essentiell für die Glaubwürdigkeit des heutigen Journalismus. Das Vertrauen der Zuschauer:innen und Leser:innen beruht auf der Reputation, die Medienhäuser sich über Jahrzehnte aufgebaut haben. Unsere Technologie ist ein essentieller Baustein zur Vertrauensbildung und Erhaltung von etablierten Medien. Gesellschaftlich bringt unsere Technologie zudem die Möglichkeit Fake-Kampagnen bspw. im Wahlkampf frühzeitig zu erkennen und ggf. entgegen zu wirken.

Gibt es bestimmte Voraussetzungen, um mit eurem Produkt arbeiten zu können bzw. mit euch kooperieren zu können?

Wir sind in der frühen Technologie-Phase und das Startup wurde erst gegründet. Für einen seriellen Einsatz unserer Lösung möchten wir ein Pilotprojekt mit potentiellen Kunden umsetzen. Dafür sind wir auf der Suche nach Akteuren und Partnern, um aktuelle Use Cases besser zu verstehen und unser Produkt dahingehend weiter zu entwickeln.

Schildert hier kurz eure Vision.

Wir haben die Vision einer weiterhin gut informierten und nicht überforderten Gesellschaft. Mit wachsenden technologischen Möglichkeiten in praktisch "jeder Hosentasche" muss es ausgleichend auch die Möglichkeit zur Verifikation von Medien in "jeder Hosentasche" geben. Ginge es nach uns, riefen wir gerne in 5 bis 10 Jahren das (neue alte) Zeitalter der gut kuratierten Information anstatt einer postfaktischen Dystopie aus.