Wie gehen Staat und Gesellschaft zukünftig mit den wachsenden Herausforderungen durch KI um? Während digitale Technologien vielerorts Industrien, Gesundheitswesen oder Dienstleistungsbranche entlasten, wachsen an anderer Stelle die Gefahren von Falschinformation und Deepfakes. Im Digitalen Gründerzentrum Stellwerk18 in Rosenheim beschäftigt sich mit Neuraforge AI Solutions GmbH ein Gründungsteam mit Lösungen für genau dieses Spannungsfeld.
Denn täuschend echt generierte Bilder, die in Sekundenschnelle produziert und verbreitet werden können, machen effiziente Aufklärung nötig. Und diese könnte mithilfe eines Tools von Neuraforge AI in Zukunft erleichtert werden: Mit einer KI-gestützten Software-Lösung will das Start-up Medien- und Versicherungsunternehmen ein effizientes Werkzeug zur Bekämpfung und Vermeidung von Falsch- und Desinformation an die Hand geben. Der Kern des Deepfake-Detection-Tools ist ein Algorithmus, der speziell für die Erkennung anderer KIs entwickelt wurde.
Ilse Aigner, Präsidentin des Bayerischen Landtags, machte sich vor kurzem selbst ein Bild von den Potenzialen der Technologie. Bei einem Besuch im Stellwerk18 kam sie unter anderem mit dem Team von Neuraforge AI ins Gespräch und ließ sich die Anwendungsmöglichkeiten ihres Tools demonstrieren – an einem sehr praxisnahen Beispiel: Anhand von manipuliertem Bildmaterial der Landtagspräsidentin zeigten die Gründerinnen und Gründer, wie täuschend echt KI-generierte Inhalte sein können und wie wichtig eine frühzeitige Erkennung ist.
Beide Seiten sprachen anschließend von einem offenen und konstruktiven Austausch. Das lässt hoffen, denn mit Blick auf die Relevanz des Themas wird die Vernetzung zwischen KI-Start-ups, Unternehmen und Behörden zukünftig wichtiger werden. Zusätzlich war das Treffen ein wichtiges Signal für die Relevanz des Stellwerk18 als Gründungsstandort in Zeiten des digitalen Wandels.