Microsoft arbeitet mit StopNCII zusammen, um Deepfakes von Bing zu entfernen

Microsofts Zusammenarbeit mit StopNCII: Ein wichtiger Schritt im Kampf gegen nicht einvernehmliche intime Bilder und Deepfakes

Microsoft hat kürzlich eine Partnerschaft mit StopNCII gegründet, um das wachsende Problem nicht einvernehmlicher intimer Bilder (NCII), einschließlich KI-generierter Deepfakes, zu bekämpfen. Diese Partnerschaft ist Teil eines umfassenderen Versuchs, die Verbreitung von schädlichen Inhalten im Internet anzugehen, die durch Fortschritte in der künstlichen Intelligenz verschärft wurden. Durch die Nutzung der fortschrittlichen Technologie von StopNCII ergreift Microsoft proaktive Maßnahmen, um zu verhindern, dass solche Inhalte in den Bing-Suchergebnissen erscheinen, und erhöht so die Sicherheit im Internet für Opfer von Online-Ausbeutung.

Wie die Partnerschaft funktioniert

Der Hauptbeitrag von StopNCII zu diesem Bemühen ist die digitale Fingerabdrucktechnologie, die es Individuen ermöglicht, Hashes von intimen Bildern zu erstellen, ohne die tatsächlichen Dateien hochladen zu müssen. Diese digitalen Fingerabdrücke werden mit teilnehmenden Unternehmen wie Meta, TikTok, Bumble und Reddit geteilt. Die Fingerabdrücke helfen diesen Plattformen, den entsprechenden Inhalt auf ihren Diensten zu identifizieren und zu entfernen, wodurch seine Verbreitung effektiv verhindert wird.

Dieses Verfahren ist besonders effektiv, weil es die Privatsphäre der Opfer schützt und gleichzeitig sicherstellt, dass ihre intimen Bilder ohne Zustimmung nicht gefunden oder geteilt werden können. Der Prozess bietet auch eine Möglichkeit, diese Bilder direkt zu melden, was es den Opfern erleichtert, gegen NCII vorzugehen.

Googles unabhängiger Ansatz

Während Microsoft ein kollaboratives Modell angenommen hat, indem es mit StopNCII zusammenarbeitet, hat Google beschlossen, sich dieser Initiative nicht anzuschließen. Stattdessen verwendet Google weiterhin eigene Meldetools, um Fälle von NCII, einschließlich Deepfakes, zu bearbeiten. Opfer können Bilder direkt an Google zur Entfernung melden. Diese Entscheidung markiert eine bedeutende Divergenz in den Ansätzen zwischen zwei Technologieriesen: Während Microsoft auf Branchenkooperation setzt, bevorzugt Google, das Problem intern zu verwalten.

Diese Unterscheidung hat Fragen unter Branchenexperten aufgeworfen, insbesondere da das Problem der KI-gestützten Deepfakes zunehmende Bedeutung gewinnt. Dennoch haben Opfer weiterhin Möglichkeiten, NCII und Deepfakes zu melden, unabhängig davon, mit welcher Plattform sie interagieren. Besonders Minderjährige können Vorfälle über NCMEC (National Center for Missing & Exploited Children) melden, das einen spezialisierten Meldeprozess für jüngere Opfer bietet.

Gesetzgeberische Unterstützung und die Rolle der KI in der Online-Ausbeutung

Diese Initiative von Microsoft steht im Einklang mit den umfassenderen Regierungsbemühungen, Online-Schäden zu bekämpfen, insbesondere solche, die KI-generierte Inhalte betreffen. Die US-Regierung arbeitet an neuen legislativen Maßnahmen, einschließlich des NO FAKES Act, der die Verbreitung von Deepfakes und anderen synthetischen Medien zu böswilligen Zwecken eindämmen soll. Der NO FAKES Act stellt eine Anerkennung der erheblichen Gefahr dar, die von KI-Technologien ausgeht, die lebensechte, aber schädliche Inhalte erzeugen können.

Die Partnerschaft von Microsoft mit StopNCII wird als ergänzende Maßnahme zu diesen legislativen Bewegungen angesehen, die die Bedeutung der Zusammenarbeit in der Tech-Industrie im Kampf gegen Online-Ausbeutung unterstreicht. Der Anstieg von Deepfakes, die komplizierter und schwieriger zu erkennen sind als traditionelle NCII, hat es unerlässlich gemacht, dass Unternehmen modernste Werkzeuge einsetzen, die mit den sich entwickelnden Bedrohungen Schritt halten können. In diesem Zusammenhang wird die Integration der Hashing-Technologie von StopNCII durch Microsoft als ein wichtiger Schritt nach vorne angesehen.

Die anhaltende Herausforderung der Deepfake-Erkennung

Während diese Partnerschaft eine positive Entwicklung darstellt, betonen Experten die anhaltenden Herausforderungen, die eine effektive Bekämpfung von Deepfakes mit sich bringt. Im Gegensatz zu traditionellen NCII sind Deepfakes KI-generiert und können oft Erkennungssysteme wie PhotoDNA, das ursprünglich zur Identifizierung von Materialien zur sexuellen Ausbeutung von Kindern entwickelt wurde, umgehen. Deepfakes sind komplexer, da sie oft synthetische Elemente mit echten Bildern kombinieren, was es herkömmlichen Erkennungssystemen erschwert, sie zu kennzeichnen.

Daher sind Tech-Unternehmen zunehmend unter Druck, kontinuierlich Erkennungstechnologien zu innovieren und ihre Richtlinien anzupassen, um dieser aufkommenden Bedrohung zu begegnen. Das von Microsoft und anderen Plattformen verfolgte kollaborative Modell wird als Schritt in die richtige Richtung angesehen, aber der Kampf gegen Deepfakes wird wahrscheinlich fortlaufende Aktualisierungen der Richtlinien, technologische Fortschritte und die Zusammenarbeit zwischen Regierungen und Tech-Firmen erfordern.

Fazit

Die Partnerschaft von Microsoft mit StopNCII markiert einen entscheidenden Moment im Kampf gegen nicht einvernehmliche intime Bilder und KI-gesteuerte Deepfakes. Durch den Einsatz von digitaler Fingerabdrucktechnologie hilft Microsoft, Opfer zu schützen und die Verbreitung schädlicher Inhalte auf seinen Plattformen und im weiteren Internet zu verhindern. Während Google entschieden hat, NCII unabhängig anzugehen, setzt diese Zusammenarbeit einen wichtigen Präzedenzfall für die Branche im digitalen Zeitalter. Während sich die KI weiterentwickelt, sind Partnerschaften wie diese, kombiniert mit legislativen Bemühungen wie dem NO FAKES Act, entscheidend, um Einzelpersonen in einer zunehmend komplexen Online-Welt vor Ausbeutung zu schützen.

Wichtige Erkenntnisse

• Microsoft arbeitet mit StopNCII zusammen, um nicht einvernehmliche intime Bilder aus den Bing-Suchergebnissen zu entfernen.
• StopNCII verwendet digitale Fingerabdrücke, um intime Bilder über verschiedene Plattformen hinweg zu identifizieren und zu entfernen.
• Führende Tech-Unternehmen wie Meta, TikTok und Bumble kooperieren mit StopNCII im Kampf gegen nicht einvernehmliche Bildfreigabe.
• Google handelt unabhängig und nutzt eigene Tools zur Meldung nicht einvernehmlicher Bilder.
• Die US-Regierung setzt sich für neue gesetzliche Regelungen ein, um datenschutzrechtliche Bedenken im Zusammenhang mit Deepfakes zu bekämpfen.

Analyse

Die Zusammenarbeit zwischen Microsoft und StopNCII zielt darauf ab, die Verbreitung nicht einvernehmlicher intimer Bilder zu verhindern, was große Tech-Unternehmen wie Meta, TikTok und Bumble betrifft. Das Fehlen von Google in der Partnerschaft könnte die Bemühungen fragmentieren und damit die Wirksamkeit dieser Initiative potenziell schwächen. Während Opfer kurzfristig von einem effizienteren Meldesystem profitieren, hängt der langfristige Erfolg dieses Vorhabens von einer breiteren Branchenakzeptanz und gesetzlicher Unterstützung ab. Das Engagement der US-Regierung für den NO FAKES Act unterstreicht die Dringlichkeit, aber seine tatsächlichen Auswirkungen werden von der Durchsetzung und globalen Zusammenarbeit abhängen. Folglich könnten Finanzinstrumente, die mit Tech-Aktien verbunden sind, aufgrund sich wandelnder öffentlicher Meinungen schwanken.

Wussten Sie schon?

• StopNCII: Die Initiative Stop Non-Consensual Intimate Images (StopNCII) zielt darauf ab, die Verbreitung nicht einvernehmlicher intimer Bilder, einschließlich Deepfakes, im Internet zu bekämpfen. Sie funktioniert durch die Erstellung digitaler Fingerabdrücke (Hashes) von gemeldeten Bildern, ohne dass die tatsächlichen Dateien erforderlich sind. Diese werden dann mit teilnehmenden Unternehmen geteilt, um übereinstimmende Inhalte zu entfernen. Dieser kollaborative Ansatz ermöglicht eine schnelle Identifizierung und Entfernung schädlicher Inhalte von mehreren Plattformen gleichzeitig.
• Digitaler Fingerabdruck (Hash): Im Kontext von StopNCII ist ein digitaler Fingerabdruck (Hash) ein einzigartiger Identifikator, der aus einer Bilddatei erstellt wird. Dieser Hash wird erstellt, ohne das tatsächliche Bild zu speichern, wodurch Privatsphäre und Sicherheit gewährleistet werden. Durch das Teilen dieser Hashes mit teilnehmenden Unternehmen kann StopNCII nicht einvernehmliche intime Bilder über verschiedene Plattformen hinweg identifizieren und entfernen, selbst wenn die Bilder leicht verändert oder auf unterschiedlichen Seiten gehostet werden.
• NO FAKES Act: Der NO FAKES Act ist ein vorgeschlagener Gesetzesentwurf in den Vereinigten Staaten, der darauf abzielt, die Verbreitung von Deepfakes und anderen nicht einvernehmlichen intimen Bildern zu bekämpfen. Der Entwurf zielt darauf ab, neue Regelungen und Strafen zu schaffen, um die Erstellung und Verbreitung solcher Inhalte zu bekämpfen, was die wachsenden Bedenken über den Missbrauch von Technologie widerspiegelt, um die Privatsphäre zu verletzen und Schaden zuzufügen.