Data Poisoning

Data Poisoning: Manipulation von Trainings- oder Referenzdaten, um Analyse- oder Lernsysteme zu beeinflussen. Für die Abwehr sind belastbare PräventionPreventionMaßnahmen, die Sicherheitsvorfälle oder Angriffe verhindern sollen, bevor sie eintreten., aussagekräftige ProtokollierungLoggingAufzeichnung sicherheitsrelevanter Ereignisse für Überwachung, Untersuchung und Nachweisführung., zeitnahe ErkennungDetectionFähigkeit, verdächtige Aktivitäten, Angriffe oder Richtlinienverstöße rechtzeitig zu erkennen. und klar definierte ReaktionsmaßnahmenResponse ActionVordefinierte oder situationsabhängige Maßnahme zur Behandlung einer erkannten Bedrohung oder eines Vorfalls. erforderlich.

Funktionsweise und Einordnung

Technisch beschreibt Data Poisoning einen Angriffsweg oder eine konkrete Vorgehensweise, nicht bloß ein einzelnes auffälliges Ereignis. Für eine belastbare Bewertung müssen Voraussetzungen, Einstiegspunkt, Ziel, mögliche Zwischenschritte und die erwartete Wirkung getrennt betrachtet werden. Dieselbe Technik kann je nach Systemarchitektur, Berechtigungen und vorhandenen Schutzmaßnahmen sehr unterschiedliche Folgen haben.

Bedeutung in der Praxis

In der Praxis sind sowohl vorbeugende Maßnahmen als auch erkennbare Spuren wichtig. Dazu gehören sichere Konfigurationen, begrenzte Rechte, robuste Eingabe- und Identitätsprüfungen sowie Telemetrie an den betroffenen Systemgrenzen. Ein einzelner Indikator beweist den Angriff meist nicht; erst der Zusammenhang aus Zeitverlauf, Quelle, Ziel und beobachteter Wirkung ermöglicht eine verlässliche Erkennung, Eindämmung und Behebung.

Verwandte Begriffe

• Sicherheit föderierten LernensFederated Learning SecuritySchutz verteilter Lernverfahren vor Datenabfluss, Manipulation und bösartigen Teilnehmern.: Schutz verteilter Lernverfahren vor Datenabfluss, Manipulation und bösartigen Teilnehmern.
• Angriffe auf maschinelles LernenAdversarial Machine LearningDisziplin zu Manipulation, Täuschung und Absicherung von Machine-Learning-Modellen.: Disziplin zu Manipulation, Täuschung und Absicherung von Machine-Learning-Modellen.
• DatenklassifizierungData ClassificationOrdnet Daten Schutzklassen nach Sensitivität, Wert und regulatorischen Anforderungen zu.: Ordnet Daten Schutzklassen nach Sensitivität, Wert und regulatorischen Anforderungen zu.
• Schutz vor DatenverlustData Loss PreventionErkennt und verhindert unerlaubte Nutzung oder Weitergabe sensibler Informationen.: Erkennt und verhindert unerlaubte Nutzung oder Weitergabe sensibler Informationen.