Abschlussarbeit

Beschreibung:

Künstliche Intelligenz (KI) hat in vielen Bereichen eine große Bedeutung eingenommen und ihre Bedeutung nimmt in den nächsten Jahren vermutlich noch weiter zu. Viele technische Systeme, die im Alltag genutzt werden, müssen im laufenden Betrieb Entscheidungen treffen und Schlussfolgerungen aus gegebenen Situationen ableiten. Zum Beispiel werden beim assistierten und automatisierten Fahren Systeme zur Detektion und Klassifikation von Verkehrszeichen eingesetzt [1]. Durch die weite Verbreitung, wird diese Technik auch für Angreifer*innen immer interessanter. Angriffe werden genutzt, um z.B. mittel gezielt erzeugter Rauschmuster oder mittels speziell präparierter Aufkleber, Bilder bewusst falsch zu klassifizieren [2]. Diesbezügliche Untersuchungen finden vor allem in simulierten Umgebungen und mit gut aufbereitet Daten statt. Diese Arbeit soll sich nun darauf konzentrieren, ob sich Simulationsergebnisse auf reale Situationen übertragen lassen [3]. Hierfür soll nun ein Hardware-in-the-loop-System (HIL) [4] genutzt werden, welches systematische Manipulationen und systematische Tests erlaubt.

In dieser Arbeit werden u.a. manipulierte Bilder erstellt, um damit zu untersuchen, unter welchen Umständen das KI-Modell zur Verkehrszeichenerkennung zu einer Fehlklassifizierung zu leiten ist, und es wird weiterhin untersucht, ob bereits auf andere Modelle erzeugte Angriffe auf das in dieser Arbeit genutzte System übertragbar sind. Das HIL-System soll genutzt werden, um exemplarisch das Potential einer solchen Angriffsoptimierung zu zeigen und die nötigen Werkzeuge zu entwickeln.

Diese Arbeit wird in Kooperation mit dem Referat DI11 - Bewertungsverfahren für eID-Technologien in der Digitalisierung des Bundesamt für Sicherheit in der Informationstechnik erstellt.

[1] Bundesamt für Sicherheit in der Informationstechnik. (2022 01. Juli). Automatisiertes Fahren als KI-Anwendungsfeld - Robuste Künstliche Intelligenz im Bereich Automotive. Link.

[2] Szegedy, C., Zaremba, W., Sutskever, I., Bruna, J., Erhan, D., Goodfellow, I., und Fergus, R.. (2013). Intriguing properties of neural networks. arXiv preprint

[3] Bielik, P., Tsankov, P., Krause, A. and Vechev M. (2020) Reliability assessment of traffic sign classifiers, Bundesamt für Sicherheit in der Informationstechnik

[4] Bullock, D., Johnson B., Wells, R.B., Kyte, M. und Li Z. (2014). Hardware-in-the-loop simulation. Transportation Research Part C: Emerging Technologies. vol. 12. no. 1. pp. 73–89.