San Francisco hat den Schritt schon gewagt und Künstliche-Intelligenz-gestützte Gesichtserkennungs-Systeme verboten. Geht’s nach den Empfehlungen von Experten sollte die EU in eine ähnliche Richtung arbeiten. In einem gerade erst veröffentlichten Bericht, der im Auftrag der EU-Kommission erstellt wurde, raten sie zwar zu Investitionen in KI-Technologien aber fordern gleichzeitig ein Unterbinden von „unverhältnismäßiger und massenhafter Überwachung“ mit Hilfe von derartigen Systemen, selbst wenn diese aus dem Wunsch resultiert, die „Gesellschaft sicher zu machen“.
More generally, it should continuously be evaluated whether AI systems generate risks that are not adequately addressed by existing legislation. In particular, individuals should not be subject to unjustified personal, physical or mental tracking or identification, profiling and nudging through AI powered methods of biometric recognition such as: emotional tracking, empathic media, DNA, iris and behavioural identification, affect recognition, voice and facial recognition and the recognition of micro-expressions. Exceptional use of such technologies, such as for national security purposes, must be evidence based, necessary and proportionate, as well as respectful of fundamental rights.