Verordnung zu künstlicher Intelligenz
Der ÖRAK hatte sich mit einer ausführlichen Stellungnahme zum VO-Vorschlag eingebracht, zum einen zur Nutzung von KI in der Justiz als Hochrisikobereich, zum anderen zu grund- und freiheitsrechtlichen Aspekten von KI. Beide Themen bleiben weiter hochrelevant. Im Hinblick auf die Nutzung von KI in der Justiz besteht die Gefahr, dass KI-Anwendungen doch ohne spezifische Hochrisikoprüfung ihren Weg in die Justiz finden werden. Die ist hoch problematisch, da das Justizgrundrecht auf den gesetzlichen Richter nach Auffassung des ÖRAK auch das Recht auf einen menschlichen Richter umfasst. Die Nutzung von KI durch Gerichte birgt auch viele weitere Gefahren, zB drohen systematische Diskriminierung durch KI-Algorithmen, mangelnde Waffengleichheit in Verfahren und Verstöße gegen das Recht auf ein faires Verfahren.
Auch aus Sicht der Grund- und Freiheitsrechte birgt der AI Act viele Herausforderungen. Es bleibt abzuwarten, welches Schutzniveau die finale Fassung der Verordnung zB im Bereich der biometrischen Fernidentifizierung bieten wird. Auch das Recht, sich selbst nicht belasten zu müssen kann durch solche Technologien potenziell eingeschränkt werden.