Verordnung zu künstlicher Intelligenz
Der ÖRAK hatte sich mit einer ausführlichen Stellungnahme zum VO-Vorschlag eingebracht, zum einen zur Nutzung von KI
in der Justiz als Hochrisikobereich, zum anderen zu grund- und freiheitsrechtlichen Aspekten von KI . Beide Themen bleiben weiter hochrelevant. Im Hinblick auf die Nutzung von KI in der Justiz besteht die Gefahr, dass KI -Anwendungen doch ohne spezifische Hochrisikoprüfung ihren Weg in die Justiz finden werden. Die ist hoch problematisch, da das Justizgrundrecht auf den gesetzlichen Richter nach Auffassung des ÖRAK auch das Recht auf einen menschlichen Richter umfasst. Die Nutzung von KI durch Gerichte birgt auch viele weitere Gefahren, zB drohen systematische Diskriminierung durch KI -Algorithmen, mangelnde Waffengleichheit in Verfahren und Verstöße gegen das Recht auf ein faires Verfahren.Auch aus Sicht der Grund- und Freiheitsrechte birgt der AI Act viele Herausforderungen. Es bleibt abzuwarten, welches Schutzniveau die finale Fassung der Verordnung zB im Bereich der biometrischen Fernidentifizierung bieten wird. Auch das Recht, sich selbst nicht belasten zu müssen kann durch solche Technologien potenziell eingeschränkt werden.
Nach Ansicht des ÖRAK hat im Sinne eines effektiven Rechtsschutzes jeder Bürger jederzeit das Recht zu erfahren, worauf sich die Zulässigkeit einer KI-Entscheidung stützt und worauf diese inhaltlich beruht. Eine solche Auskunft sollte jederzeit gerichtlich ohne Angaben von Gründen überprüft werden können, dies sowohl vor dem Einsatz von KI als auch im Nachhinein.