Kommentar zur EU-Regelung des KI-Insatzes
Pegasystems: KI muss sich Vertrauen verdienen
Die Entwicklung von künstlicher Intelligenz (KI) schreitet schnell voran und bietet sowohl der Wirtschaft als auch der Gesellschaft große Chancen. Gleichzeitig ruft KI aber auch Skepsis hervor, bietet sie doch einiges Missbrauchspotenzial. Die EU-Kommission will KI daher strenger regulieren.
Dies zeigt der Entwurf für eine EU-Verordnung, der vergangene Woche an die Öffentlichkeit gelangte. Auf 81 Seiten sind dort Regeln und Mindeststandards insbesondere für „Hochrisiko-Anwendungen“ vorgegeben, die Vertrauen schaffen und bestimmte Praktiken eindämmen sollen, etwa die Benachteiligung bestimmter Personengruppen und die Manipulation von Nutzern. Nur in wenigen Bereichen wie der wahllosen und anlasslosen Überwachung sowie beim Social Scoring soll der KI-Einsatz komplett verboten werden.
Peter van der Putten, Director Decisioning and AI Solutions bei Pegasystems und Assistant Professor AI an der Universität Leiden, kommentierte die Pläne der EU-Kommission. „Dass die EU auf eine Regulierung von KI-Anwendungen drängt, kommt nicht unerwartet“, so van der Putten. Dafür sei KI einfach zu wichtig. Die Weiterentwicklung von KI-Anwendungen, guten wie bösen, schreite zu schnell voran. Selbst die Anbieter von KI-Technik und Unternehmen, die KI-Lösungen einsetzen, sind laut dem Pegasystems-Mann inzwischen mehrheitlich der Meinung, dass Selbstregulierung nicht ausreicht und klare Regeln und Grenzen es tatsächlich leichter machen würden, in verantwortungsvolle und vertrauenswürdige KI zu investieren.
„Allerdings ist es nicht damit getan, die Akzeptanz von KI durch Regeln und Vorgaben zu stärken – das eigentliche Ziel muss sein, KI fair, transparent und erklärbar zu gestalten, damit sie sich unser Vertrauen wirklich verdient. Schließlich stecken die EU-Vorgaben nur weite Grenzen ab, das heißt, dass weiterhin KI-Anwendungen entwickelt und eingesetzt werden können, die zwar technisch legal sind, aber nicht im Sinne des Kunden arbeiten, sondern nur einseitig Unternehmensinteressen dienen,“ so van der Putten. In diesem Umfald müssen laut ihm die Verbraucher für Veränderungen sorgen, indem sie solche KI-Anwendungen meiden, sodass langfristig Lösungen aus ihnen hervorgehen, die zu beiderseitigem Nutzen sind.
- Pegasystems: KI muss sich Vertrauen verdienen
- Auch in die Zukunft blicken
Lesen Sie mehr zum Thema
