KI im IT-Alltag
König-Midas-Intelligenz
König Midas hätte mehr Zeit in die Spezifizierung seiner Projektanforderungen investieren sollen. Denn als er den Gott Dionysos bat, alles von ihm Berührte möge sich in Gold verwandeln, wäre er fast vereinsamt verstorben: Selbst Essen, Getränke und seine Tochter transmogrifizierten in das Edelmetall, das bekanntlich weder nahrhaft noch gesellig ist. Wer Geister herbeiruft, muss eben aufpassen, wie er seine Wünsche formuliert. Heutzutage schickt sich alle Welt an, Daten per KI-Flaschengeist in Gold umzumünzen – und zugleich soll künstliche Intelligenz künftig den IT-Betrieb verschlanken.
Hacking war bisher Menschensache. „Wenn KIs zu hacken beginnen, wird sich das ändern“, warnt Bruce Schneier in seinem neuen Report „The Coming AI Hackers“ („Die kommenden KI-Hacker“), dem auch obige Midas-Parabel für Spezifikationsmängel entstammt: „KIs werden nicht auf die gleiche Weise eingeengt sein oder den gleichen Limitierungen unterliegen wie Menschen“, betont der Security-Experte. „Sie werden wie Aliens denken. Sie werden Systeme auf eine Weise hacken, die wir nicht vorhersehen können.“
Während zum Beispiel die Ingenieure des VW-Konzerns genau gewusst hätten, dass ihre Manipulation der Motorsteuerung Betrug war, kenne eine KI derlei Bedenken nicht: „Sie wird ‚out of the box‘ denken, ganz einfach deshalb, weil sie keine Vorstellung von der Box hat.“ Deshalb kann sich laut Schneier der KI-Einsatz urplötzlich als Flaschengeist erweisen, der außer Kontrolle gerät – nicht aufgrund drohender Singularität wie in den „Terminator“-Filmen, sondern schlicht wegen unpräziser Vorgaben. So sieht er das Menetekel einer Finanzkrise an der Kanban-Wand agiler KI-Projekte: „Wir werden nicht in der Lage sein, uns von einer KI zu erholen, die unvorhergesehene, aber legale Hacks von Finanzsystemen findet. Mit Computergeschwindigkeit wird Hacking zu einem Problem, das wir als Gesellschaft nicht mehr beherrschen können.“
Solchen Kassandrarufen zum Trotz erobert KI ein digitales Troja nach dem anderen – obschon letzthin ausgebremst durch die Pandemie. So erklärte in IBMs „Global AI Adoption Index 2021“ rund ein Drittel der 5.500 Befragten, ihr Unternehmen setze bereits KI ein – also nur ungefähr gleich viele wie im Vorjahr. Skurrilerweise gab aber knapp die Hälfte zu Protokoll, ihr Unternehmen nutze Applikationen mit NLP (Natural Language Processing), also mit einer KI-Einsatzvariante – so viel zum Thema menschliche Spezifikationskompetenz. 43 Prozent der Befragten jedenfalls bekundeten, man habe den KI-Rollout aufgrund der Pandemie beschleunigt. Und 84 Prozent sagten, dass „Explainable AI“ – die Fähigkeit einer KI, Auskunft zu geben, wie sie zu einer Entscheidung gekommen ist – sehr wichtig sei für deren Akzeptanz in ihrem Unternehmen – nicht zuletzt angesichts der von Schneier skizzierten Risiken ein nachvollziehbarer Wunsch.
Unzureichende Erklärbarkeit nannten die Befragten neben Mangel an Know-how und geeigneten Tools als größten Hürde für die Entwicklung einer vertrauenswürdigen KI. „Bei künstlicher Intelligenz ist Vertrauen ein Muss, kein ‚Nice to Have‘“, sagte Margrethe Vestager, bei der EU-Kommission zuständig für Digitalisierung, anlässlich der Vorstellung von EU-Plänen, eine gesetzliche Regelung vertrauenswürdiger KI per risikobasiertem Ansatz zu etablieren. Hier reicht das Spektrum von Regeln zum Schutz der Privatsphäre bis zum Verbot von KI zur Steuerung kritischer Infrastruktur, da das Risiko dabei, so die EU-Kommission, „inakzeptabel“ wäre.
Unternehmen investieren laut der IBM-Umfrage in puncto KI vorrangig in Datensicherheit, Prozessautomation und Kundenkontakte, Letzteres etwa per Voice- und Chatbots. „Voicebots sind ein einfacherer erster Schritt mit KI-Software“, sagt Marius Merkel von IBM. Interessanter werde aber der KI-Einsatz in Bereichen mit zahlreichen Daten aus diversen Quellen und in Silos, wie etwa im IT-Betrieb. Ein „guter und schlanker Anfang“ für den KI-gestützten IT-Betrieb (AIOps) sei „Enterprise Observability“, also der Einsatz einer KI-Plattform für durchgängige Transparenz in der IT-Landschaft: „Angefangen auf der Applikationsebene bis zur Infrastruktur ist die Plattform in der Lage, automatisiert relevante Systemdaten zu sammeln, zu korrelieren und Handlungsempfehlungen zur Verfügung zu stellen, mit denen Betriebs-teams effizienter und schneller zum Ziel kommen“, so Merkel.
- König-Midas-Intelligenz
- KI-gesteuerter Ansatz
Lesen Sie mehr zum Thema
