„Unternehmen müssen ihre KI anhand ihrer eigenen Risikoparameter kategorisieren und mögliche Auswirkungen auf Umsatz, Reputation und Stakeholder-Beziehungen prüfen.“
Ein Kommentar von Bernd Greifeneder, CTO und Gründer von Dynatrace zum EU AI Act
„Viele Organisationen werden sich fragen, wie sie sich während der zweijährigen Übergangszeit, die wahrscheinlich in den kommenden Monaten beginnt, vorbereiten sollen. Betrachtet man die festgelegten Leitlinien scheint es, dass die EU verständlicherweise den Schwerpunkt ihrer Regulierung auf die Verringerung geopolitischer Risiken von KI gelegt hat, nicht aber auf Geschäftsrisiken. Infolgedessen werden die meisten Unternehmen vermutlich das verwenden, was die EU als ‚minimale bis keine Risiken‘ für KI-Modelle definiert. Diese Modelle fallen nicht direkt unter den Einfluss des AI Acts, aber die EU ermutigt Organisationen, sich zu freiwilligen Verhaltenskodizes zu verpflichten, um ihr Risiko besser zu steuern. Es ist von entscheidender Bedeutung, dass sie diesen Ratschlag ernst nehmen, denn sonst könnten die Unternehmen feststellen, dass sie sich trotz ihrer "Konformität" einem Risiko aussetzen.
Bei der Entwicklung ihrer eigenen Verhaltenskodizes müssen Unternehmen zunächst berücksichtigen, dass KI nicht gleich KI ist. Einige Technologien, etwa solche, die auf nicht-deterministischen Ansätzen wie der generativen KI basieren, sind mit größeren Risiken verbunden als andere, bewährtere Modelle. Daher müssen Führungskräfte ihre KI anhand ihrer eigenen Risikoparameter kategorisieren und mögliche Auswirkungen auf Umsatz, Reputation und Stakeholder-Beziehungen prüfen. Sie müssen zudem berücksichtigen, auf welche Art und Weise KI Entscheidungen trifft, ob sie transparent ist, auf welche Prozesse sie Zugriff hat und welche Prozesse sie kontrolliert. Außerdem sollte festgestellt werden, ob die Ergebnisse deterministisch sind. Das heißt, ob sie aus relevanten und kontextbezogenen Daten abgeleitet werden, die in Echtzeit aktualisiert werden und daher sehr genau sind. Oder zieht die KI Schlussfolgerungen aus zufälligen und geschlossenen Daten, was sie anfällig für Fehler und Halluzinationen macht. Ohne einen Klassifizierungsrahmen, der diese Merkmale klar abbildet, werden Unternehmen Schwierigkeiten haben, KI sicher zu nutzen - unabhängig davon, ob sie die Vorschriften einhalten oder nicht."
Über Dynatrace
Dynatrace (NYSE: DT) sorgt dafür, dass Software weltweit perfekt funktioniert. Unsere einheitliche Software-Intelligence-Plattform kombiniert breite und tiefe Observability und kontinuierliche Run-Time Application-Security mit den fortschrittlichsten AIOps, um Antworten und intelligente Automatisierung aus Daten in bemerkenswertem Umfang zu liefern. Dies ermöglicht es Unternehmen, den Cloud-Betrieb zu modernisieren und zu automatisieren, Software schneller und sicherer bereitzustellen und makellose digitale Erlebnisse zu gewährleisten. Aus diesem Grund vertrauen die größten Unternehmen der Welt Dynatrace®, um die digitale Transformation zu beschleunigen. www.dynatrace.com