Manuel Atug, Gründer und Sprecher der AG Kritis, betont im Interview, dass der verantwortungsvolle Einsatz von KI voraussetzt, ihre Möglichkeiten und Grenzen realistisch einzuschätzen.

Risiken sieht er vor allem im Verlust digitaler Souveränität, wenn Gesundheitseinrichtungen auf KI-Systeme großer Anbieter zurückgreifen und sensible Daten extern verarbeitet werden. Für den sinnvollen Einsatz müsse KI als Software verstanden und klaren Zielen, strukturierten Prozessen sowie qualitätsgesicherten Datensätzen folgen. Angreifer nutzten KI zunehmend zur Automatisierung von Betrugs- und Angriffsmethoden, weshalb KRITIS-Unternehmen gut vorbereitet sein müssten.

Den EU AI Act bewertet Herr Atug als positiv, da er Anforderungen an Hochrisiko-KI, Risikobewertungen und Schulungen vorsieht. Krankenhäuser sollten konkrete Ziele definieren, geeignete Modelle auswählen und sichere Abläufe etablieren. Richtig eingesetzt kann KI langfristig Diagnostik und Prozesse unterstützen.

Hören Sie sich die Antworten zu unseren dreizehn Fragen an:

• Was sind generelle Gefahren, wenn „Künstliche Intelligenz“ eingesetzt wird?
• Was sind die generellen Gefahren, wenn „Künstlicher Intelligenz“eingesetzt wird?
• Gesundheitseinrichtungen stehen unter enormen Druck: Kann KI dabei helfen, diesen Druck zu mindern, ohne dabei die Patientensicherheit zu gefährden?
• Inzwischen kommt KI immer häufiger unbemerkt zum Einsatz – wo zum Beispiel?
• Wie groß ist das Risiko, dass KRITIS-Unternehmen mit Hilfe von KI angegriffen werden?
• Sind Sie der Meinung, dass in deutschen Gesundheitseinrichtungen die Gefahr von Cyber-Angriffen noch zu häufig unterschätzt wird?
• Kann KI dabei helfen, die Sicherheit in Gesundheitseinrichtungen zu erhöhen?
• Auch in Deutschland gilt mittlerweile der EU AI Act – Was ist das?
• Was bedeutet diese europäische KI-Verordnung z.B. für Krankenhäuser?
• Viele KI-Anwendungen im Krankenhaus zählen zur Kategorie Hochrisiko-Kategorie: Welche zusätzlichen Anforderungen bringt das mit sich?
• Warum ist die Schulung der Beschäftigten beim Einsatz von KI so wichtig?
• Welche 3 konkreten Tipps für die Anwendung von KI haben Sie für die Leitung von Krankenhäusern?
• Wagen Sie einen Ausblick: Wie sieht das deutsche Gesundheitssystem in fünf Jahren aus, wenn KI verantwortungsvoll und sicher zum Einsatz kommt?

Sie möchten das Thema weiter vertiefen? Nach dem Interview empfehlen wir Ihnen unsere verpflichtende KI-Schulung – damit Ihr Team sicher, souverän und gesetzeskonform mit KI arbeitet: https://webtvcampus.de/themen/ki/