KI-Risiken: Klassische Versicherungslösungen stossen an Grenzen

KI-Risiken entstehen selten durch «die KI» allein. Oft treffen mangelhafte Daten, unklare Verantwortlichkeiten, schwache Kontrollen und menschliche Fehlentscheide zusammen. Ein Sprachmodell verarbeitet Kundendaten in einem Prompt. Eine KI-Beratung verursacht einen Vermögensschaden. Eine Qualitätskontrolle erkennt fehlerhafte Produkte nicht. Ein Deepfake-Anruf des vermeintlichen CEO löst eine Zahlung an Betrüger aus. Die Ursachen für einen Schaden sind mannigfaltig, weshalb es KI-Risiken im Funk Global Risk Consensus in die Top-5 der Unternehmensrisiken geschafft haben. 

Viele Unternehmen denken bei KI zuerst an Cyber-Risiken. Das ist nachvollziehbar. KI kann für Phishing, Betrug, Datenklau oder Angriffe auf IT-Systeme genutzt werden. Auch die Eingabe vertraulicher Informationen in generative KI-Anwendungen kann zu einem Problem werden. Eine Cyber-Versicherung kann helfen, wenn es um Datenschutzverletzungen, IT-Ausfälle oder Angriffe geht. Unsicher wird es aber, wenn kein klassischer Cyber-Angriff vorliegt. Wenn eine KI schlicht eine falsche Empfehlung gibt, Schadprogramme nicht erkennt oder ein Mitarbeiter sensible Daten freiwillig in ein Tool eingibt, kann die Deckung je nach Ausgestaltung der Versicherungsbedingungen fraglich sein. 

Besonders schwierig wird es bei Haftpflichtfragen. Wenn ein Unternehmen durch KI einem Kunden, Bewerber oder Geschäftspartner schadet, kann es haftbar gemacht werden. Denkbar sind falsche Beratung, fehlerhafte Berechnungen, diskriminierende Entscheidungen oder falsche Produktinformationen. In solchen Fällen stellt sich die Frage, ob die Betriebs-, Berufs- oder Vermögensschadenhaftpflicht greift. Nicht jedes KI-Risiko passt in bestehende Versicherungen. Manche Policen decken nur bestimmte Tätigkeiten. Andere schliessen reine Vermögensschäden aus. Auch die Frage der Verantwortung ist offen: Hat der Anbieter der KI versagt? Hat das Unternehmen das Tool falsch eingesetzt? Oder hätte ein Mensch das Ergebnis prüfen müssen? 

Wenn Unternehmen KI breit einsetzen, braucht es Regeln. Fehlen solche Regeln, kann daraus ein Vorwurf gegen Geschäftsleitung oder den Verwaltungsrat entstehen. Das gilt besonders, wenn KI in sensiblen Bereichen genutzt wird: Personal, Kundenberatung, Kreditprüfung, Compliance, Produktion oder Datenschutz. Das Management muss nicht jedes technische Detail kennen. Es muss aber sicherstellen, dass Risiken erkannt und gesteuert werden. Für die D&O-Versicherung kann das wichtig werden. Sie schützt das Management bei bestimmten Pflichtverletzungen. Ob sie bei KI-Schäden greift, hängt von den entsprechenden Bedingungen ab. 

Ein oft unterschätztes Risiko ist der Ausfall von Geschäftsprozessen. Viele Unternehmen automatisieren Abläufe mit KI. Wenn ein solches System falsche Entscheidungen trifft oder ausfällt, kann der Betrieb gestört werden. Beispiele sind fehlerhafte Lagerplanung, falsche Preissteuerung, blockierte Kundenprozesse oder Unterbrechungen in der Produktion. Klassische Betriebsunterbrechungsversicherungen setzen oft einen Sachschaden voraus. Cyber-Deckungen, die einen Ertragsausfall absichern, setzen meist ein Cyber-Ereignis voraus. Ein reiner KI-Fehler könnte daher zwischen die bestehenden Versicherungen fallen. 

KI macht Unternehmen schneller, aber nicht automatisch sicherer. Viele KI-Risiken passen nur teilweise in bestehende Versicherungslösungen. Unternehmen sollten deshalb nicht nur fragen, welche KI sie einsetzen wollen, sondern welche Risiken daraus entstehen. Ein systematischer Umgang mit KI-Risiken schafft klare Regeln, dokumentierte Entscheidungen, menschliche Kontrollen und eine strukturierte Überprüfung der bestehenden Versicherungsdeckungen anhand der individuellen KI-Risikosituation.