- Künstliche Intelligenz (KI) macht Unternehmen anfälliger für Großschäden durch Cyberangriffe und technisches Versagen
- Verantwortung verlagert sich vom Menschen auf die Maschine: Unternehmen sehen sich vor neuen, vielfach noch ungeklärten Haftungsfragen
- Maximierung des Nettonutzens von KI durch vorausschauendes Risikomanagement mit Fokus auf fünf Bereiche: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung und Ethik
- Versicherungsbranche nutzt KI zur Automatisierung von Prozessen, Risikoanalyse und besseren Kundeninteraktion
Chatbots, selbstfahrende Autos und vernetzte Maschinen in digitalen Fabriken lassen erahnen, wie unsere Zukunft einmal aussehen wird. Der Einsatz von Künstlicher Intelligenz (KI) bringt Unternehmen viele Vorteile wie höhere Effizienz, weniger repetitive Aufgaben und einem besseren Kundenservice. Gelangt die Technologie jedoch in die falschen Hände, könnten die potenziellen Gefahren den großen Nutzen schnell nivellieren. So steigert die allgegenwärtige Vernetzung die Anfälligkeit gegenüber böswilligen Cyberangriffen oder technischem Versagen, die zu großflächigen Ausfällen und enormen finanziellen Verlusten führen können. Unternehmen sehen sich zudem mit neuartigen Haftungsfragen konfrontiert, da sich die Verantwortung für Handlungen vom Menschen auf die Maschine verlagert.
In ihrer neuen Studie „The Rise of Artificial Intelligence: Future Outlook and Emerging Risks“ identifiziert die Allianz Global Corporate & Specialty (AGCS) einerseits die Vorteile der zunehmenden Implementierung von KI in Wirtschaft und Gesellschaft, einschließlich der Versicherungsbranche, weist aber auch auf entstehende Risiken durch die neue Technologie hin. Bei KI, auch als maschinelles Lernen bekannt, handelt es sich um Software, die in der Lage ist, wie ein Mensch zu denken und zu entscheiden.
„Egal ob für Wirtschaft, Politik, Mobilität, Gesundheit, Verteidigung oder Umwelt, KI bringt vielfältige Vorteile, aber auch potenzielle Risiken mit sich. Wir brauchen dringend vorbeugende Maßnahmen zur Risikominderung, um den Nettonutzen bei der breiten Einführung von KI-Anwendungen zu maximieren und unbeabsichtigte Nebenwirkungen zu reduzieren“, erklärt Michael Bruch, Head of Emerging Trends bei der AGCS.
Schon heute können sogenannte „schwache“ KI-Anwendungen bestimmte Aufgaben wie das Erkennen von Texten ausführen. In Zukunft werden „starke“ KI-Anwendungen sogar in der Lage sein autonome Fahrzeuge zu steuern, genauere Wettervorhersagen zu treffen, Krankheiten zu diagnostizieren, Finanzgeschäfte durchzuführen oder Industriemaschinen zu bedienen und zu überwachen. KI tritt häufig in Verbindung mit anderen neuen Technologien auf, wie dem Internet der Dinge, der Datenanalytik oder der Blockchain. Laut Accenture könnte KI die jährliche Wirtschaftswachstumsrate in zwölf Industrienationen bis 2035 verdoppeln1.
Diese potenziellen Vorteile haben jedoch ihren Preis. KI erhöht die ohnehin wachsende Gefahr durch Cyberrisiken weiter, die laut dem Allianz Risk Barometer 2018 bereits eine der größten Bedrohungen für Unternehmen darstellen: So könnte KI-gestützte Software zwar einerseits das Cyberrisiko für Unternehmen durch eine bessere Erkennung von Angriffen reduzieren, andererseits aber ebensolche Angriffe erleichtern, weil Planung und Durchführung einfacher werden. Ein- und derselbe Hackerangriff – oder alternativ auch ein Programmierungsfehler – könnten auf zahlreichen Rechnern repliziert werden. Dadurch werden große globale Cybervorfälle wahrscheinlicher, die laut Lloyds Schäden in Höhe von mehr als 50 Mrd. US-Dollar verursachen könnten. Allein ein halbtägiger Ausfall eines Cloudanbieters könnte für Schäden von etwa 850 Mio. US-Dollar sorgen (Cyence).
Im Bereich Mobilität werden hohe Erwartungen in KI-Anwendungen gesetzt. Selbstfahrende Autos sollen menschliche Fehler als Hauptursache für Unfälle zu beseitigen, und KI in Verkehrsleitsystemen den Verkehrsfluss besser steuern. Allerdings ist noch weithin ungeklärt, wer bei Unfällen haftbar ist und welche ethischen Grundsätze autonome Fahrzeuge in Dilemma-Situationen befolgen sollen, wenn Gesundheit und Leben anderer Verkehrsteilnehmer auf dem Spiel stehen.
Fünf Risikofaktoren von KI
Um entstehende KI-Risiken zu ermitteln, konzentriert sich AGCS auf fünf Bereiche: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung und Ethik. „Eine verantwortungsbewusste Entwicklung und Einführung von KI muss diese Faktoren berücksichtigen“, fordert Bruch. In Bezug auf die Sicherheit könnte beispielsweise das Rennen um die schnelle Markteinführung von KI-Systemen dazu führen, dass Überprüfungen nur unzureichend durchgeführt werden und so keine sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies könnte wiederum mehr Produktmängel und -rückrufe auslösen.
Was die Frage der Haftung betrifft, könnten intelligente KI-Agenten zwar künftig dem Menschen viele Entscheidungen abnehmen, dafür aber rechtlich nicht zur Verantwortung gezogen werden. In der Regel haftet der Hersteller oder Softwareprogrammierer von KI-Agenten für Fehler, die bei Nutzern Schäden verursachen. Für auf KI basierende Entscheidungen, die sich nicht direkt auf das Design oder die Herstellung zurückführen lassen, die aber von einem KI-Agenten aufgrund seiner Interpretation der Realität getroffen werden, könnte nach aktuell geltendem Recht allerdings niemand explizit haftbar gemacht werden. „Wenn die Anzahl der durch KI hervorgerufenen Schäden zunimmt, kann es schnell teuer werden und langwierig sein, die Entscheidungsfindung den Gerichten zu überlassen“, meint Bruch. „Wir brauchen Expertengremien, die die rechtliche Eintrittspflicht klären und einen Haftungsrahmen ausarbeiten, der Designer, Hersteller oder Verkäufer von KI-Produkten einer beschränkten Delikthaftung aussetzt.“
Der Versicherungsbranche kommt eine wesentliche Rolle zu, wenn es darum
geht, neue Risiken durch KI-Anwendungen zu minimieren oder abzusichern.
Traditionelle Deckungen müssen angepasst werden, um sowohl
Privatpersonen als auch Unternehmen entsprechend zu schützen.
Versicherer müssen Unternehmen für solche Gefahren wie Cyberangriffe,
Geschäftsunterbrechungen, Produktrückrufe und Reputationsschäden bessere
Lösungen bieten können. Zudem werden sich wahrscheinlich neue
Haftpflichtversicherungsmodelle durchsetzen, die Hersteller und
Softwareanbieter stärker in die Pflicht nehmen und die
Gefährdungshaftung von Verbrauchern einschränken.
Versicherer als frühe Anwender von KI
Die Versicherungsbranche zählt aufgrund der großen Datenmengen und wiederkehrenden Prozesse zu den Branchen, die stark auf maschinelles Lernen setzen. „KI hat enormes Potenzial für Versicherer. Anfangs wird sie die Automatisierung von Prozessen unterstützen, um die Policenausstellung oder Schadenabwicklung für die Kunden zu beschleunigen und zu verbessern“, erklärt Bruch. AGCS setzt bereits Roboter ein, um Dateneingaben in Systeme durchzuführen, und testet „Bots“, die die eingehende Briefpost, Emails oder auch Anrufe automatisch klassifizieren und weiterbearbeiten.
Durch KI-unterstützte Datenanalysen werden Versicherer und ihre Kunden zudem ein wesentlich besseres Verständnis der Risiken erlangen, so dass diese effektiver verringert oder über neue Versicherungslösungen absichert werden können. Nicht zuletzt wird KI auch die Beziehung zwischen Versicherer und ihren Kunden verändern, weil sie beispielsweise Self-Service-Angebote oder Beratung rund um die Uhr ermöglicht.
1. Accenture, Why Artificial Intelligence is the Future of Growth
Pressekontakte
Über die Allianz Global Corporate & Specialty
Allianz Global Corporate & Specialty (AGCS) is a leading global corporate insurance carrier and a key business unit of Allianz Group. AGCS provides risk consultancy, Property-Casualty insurance solutions and alternative risk transfer for a wide spectrum of commercial, corporate and specialty risks across 12 dedicated lines of business.
Our customers are as diverse as business can be, ranging from Fortune Global 500 companies to small businesses, and private individuals. Among them are the world’s largest consumer brands, tech companies and the global aviation and shipping industry, but also wineries, satellite operators or Hollywood film actors. They all look to AGCS for smart answers to their largest and most complex risks in a dynamic, multinational business environment and trust us to deliver an outstanding claims experience.
We constantly strive to deliver the best for our customers through our global team of around 4,400 employees from over 70 nationalities in 34 countries worldwide. As the one of the largest Property-Casualty units of Allianz Group, we are backed by strong and stable financial strength ratings and a global network in over 200 countries and territories. In 2018, AGCS generated a total of €8.2 billion gross premium worldwide.
Vorbehalt bei Zukunftsaussagen
Wie alle auf dieser Website veröffentlichten Inhalte unterliegen auch diese Aussagen unserem Haftungsausschluss für zukunftsgerichtete Aussagen:
All die letzten News, Reports und Updates
Newsletter
Keep up to date on all news and insights from Allianz Commercial