Künstliche Intelligenz haben praktisch alle Banken auf die eine oder andere Weise im Einsatz, Einblick in reale Anwendungsfälle sind jedoch noch eher selten. Die Schweizer Tochter der italienischen Banca Popolare di Sondrio liefert eine Fallstudie mit konkreter Anwendung zum Thema Künstliche Intelligenz.
Die 1995 entstandene BPS (Suisse) ist eine Universalbank und hauptsächlich in den Bereichen Kreditvergabe, Vermögensverwaltung und Wertpapierhandel engagiert. Das Filialnetz umfasst derzeit 22 Geschäftsstellen in der ganzen Schweiz und im Fürstentum Monaco sowie eine virtuelle Filiale (Direct Banking) für den Online-Zugang zu allen Bankdienstleistungen in der Schweiz.
Verwaltung und Zugriff auf interne Dokumentation
Die Banca Popolare di Sondrio (Suisse) hat die Verwaltung ihrer internen Dokumentation sowie Suche und Zugriff durch eine Lösung optimiert, die auf generativer Künstlicher Intelligenz basiert. Das Projekt wurde auf Grundlage der Dell AI Factory with Nvidia umgesetzt – einer End-to-End-Plattform, die es der Bank ermöglicht hat, ein fortschrittliches RAG-Modell (Retrieval Augmented Generation) erfolgreich zu implementieren, um damit die tägliche Arbeit ihrer Mitarbeiter zu unterstützen.
Die erfolgreiche Einführung von Künstlicher Intelligenz beschränkt sich nicht nur auf die Bereitstellung einer leistungsfähigen Infrastruktur, sondern erfordert auch umfassende Kompetenzen, insbesondere in den Bereichen Datenmanagement und Datenaufbereitung. Ein integrierter Ansatz, der fachliche Beratung, die passende IT und starke Partnerschaften umfasst, ist von entscheidender Bedeutung. Nur wenige Unternehmen verfügen über alle erforderlichen Ressourcen und Spezialisten im eigenen Haus.
Künstliche Intelligenz im Einsatz für mehr Effizienz
BPS (Suisse) setzt bereits seit einiger Zeit KI-basierte Lösungen ein. Ziel war es, interne Prozesse zu verschlanken und operative Tätigkeiten zu beschleunigen. Ein konkretes Beispiel sind die zahlreichen Anfragen, die das Generalsekretariat jährlich erhält, darunter über 10'000 Anfragen zur Bonität von Kunden und zu spezifischen Vorschriften.
Ohne den Einsatz von KI müssten die Mitarbeiterinnen und Mitarbeiter eine Vielzahl von Rechts- und Vertragsdokumenten manuell durchsuchen, um die relevanten Informationen zu finden und umfassende Antworten geben zu können.
Um diesen Anforderungen gerecht zu werden, hat BPS (Suisse) eine GenAI-Lösung implementiert, die mit Hilfe eines LLM-Modells Informationen extrahieren und zusammenfassen kann und so relevante Antworten direkt aus den Unternehmensdokumenten liefert.
Das RAG-Modell stellt sicher, dass die Künstliche Intelligenz nur verifizierte Daten verwendet, wodurch das Risiko ungenauer Antworten verringert wird. Die Daten werden ständig aktualisiert, um die Zuverlässigkeit der bereitgestellten Informationen sicherzustellen.
Eine der grössten Herausforderungen bestand darin, die Rechenlast des Modells zu reduzieren und die RAG-Komponente effizient zu optimieren.
Komplettpaket liefert die nötige Infrastruktur
Technologiepartner des GenAI-Projekts ist Dell Technologies, deren AI Factory with Nvidia die Infrastruktur-Grundlage der Lösung bildet. Diese ist skalierbar ausgelegt und kann zukünftig PowerScale-Speichersysteme für die Verwaltung der KI-Daten nutzen.
Derzeit werden in der Produktionsumgebung Dell PowerEdge R760xa Rack-Server mit zwei Nvidia L40S-Karten eingesetzt. Darüber hinaus arbeitet die Lösung hauptsächlich mit Open-Source-Tools, die vom Inhouse-Team der Bank angepasst und optimiert wurden.
Dank dieser Lösung konnte die BPS (Suisse) ein vollständig internes und lokales System ohne Verbindungen zur Aussenwelt implementieren, was der Bank ermöglicht, die Vorschriften des Schweizer Bankensektors vollständig zu erfüllen.
