Gast-Q&A: KI-gestützte Betrugsangriffe und Datensicherheit sind zentrale Herausforderungen für SecOps
Antworten von Adnan Khan, Chefarchitekt und Senior Director für Datenanalyse und KI-Plattformen bei Visa
Erzählen Sie uns von sich
Mit mehr als 20 Jahren Erfahrung in den Bereichen Daten, KI und Unternehmensarchitektur bin ich derzeit Chefarchitekt und Senior Director für Datenanalysen und KI-Plattformen bei Visa. Mein Schwerpunkt liegt auf der Modernisierung von Unternehmensarchitekturen und der Auswahl zukunftssicherer Technologien, die sichere, intelligente und KI-gestützte Systeme ermöglichen. Ein wichtiger Aufgabenbereich ist die Unterstützung von agentenbasierten KI-gestützten Initiativen zur Betrugsprävention und Risikominderung auf globaler Ebene. Zuvor leitete ich die Entwicklung von Nokias Open Analytics (NOA) Framework der nächsten Generation, einer bahnbrechenden, datenvernetzten Plattform für die Datenanalyse im Telekommunikationsbereich. Ich habe einen MS in CE an der University of Florida abgeschlossen und mein akademisches Fundament mit fortgeschrittener KI/ML-Ausbildung auf Plattformen wie Coursera ergänzt. Meine Leidenschaft gilt dem Aufbau von Systemen im großen Maßstab, die nicht nur Daten für Geschäftseinblicke nutzen, sondern auch Ausfallsicherheit, Governance und Sicherheit gewährleisten.
Welche drei Überlegungen sollten Ihrer Meinung nach für Sicherheitsteams an erster Stelle stehen?
Bei Visa erleben wir aus erster Hand, wie sich KI-gestützte Betrugsangriffe entwickeln. Durch den Einsatz von KI bereiten Betrüger ausgeklügelte Phishing- und Enumeration-Angriffe vor und führen sie durch. Sicherheitsteams müssen diese feindliche Nutzung von KI vorhersehen und die notwendigen Kontrollen entwickeln, um diese Versuche zu verhindern.
Zweitens: Datensicherheit und -verwaltung: Im Zahlungsverkehr kann jeder Datenpunkt ein Risiko darstellen, und die Sicherstellung der Herkunft und des Ursprungs über alle Pipelines hinweg ist für eine genaue Betrugsbewertung von entscheidender Bedeutung.
Drittens: Zero Trust by Design: Angesichts von Milliarden globaler Transaktionen, die durch hybride Umgebungen fließen, müssen identitätsorientierte Kontrollen und der Zugang mit geringsten Rechten auf jeder Ebene eingebettet werden, um sowohl Kunden als auch Institutionen zu schützen.
Wo liegen Ihrer Meinung nach die Herausforderungen bei der Implementierung und Überwachung von Sicherheitsrichtlinien in multi-cloud ?
Für globale Zahlungsnetze wie Visa ist die Fragmentierung der Richtlinien eine zentrale Herausforderung. Verschiedene Cloud-Anbieter setzen Kontrollen unterschiedlich durch, was zu einer uneinheitlichen Sichtbarkeit in privaten/öffentlichen oder öffentlichen/öffentlichenpublic cloud führt. Dies führt zu Lücken in der Sichtbarkeit, wo schnell skalierende Arbeitslasten schwer zu überwachen sind. Und schließlich kommt es häufig zu einem Abdriften der Compliance, da Teams Dienste schneller bereitstellen, als sich die Kontrollen anpassen können. Die Lösungen liegen in einer zentralisierten Orchestrierung von Richtlinien, standardisierten Sicherheitsgrundlagen und Cloud-agnostischen Beobachtungsplattformen, die eine konsistente Durchsetzung über alle Anbieter hinweg gewährleisten.
Mit welchen Sicherheitsherausforderungen sollten Unternehmen rechnen, wenn sie den Einsatz von KI von der Test-/Entwicklungsphase bis zur Produktion skalieren?
Die Skalierung von KI in der Betrugsprävention und Risikobewertung birgt einzigartige Risiken. Die Sicherheit des Modells ist von entscheidender Bedeutung - ein feindlicher Input könnte so gestaltet werden, dass er die Betrugserkennungsmodelle umgeht. Ein weiteres Risiko sind Datenverluste. Wenn sensible Zahlungs- oder personenbezogene Daten beim Training oder bei der Inferenz offengelegt werden, ist das Vertrauen sofort gefährdet. Und schließlich entstehen blinde Flecken im Betrieb, wenn Entwicklungs-/Testmodelle nicht über die gleichen Kontrollen verfügen wie die Produktionsmodelle, aber dennoch sensible Daten enthalten können. Um hier Abhilfe zu schaffen, sind sichere MLOps-Pipelines, KI-spezifische Governance und eine kontinuierliche Überwachung von Betrugs- und Risikomodellen in verschiedenen Umgebungen erforderlich.
Welche KI-Techniken setzen Unternehmen Ihrer Meinung nach zur Verbesserung der Sicherheitseffizienz ein?
Einige der Ansätze, die sich bei uns bewährt haben, sind:
- Verhaltensanalysen, die "normale" Ausgabemuster ermitteln und Anomalien in Echtzeit aufzeigen - ein Eckpfeiler der Betrugsprävention von Visa.
- Generative KI und LLMs für die Signalkorrelation - Aufdeckung versteckter Betrugsangriffsvektoren durch die Verknüpfung unterschiedlicher Transaktionsdatensätze und ganzheitliche Darstellung der Sicherheitslage.
- Agentische KI zur Automatisierung der Reaktion auf Vorfälle - die Zeit von der Betrugserkennung bis zur Transaktionssperre oder Risikominderung wird in Sekunden statt in Stunden verkürzt.
Wie müssen sich Ihrer Meinung nach Sicherheitsanbieter angesichts der Multi-Vektor-Angriffe in Zukunft anpassen und weiterentwickeln? Sollten die Anbieter Partnerschaften eingehen oder stattdessen konsolidierte Lösungen entwickeln?
In einem Zahlungssystem, in dem täglich Milliarden von Transaktionen verarbeitet werden, reichen Einzellösungen einfach nicht mehr aus. Die Anbieter müssen ihre Kernfunktionen in einheitlichen Plattformen konsolidieren, die Betrugserkennung, Transaktionsüberwachung und Compliance auf integrierte Weise abdecken. Gleichzeitig müssen sie offene Standards und APIs nutzen, um sich mit ergänzenden Best-of-Breed-Lösungen zu integrieren. Was sich in Zukunft durchsetzen wird, ist eine Zusammenarbeit auf Ökosystemebene, bei der Anbieter eine durchgängige Sichtbarkeit, adaptive KI-gesteuerte Abwehr und nahtlose Interoperabilität bieten, ähnlich wie bei Visa, das weltweit Partnerschaften eingeht, um Zahlungen im gesamten Finanzsystem zu sichern.
Weitere Beiträge in dieser Serie:
